扬州万方申请嵌入式端侧推理工程化装置及方法专利，从云平台侧向端侧部署的推理服务器发起推理请求获取端侧

金融界2025年5月24日消息，兼容led电子镇流器工作原理国家知识产权局信息显示，扬州万方科技股份有限公司申请一项名为“一种嵌入式端侧推理工程化装置及方法”的专利，公开号CN120031135A，申请日期为2025年02月。

专利摘要显示，一种嵌入式端侧推理工程化装置及方法。涉及计算机技术工程领域。包括模型转换服务模块、推理服务模块、端侧代理服务模块。所述模型转换服务模块用于将模型转换为端侧设备支持的模型格式，示波器探头原理并推送至平台上的模型仓库进行存储；所述推理服务模块用于将带有转换后模型文件的压缩包通过平台部署创建一个在端侧设备上运行的在线推理服务，完成部署后用户在平台上请求端侧在线推理服务；所述端侧代理服务模块用于在端侧创建并运行推理服务、监测推理服务健康状态、处理客户端发来的推理请求、终止并删除推理服务进程。本发明从云平台侧向端侧部署的推理服务器发起推理请求，获取端侧的推理结果。最终，将这些结果展示在平台侧的页面上。

天眼查资料显示，扬州万方科技股份有限公司，成立于1997年，位于扬州市，是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本5775万人民币。通过天眼查大数据分析，扬州万方科技股份有限公司共对外投资了3家企业，参与招投标项目84次，财产线索方面有商标信息20条，专利信息117条，此外企业还拥有行政许可25个。