[发明专利]一种模型任务的执行方法、装置、存储介质及电子设备在审
| 申请号： | 202311158944.7 | 申请日： | 2023-09-08 |
| 公开（公告）号： | CN116880995A | 公开（公告）日： | 2023-10-13 |
| 发明（设计）人： | 张北北;王东升;高丰 | 申请（专利权）人： | 之江实验室 |
| 主分类号： | G06F9/48 | 分类号： | G06F9/48;G06N3/0464 |
| 代理公司： | 北京博思佳知识产权代理有限公司 11415 | 代理人： | 邓超 |
| 地址： | 311121 浙江省杭*** | 国省代码： | 浙江;33 |
| 权利要求书： | 暂无信息 | 说明书： | 暂无信息 |
| 摘要： | 本说明书公开了一种模型任务的执行方法、装置、存储介质及电子设备，确定运行神经网络模型的任务，对神经网络模型进行解析，得到模型算子以及模型算子信息。根据模型算子以及模型算子之间的张量传递关系，确定任务中的各子任务以及各子任务之间的连接关系，确定各子任务的调用函数。将各子任务以及各子任务的调用函数发送至分布式系统中的各边缘服务器，根据各子任务之间的连接关系，控制边缘服务器执行各子任务。该方法实现了对神经网络模型从模型算子层面的拆分，并使用分布式系统运行各子任务，在不影响神经网络模型的精度的前提下，提高了神经网络模型的推理速度，降低了对单个服务器的算力需求以及存储需求。 | ||
| 搜索关键词： | 一种 模型 任务 执行 方法 装置 存储 介质 电子设备 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于之江实验室，未经之江实验室许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202311158944.7/，转载请声明来源钻瓜专利网。
