[发明专利]模型的部署方法、装置、电子设备及存储介质在审
申请号: | 202210282208.1 | 申请日: | 2022-03-21 |
公开(公告)号: | CN114611698A | 公开(公告)日: | 2022-06-10 |
发明(设计)人: | 王泽楷;杨欣;罗洪运;朱制 | 申请(专利权)人: | 深圳市商汤科技有限公司 |
主分类号: | G06N3/10 | 分类号: | G06N3/10;G06N3/08;G06N3/04;G06N5/04;G06N20/00;G06F8/60;G06F11/36 |
代理公司: | 北京林达刘知识产权代理事务所(普通合伙) 11277 | 代理人: | 刘新宇 |
地址: | 518000 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 部署 方法 装置 电子设备 存储 介质 | ||
1.一种模型的部署方法,其特征在于,所述部署方法包括:
根据预设的指令序列,调用至少一个目标模型,所述目标模型是在待训练数据满足预设条件的情况下,基于所述待训练数据对初始模型训练得到的;
基于服务测试数据和所述目标模型,得到第一服务精度;
在所述第一服务精度大于第二服务精度的情况下,生成部署请求;其中,所述第二服务精度为基于所述服务测试数据和所述初始模型得到的精度,所述部署请求用于将目标模型部署至待部署设备。
2.如权利要求1所述的部署方法,其特征在于,所述预设条件包括:待训练数据的数量大于或等于预设数量、或待训练数据的数量与已训练数据的数量之间的比值大于或等于预设比值。
3.如权利要求1或2所述的部署方法,其特征在于,所述根据预设的指令序列,调用至少一个目标模型,包括:
确定至少一个目标模型对应的接口配置信息;
根据预设的指令序列,通过所述接口配置信息调用至少一个目标模型。
4.如权利要求3所述的部署方法,其特征在于,所述确定至少一个目标模型对应的接口配置信息,包括:
转换目标模型为推理模型;
根据所述推理模型对应的第一接口配置信息,确定目标模型对应的接口配置信息。
5.如权利要求4所述的部署方法,其特征在于,所述根据所述推理模型对应的第一接口配置信息,确定目标模型对应的接口配置信息,包括:
确定所述推理模型对应的第一接口配置信息;
云服务化所述第一接口配置信息,以生成第二接口配置信息,并将所述第二接口配置信息作为目标模型对应的接口配置信息。
6.如权利要求4或5所述的部署方法,其特征在于,所述转换目标模型为推理模型,包括:
输入模型测试数据至目标模型,以获得第一模型精度;
在所述第一模型精度大于第二模型精度的情况下,将目标模型转换为推理模型;其中,所述第二模型精度为输入所述模型测试数据至初始模型所得到的精度。
7.如权利要求3至6中任意一项所述的部署方法,其特征在于,所述根据预设的指令序列,调用至少一个目标模型,包括:
确定至少一个目标模型对应的接口配置信息之后,根据接口测试数据,确定所述接口配置信息的调用状态;
在所述调用状态为异常状态的情况下,生成结束请求,所述结束请求用于停止调用目标模型。
8.如权利要求3至7中任意一项所述的部署方法,其特征在于,所述基于服务测试数据和所述目标模型,得到第一服务精度,包括:
发送所述接口配置信息至测试设备;
接收所述测试设备发送的服务测试数据;
根据预设的指令序列,基于服务测试数据和所述目标模型得到第一服务精度。
9.如权利要求3至8中任意一项所述的部署方法,其特征在于,所述部署方法还包括:
响应于所述部署请求,发送所述接口配置信息至待部署设备。
10.一种模型的部署装置,其特征在于,所述部署装置包括:
目标模型调用模块,用以根据预设的指令序列,调用至少一个目标模型,所述目标模型是在待训练数据满足预设条件的情况下,基于所述待训练数据对初始模型训练得到的;
服务精度获取模块,用以基于服务测试数据和所述目标模型,得到第一服务精度;
部署请求生成模块,用以在所述第一服务精度大于第二服务精度的情况下,生成部署请求;其中,所述第二服务精度为基于所述服务测试数据和所述初始模型得到的精度,所述部署请求用于将目标模型部署至待部署设备。
11.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为调用所述存储器存储的指令,以执行权利要求1至9中任意一项所述的模型的部署方法。
12.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时,实现权利要求1至9中任意一项所述的模型的部署方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市商汤科技有限公司,未经深圳市商汤科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210282208.1/1.html,转载请声明来源钻瓜专利网。