[发明专利]一种模型部署方法、装置及设备有效
| 申请号: | 201911286357.X | 申请日: | 2019-12-13 |
| 公开(公告)号: | CN111079152B | 公开(公告)日: | 2022-07-22 |
| 发明(设计)人: | 宗志远 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
| 主分类号: | G06F21/57 | 分类号: | G06F21/57;G06F21/60;G06F21/62;G06Q20/38 |
| 代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 陈冲 |
| 地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 模型 部署 方法 装置 设备 | ||
1.一种模型部署方法,包括:
获取已训练模型,所述已训练模型包含:在TEE中根据少量目标训练样本对预训练模型进行微调生成的已训练模型,所述预训练模型为在非TEE环境中采用大规模目标训练样本集合进行模型训练所得到的模型;
将所述已训练模型中包含已训练参数的权重函数和分类函数确定为已训练模型中的预测部分;
将所述预测部分替换为可信执行环境TEE中可执行的预测代码,部署所述TEE中可执行的预测代码至可信执行环境TEE中。
2.如权利要求1所述的方法,所述已训练模型还包含:
在非TEE环境中所得到的已训练模型;或者,
在TEE中采用目标训练样本的集合进行模型训练生成的、在TEE中可用的已训练模型。
3.如权利要求1所述的方法,部署所述TEE中可执行的预测代码至可信执行环境TEE中,包括:
封装所述TEE中可执行的预测代码,以应用程序编程接口API的形式部署所述封装后的可执行的预测代码至所述TEE中。
4.一种基于权利要求1至3中任一所述的TEE中可执行的预测代码的使用方法,包括:
接收待预测数据;
使用预设的公钥加密所述待预测数据,生成加密数据,其中,所述公钥为TEE所产生的密钥对中的公钥;
将所述加密数据发送至所述TEE中,使用所述公钥所对应的私钥进行解密,得到解密后的待预测数据;
在所述TEE中以所述解密后的待预测数据作为输入,执行所述预测代码,生成对于所述待预测数据的识别结果。
5.如权利要求4所述的方法,在所述TEE中根据所述输入的参数执行所述预测代码,生成对于所述待预测数据的识别结果,包括:
在所述TEE中发送所述待预测数据至所述预测代码所对应的应用程序编程接口API,接收所述API所返回的识别结果,将所述API所返回的识别结果确定为待预测数据的识别结果。
6.一种模型部署装置,包括:
获取模块,获取已训练模型,所述已训练模型包含:在TEE中根据少量目标训练样本对预训练模型进行微调生成的已训练模型,所述预训练模型为在非TEE环境中采用大规模目标训练样本集合进行模型训练所得到的模型;
确定模块,将所述已训练模型中包含已训练参数的权重函数和分类函数确定为已训练模型中的预测部分;
部署模块,将所述预测部分替换为可信执行环境TEE中可执行的预测代码,部署所述TEE中可执行的预测代码至可信执行环境TEE中。
7.如权利要求6所述的装置,所述已训练模型,还包含:在非TEE环境中所得到的已训练模型;或者,在TEE中采用目标训练样本的集合进行模型训练生成的、在TEE中可用的已训练模型。
8.如权利要求6所述的装置,所述部署模块,封装所述TEE中可执行的预测代码,以应用程序编程接口API的形式部署所述封装后的可执行的预测代码至所述TEE中。
9.一种基于权利要求6至8中任一所述的TEE中可执行的预测代码的使用装置,包括:
接收模块,接收待预测数据;
加密模块,使用预设的公钥加密所述待预测数据,生成加密数据,其中,所述公钥为TEE所产生的密钥对中的公钥;
解密模块,将所述加密数据发送至所述TEE中,使用所述公钥所对应的私钥进行解密,得到解密后的待预测数据;
识别模块,在所述TEE中以解密后的待预测数据作为输入,执行所述预测代码,生成对于所述待预测数据的识别结果。
10.如权利要求9所述的装置,所述识别模块,在所述TEE中发送所述待预测数据至所述预测代码所对应的应用程序编程接口API,接收所述API所返回的识别结果,将所述API所返回的识别结果确定为待预测数据的识别结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911286357.X/1.html,转载请声明来源钻瓜专利网。





