[发明专利]模型训练方法、进行预测业务的方法及装置有效
申请号: | 202110379664.3 | 申请日: | 2021-04-08 |
公开(公告)号: | CN113159316B | 公开(公告)日: | 2022-05-17 |
发明(设计)人: | 王莹桂;贾晓玮;王力 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04;G06F21/62;G06F21/53 |
代理公司: | 北京亿腾知识产权代理事务所(普通合伙) 11309 | 代理人: | 陈霁;周良玉 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 进行 预测 业务 装置 | ||
1.一种基于隐私保护的模型训练方法,用于对经过预训练的业务预测模型进行基于隐私保护的增强训练,所述业务预测模型包括第1至第n个网络层,第1个所述网络层是卷积层,所述卷积层包括的若干卷积权重参数对应于卷积矩阵,所述方法应用于模型训练方,所述模型训练方包括可信执行环境和非可信执行环境,所述方法包括:
在所述可信执行环境中,对于从数据提供方接收的样本数据对应的变形数据,通过增强卷积层执行预设可信计算,所述预设可信计算具体利用混淆矩阵对所述变形数据进行预设处理以得到计算结果,所述变形数据通过变形矩阵与所述样本数据相乘得到,所述混淆矩阵基于所述变形矩阵的逆矩阵与所述卷积矩阵得到,所述计算结果与利用所述卷积矩阵对所述样本数据进行所述预设处理的结果相等同;
在所述非可信执行环境中,利用第2至第n个所述网络层对所述计算结果进行处理以得到处理结果,并根据所述处理结果和所述样本数据对应的标签,更新第2至第n个所述网络层的参数。
2.根据权利要求1所述的方法,其中,所述混淆矩阵基于所述变形矩阵的逆矩阵与拼接矩阵得到,所述拼接矩阵通过打乱所述卷积矩阵而得到。
3.根据权利要求2所述的方法,其中,所述卷积层包括若干卷积通道,所述卷积矩阵基于所述若干卷积通道对应的若干卷积子矩阵得到;所述拼接矩阵通过打乱所述若干卷积子矩阵的顺序得到。
4.根据权利要求1所述的方法,其中,还包括:
在所述非可信执行环境中,向所述数据提供方发送所述卷积矩阵,使所述数据提供方根据所述变形矩阵的逆矩阵和所述卷积矩阵确定所述混淆矩阵;
在所述可信执行环境中,从所述数据提供方接收所述混淆矩阵,根据所述混淆矩阵配置所述预设可信计算。
5.根据权利要求1所述的方法,其中,还包括:
在所述非可信执行环境中,向所述数据提供方发送所述若干卷积权重参数,使所述数据提供方根据所述若干卷积权重参数确定所述卷积矩阵,并根据所述变形矩阵的逆矩阵和所述卷积矩阵确定所述混淆矩阵;以及,
在所述可信执行环境中,从所述数据提供方接收所述混淆矩阵,根据所述混淆矩阵配置所述预设可信计算。
6.根据权利要求1所述的方法,其中,还包括:
在所述可信执行环境中,从所述数据提供方或者可信第三方接收所述变形矩阵的逆矩阵;以及,
在所述可信执行环境中,从所述非可信执行环境获取所述卷积矩阵,根据所述变形矩阵的逆矩阵和所述卷积矩阵确定所述混淆矩阵,并根据所述混淆矩阵配置所述预设可信计算。
7.根据权利要求1至6中任一项所述的方法,其中,还包括:在所述可信执行环境中,从所述数据提供方接收所述样本数据对应的标签,并将所述样本数据对应的标签发送到所述非可信执行环境;或者,在所述非可信执行环境中,从数据提供方接收所述样本数据对应的标签。
8.一种基于隐私保护的模型训练方法,用于对经过预训练的业务预测模型进行基于隐私保护的增强训练,所述业务预测模型包括第1至第n个网络层,第1个所述网络层是卷积层,所述卷积层包括的若干卷积权重参数对应于卷积矩阵,所述方法应用于数据提供方,所述方法包括:
获取样本数据对应的变形数据,所述变形数据通过变形矩阵与所述样本数据相乘得到;
向模型训练方包括的可信执行环境发送所述变形数据,使所述模型训练方在所述可信执行环境中通过增强卷积层执行预设可信计算,所述预设可信计算具体利用混淆矩阵对所述变形数据进行预设处理以得到计算结果,所述混淆矩阵基于所述变形矩阵的逆矩阵与所述卷积矩阵得到,所述计算结果与利用所述卷积矩阵对所述样本数据进行所述预设处理的结果相等同,所述计算结果用于在所述模型训练方包括的非可信执行环境中更新第2至第n个所述网络层的参数。
9.根据权利要求8所述的方法,其中,所述混淆矩阵基于所述变形矩阵的逆矩阵与拼接矩阵得到,所述拼接矩阵通过打乱所述卷积矩阵而得到。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110379664.3/1.html,转载请声明来源钻瓜专利网。