[发明专利]模型训练方法、进行预测业务的方法及装置有效
申请号: | 202110379664.3 | 申请日: | 2021-04-08 |
公开(公告)号: | CN113159316B | 公开(公告)日: | 2022-05-17 |
发明(设计)人: | 王莹桂;贾晓玮;王力 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04;G06F21/62;G06F21/53 |
代理公司: | 北京亿腾知识产权代理事务所(普通合伙) 11309 | 代理人: | 陈霁;周良玉 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 进行 预测 业务 装置 | ||
本说明书实施例中提供了一种基于隐私保护的模型训练方法、进行预测业务的方法及装置。模型训练方法用于对经过预训练的业务预测模型进行基于隐私保护的增强训练,该业务预测模型包括第1至第n个网络层,该方法应用于包括可信执行环境和非可信执行环境的模型训练方,该方法包括:在可信执行环境中,通过增强卷积层对来自数据提供方并且对应于样本数据的变形数据执行预设可信计算,预设可信计算对变形数据进行预设处理以得到计算结果,该计算结果与利用第1个网络层对样本数据进行处理的结果等同;在非可信执行环境中,根据计算结果和样本数据对应的标签更新第2至第n个网络层的参数。
技术领域
本说明书一个或多个实施例涉及计算机领域,尤其涉及模型训练方法、进行预测业务的方法及装置。
背景技术
通过包含若干样本数据的训练数据集训练得到业务预测模型后,可以利用该业务预测模型对业务数据进行处理以获得相应的预测结果。比如,可以利用业务预测模型预测医学影像、人脸图像或者音频等业务数据所属的分类;还可以利用业务预测模型预测业务对象在图像中的位置,其中该业务对象可以包括但不限于人物对象、车辆、人物对象的脸部或者眼部等等。
提供样本数据的数据提供方,可能不同于业务预测模型的模型训练方,而样本数据往往是对隐私性和安全性具有较高要求的私有数据,私有数据并不应当被直接暴露给模型训练方。
因此希望有一种新的技术方案,以期实现在训练业务预测模型的过程中,确保私有数据的安全性和隐私性。
发明内容
本说明书一个或多个实施例中提供了一种基于隐私保护的模型训练方法、进行预测业务的方法及装置。
第一方面,提供了一种基于隐私保护的模型训练方法,用于对经过预训练的业务预测模型进行基于隐私保护的增强训练,所述业务预测模型包括第1至第n个网络层,所述方法应用于模型训练方,所述模型训练方包括可信执行环境和非可信执行环境。所述方法包括:
在所述可信执行环境中,对于从数据提供方接收的样本数据对应的变形数据,通过增强卷积层执行预设可信计算,所述预设可信计算对所述变形数据进行预设处理以得到计算结果,所述计算结果与利用第1个所述网络层对所述样本数据进行处理的结果相等同;
在所述非可信执行环境中,利用第2至第n个所述网络层对所述计算结果进行处理以得到处理结果,并根据所述处理结果和所述样本数据对应的标签,更新第2至第n个所述网络层的参数。
在一种可能的实施方式中,第1个所述网络层是卷积层,所述卷积层包括的若干卷积权重参数对应于卷积矩阵;所述预设可信计算具体利用混淆矩阵对所述变形数据进行预设处理以得到计算结果,所述计算结果与利用所述卷积矩阵对所述样本数据进行所述预设处理的结果相等同。
在一种可能的实施方式中,所述变形数据通过变形矩阵与所述样本数据相乘得到,所述混淆矩阵基于所述变形矩阵的逆矩阵与所述卷积矩阵得到。
在一种可能的实施方式中,所述混淆矩阵基于所述变形矩阵的逆矩阵与拼接矩阵得到,所述拼接矩阵通过打乱所述卷积矩阵而得到。
在一种可能的实施方式中,所述卷积层包括若干卷积通道,所述卷积矩阵基于所述若干卷积通道对应的若干卷积子矩阵得到;所述拼接矩阵通过打乱所述若干卷积子矩阵的顺序得到。
在一种可能的实施方式中,还包括:在所述非可信执行环境中,向所述数据提供方发送所述卷积矩阵,使所述数据提供方根据所述变形矩阵的逆矩阵和所述卷积矩阵确定所述混淆矩阵;在所述可信执行环境中,从所述数据提供方接收所述混淆矩阵,根据所述混淆矩阵配置所述预设可信计算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110379664.3/2.html,转载请声明来源钻瓜专利网。