[发明专利]一种基于联邦学习的个性化图像分类模型训练方法在审
申请号: | 202210773279.1 | 申请日: | 2022-07-01 |
公开(公告)号: | CN115331069A | 公开(公告)日: | 2022-11-11 |
发明(设计)人: | 刘瑛迪 | 申请(专利权)人: | 中银金融科技有限公司 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/764;G06V10/94;G06N20/20 |
代理公司: | 上海科盛知识产权代理有限公司 31225 | 代理人: | 宣慧兰 |
地址: | 200120 上海市浦东新区中国(*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 联邦 学习 个性化 图像 分类 模型 训练 方法 | ||
1.一种基于联邦学习的个性化图像分类模型训练方法,其特征在于,具体包括以下步骤:
S1、客户端从服务端获取初始通用模型;
S2、根据初始通用模型将用户拍摄或导入图片进行分类,并获取用户的反馈信息将用户采纳的相应图片纳入第一训练数据集,将用户不采纳的相应图片纳入第二训练数据集;
S3、当第一训练数据集和第二训练数据集的样本数量达到阈值时,根据第二训练数据集进行模型训练,得到个性化模型参数并保存;
S4、根据第一训练数据集进行训练,得到本地模型参数上传至服务端,服务端将各客户端上传的本地模型参数进行联邦聚合,更新初始通用模型;
S5、将更新后的通用模型下发到客户端,客户端将个性化模型参数与通用模型按照权重进行聚合,生成个性化图片分类模型;
S6、个性化图片分类模型进行图片分类,直到下一轮更新。
2.根据权利要求1所述的一种基于联邦学习的个性化图像分类模型训练方法,其特征在于,所述初始通用模型具体为CNN模型,其中每个神经元对输入信号加权求和加偏置,具体公式如下所示:
y=wx+b
其中,x为输入信号矩阵,w为权重组成的向量,b为偏置,w与b组合形成参数集合。
3.根据权利要求2所述的一种基于联邦学习的个性化图像分类模型训练方法,其特征在于,所述CNN模型训练的过程具体为根据第一训练数据集的训练样本与第二训练数据集的分类结果样本,通过梯度下降方式计算得到损失函数到达极小值时的参数,调整参数集合并更新模型。
4.根据权利要求2所述的一种基于联邦学习的个性化图像分类模型训练方法,其特征在于,所述CNN模型的第一层为卷积层,第二层为池化层,第三层为卷积层,第四层为稠密连接层,第五层为输出层。
5.根据权利要求4所述的一种基于联邦学习的个性化图像分类模型训练方法,其特征在于,所述CNN模型中第一层的卷积层采用5*5的卷积核,第二层的池化层的大小为2*2,第三层的卷积层的大小为3*3。
6.根据权利要求1所述的一种基于联邦学习的个性化图像分类模型训练方法,其特征在于,所述步骤S2中初始通用模型将用户拍摄或导入图片进行分类的过程具体为计算图片属于某一分类的置信值,输出置信值最大的分类结果。
7.根据权利要求1所述的一种基于联邦学习的个性化图像分类模型训练方法,其特征在于,所述步骤S4中具体包括每个客户端并行地进行迭代,获得更优的本地模型参数后在服务端同步。
8.根据权利要求1所述的一种基于联邦学习的个性化图像分类模型训练方法,其特征在于,所述步骤S4中联邦聚合的公式具体如下所示:
其中,t表示第t轮更新,K为客户端的数量,nk为第k个客户端的样本数量为,为第k个客户端更新后的本地模型参数,wt+1为第t+1轮通用模型的参数,N为总的样本数量。
9.根据权利要求1所述的一种基于联邦学习的个性化图像分类模型训练方法,其特征在于,所述步骤S5中聚合的过程具体为客户端将下发的本轮更新的通用模型参数与个性化模型参数按照样本数量再次进行聚合。
10.根据权利要求9所述的一种基于联邦学习的个性化图像分类模型训练方法,其特征在于,所述通用模型参数与个性化模型参数聚合的公式具体如下所示:
N=n1+an2
其中,w1为通用模型参数,w2为个性化模型参数,N为总的样本数量,a为个性化模型权重,n2为客户端的样本数量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中银金融科技有限公司,未经中银金融科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210773279.1/1.html,转载请声明来源钻瓜专利网。