[发明专利]一种基于联邦学习的个性化图像分类模型训练方法在审
申请号: | 202210773279.1 | 申请日: | 2022-07-01 |
公开(公告)号: | CN115331069A | 公开(公告)日: | 2022-11-11 |
发明(设计)人: | 刘瑛迪 | 申请(专利权)人: | 中银金融科技有限公司 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/764;G06V10/94;G06N20/20 |
代理公司: | 上海科盛知识产权代理有限公司 31225 | 代理人: | 宣慧兰 |
地址: | 200120 上海市浦东新区中国(*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 联邦 学习 个性化 图像 分类 模型 训练 方法 | ||
本发明涉及一种基于联邦学习的个性化图像分类模型训练方法,包括:S1、客户端从服务端获取初始通用模型;S2、将用户拍摄或导入图片进行分类,并获取反馈信息将相应图片纳入第一训练数据集和第二训练数据集;S3、当样本数量达到阈值时,根据第二训练数据集进行训练,得到个性化模型参数并保存;S4、根据第一训练数据集进行训练,得到本地模型参数上传至服务端进行联邦聚合,更新初始通用模型;S5、将更新后的通用模型下发到客户端与个性化模型参数按照权重进行聚合,生成个性化图片分类模型;S6、个性化图片分类模型进行分类,直到下一轮更新。与现有技术相比,本发明具有避免在初期产生较大误差、模型训练更加高效、个性化模型更稳定等优点。
技术领域
本发明涉及图像分类技术领域种,尤其是涉及一种基于联邦学习的个性化图像分类模型训练方法。
背景技术
图像分类应用在服务端生成模型,然后下发至客户端设备并使用该模型进行推导,这种方式缺少个性化。例如,当使用者手动将某张图片的分类由“猫咪”更改为“宝宝”后,该用户的与之相似度高的图片被分类为“宝宝”的可能性应当增大,而对于系统的其他参与者,仍使用通用模型将类似图片分类为“猫咪”。这意味着,在经过良好训练的通用模型的基础上,各客户端需要根据自身数据再次训练,以维护个性化模型。
联邦学习虽然利用了客户端自身的数据进行本地模型训练,但它会将模型进行聚合,再分发统一模型,用来更新客户端的本地模型。对每个客户端来说,模型是相同的,自身的训练数据与其他客户端的训练数据地位平等,因此无法满足个性化图像分类。
发明内容
本发明的目的就是为了克服上述现有技术存在的联邦学习模型难以满足用户的个性化图像分类需求的缺陷而提供一种基于联邦学习的个性化图像分类模型训练方法。
本发明的目的可以通过以下技术方案来实现:
一种基于联邦学习的个性化图像分类模型训练方法,具体包括以下步骤:
S1、客户端从服务端获取初始通用模型;
S2、根据初始通用模型将用户拍摄或导入图片进行分类,并获取用户的反馈信息将用户采纳的相应图片纳入第一训练数据集X,将用户不采纳的相应图片纳入第二训练数据集Y;
S3、当第一训练数据集X和第二训练数据集Y的样本数量达到阈值时,根据第二训练数据集进行模型训练,得到个性化模型参数并保存;
S4、根据第一训练数据集进行训练,得到本地模型参数上传至服务端,服务端将各客户端上传的本地模型参数进行联邦聚合,更新初始通用模型;
S5、将更新后的通用模型下发到客户端,客户端将个性化模型参数与通用模型按照权重进行聚合,生成个性化图片分类模型;
S6、个性化图片分类模型进行图片分类,直到下一轮更新。
所述初始通用模型具体为CNN模型,其中每个神经元对输入信号加权求和加偏置,具体公式如下所示:
y=wx+b
其中,x为输入信号矩阵,w为权重组成的向量,b为偏置,w与b组合形成参数集合。大量神经元组成一个神经网络,这个神经网络模型是由参数集合和分层方式决定的。
进一步地,所述CNN模型训练的过程具体为根据第一训练数据集的训练样本与第二训练数据集的分类结果样本,通过梯度下降方式计算得到损失函数到达极小值时的参数,调整参数集合并更新模型。
进一步地,所述CNN模型的第一层为卷积层,第二层为池化层,第三层为卷积层,第四层为稠密连接层,第五层为输出层。
进一步地,所述CNN模型中第一层的卷积层采用5*5的卷积核在输入的矩阵上滑动,并计算卷积,用来初步提取抽象特征,第二层的池化层的大小为2*2,并使用最大池化方法降维,第三层的卷积层的大小为3*3并进行池化。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中银金融科技有限公司,未经中银金融科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210773279.1/2.html,转载请声明来源钻瓜专利网。