[发明专利]基于联邦学习的模型训练方法及装置在审
申请号: | 202210010060.6 | 申请日: | 2022-01-06 |
公开(公告)号: | CN114387580A | 公开(公告)日: | 2022-04-22 |
发明(设计)人: | 范晓亮;陈亮;王程;程明 | 申请(专利权)人: | 厦门大学 |
主分类号: | G06V20/58 | 分类号: | G06V20/58;G06V10/774;G06K9/62;G06N20/00 |
代理公司: | 厦门创象知识产权代理有限公司 35232 | 代理人: | 叶秀红 |
地址: | 361000 *** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 联邦 学习 模型 训练 方法 装置 | ||
本发明公开了一种基于联邦学习的模型训练方法及装置,其中方法包括:采集每个客户端对应的三维点云数据进行预处理,以得到对应的道路点云二维灰度分块图片;获取服务器端的全局模型,并根据道路点云二维灰度分块图片对全局模型进行训练及计算,以得到每个客户端对应的模型参数和道路标识权重,并将每个客户端对应的模型参数和道路标识权重发送给服务器端以对每个客户端对应的模型进行加权平均以得到更新后的全局模型,并发送给每个客户端,以便进行下一轮模型更新,直至达到最大通信轮数后得到道路标识提取模型;由此,通过各个客户端正负样本占比设置权重,实现了客户端的公平聚合,从而提高了联邦学习模型的准确度和公平性。
技术领域
本发明涉及深度学习技术领域,特别涉及一种基于联邦学习的模型训练方法、一种计算机可读存储介质、一种计算机设备以及一种基于联邦学习的模型训练装置。
背景技术
在信息技术高速发展的今天,在海量数据上经过机器学习算法训练的模型被应用于各行各业;然而随着人们隐私意识的提升和相关法律的推行,直接获取用户数据用于训练模型或将不再可行;而联邦学习作为一种具有隐私保护能力的分布式机器学习范式应运而生;它不再要求用户上传数据,而只交换加密后的模型参数,这样既可以利用用户的数据和算力协同训练一个模型,又保护了用户数据的隐私。
相关技术中,道路标识提取任务在自动驾驶高精度导航等应用中至关重要;然而,道路点云数据的合规使用和联合训练仍面临技术挑战,例如自动驾驶公司之间因商业机密和隐私保护等原因,不愿公开各自的提取的算法模型和训练数据;因此,如何设计一种既支持数据合规利用又提高联合训练效果的道路标识提取算法至关重要。
发明内容
本发明旨在至少在一定程度上解决上述技术中的技术问题之一。为此,本发明的一个目的在于提出一种基于联邦学习的模型训练方法,通过各个客户端正负样本占比设置权重,实现了客户端的公平聚合,从而提高了联邦学习模型的准确度和公平性。
本发明的第二个目的在于提出一种计算机可读存储介质。
本发明的第三个目的在于提出一种计算机设备。
本发明的第四个目的在于提出一种基于联邦学习的模型训练装置。
为达到上述目的,本发明第一方面实施例提出了一种基于联邦学习的模型训练方法,包括以下步骤:采集每个客户端对应的三维点云数据,并对所述三维点云数据进行预处理,以得到对应的道路点云二维灰度分块图片,并将所述每个客户端对应的道路点云二维灰度分块图片作为所述每个客户端对应的数据集;在每一轮通信中,获取服务器端的全局模型,并根据所述每个客户端对应的数据集对所述全局模型进行训练,以得到每个客户端对应的模型参数;根据所述每个客户端内道路标识的像素数量计算每个客户端对应的道路标识权重,并将所述每个客户端对应的模型参数和道路标识权重发送给所述服务器端;所述服务器端根据所述每个客户端对应的模型参数和道路标识权重进行加权平均以得到更新后的全局模型,并将所述更新后的全局模型发送给所述每个客户端,以便进行下一轮模型更新,直至达到最大通信轮数后得到道路标识提取模型。
根据本发明实施例的基于联邦学习的模型训练方法,首先,采集每个客户端对应的三维点云数据,并对三维点云数据进行预处理,以得到对应的道路点云二维灰度分块图片,并将每个客户端对应的道路点云二维灰度分块图片作为每个客户端对应的数据集;接着,在每一轮通信中,获取服务器端的全局模型,并根据每个客户端对应的数据集对全局模型进行训练,以得到每个客户端对应的模型参数;再接着,根据每个客户端内道路标识的像素数量计算每个客户端对应的道路标识权重,并将每个客户端对应的模型参数和道路标识权重发送给服务器端;然后,服务器端根据每个客户端对应的模型参数和道路标识权重进行加权平均以得到更新后的全局模型,并将更新后的全局模型发送给每个客户端,以便进行下一轮模型更新,直至达到最大通信轮数后得到道路标识提取模型;由此,通过各个客户端正负样本占比设置权重,实现了客户端的公平聚合,从而提高了联邦学习模型的准确度和公平性。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门大学,未经厦门大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210010060.6/2.html,转载请声明来源钻瓜专利网。