[发明专利]联邦学习模型构建方法、装置、中心服务器以及客户端在审
| 申请号: | 202010983811.3 | 申请日: | 2020-09-16 |
| 公开(公告)号: | CN114266357A | 公开(公告)日: | 2022-04-01 |
| 发明(设计)人: | 王绍刚 | 申请(专利权)人: | 京东科技控股股份有限公司 |
| 主分类号: | G06N20/00 | 分类号: | G06N20/00 |
| 代理公司: | 北京华夏泰和知识产权代理有限公司 11662 | 代理人: | 卢万腾;杜欣 |
| 地址: | 100176 北京市大兴区北京经*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 联邦 学习 模型 构建 方法 装置 中心 服务器 以及 客户端 | ||
本发明实施例涉及一种联邦学习模型构建方法、装置、中心服务器以及客户端,该方法包括:接收至少两个异构资源客户端发送的请求;根据异构资源客户端对应的数据元素,对至少两个异构资源客户端进行排序;将初始联邦学习模型按照排序顺序,分发至不同的异构资源客户端;接收每一个异构资源客户端对初始联邦学习模型进行训练后,上传的训练结果;综合训练结果,创建新的联邦学习模型;当新的联邦学习模型未达到预设要求时,将新的联邦学习模型再次发送至异构资源客户端进行迭代训练,直至最终获取的联邦学习模型达到预设要求,停止训练,完成联邦学习模型构建。通过该种方式,解决客户端选择问题的约束,提升联邦学习训练模型构建效率。
技术领域
本发明实施例涉及计算机技术领域,尤其涉及一种联邦学习模型构建方法、装置、中心服务器以及客户端。
背景技术
联邦学习协议迭代地要求随机客户端从服务器下载可训练的模型,用自己的数据更新模型,并将更新后的模型上传到服务器,同时要求服务器聚合多个客户端更新以进一步改进模型。虽然此协议中的客户端不需要公开自己的私有数据,可以保证客户端隐私。但当某些客户端可能会出现训练效率低的问题时,整个邻邦学习训练模型的训练过程将停滞不前,直至该客户端训练完成才可以执行后续动作。而具体采用哪些客户端,并不是联邦学习模型自身所能决定,而是随机选择的,基于这种情景,当某些客户端具有限的计算资源(即,需要较长的更新时间)或在无线信道条件差的情况(较长的上传时间)下,整体的训练过程会变得低效,进而影响后续应用进程。
发明内容
鉴于此,为解决现有技术中上述技术问题,本发明实施例提供一种联邦学习模型构建方法、装置、中心服务器以及客户端。
第一方面,本发明实施例提供一种联邦学习模型构建方法,该方法由中心服务器执行,该方法包括:
接收至少两个异构资源客户端发送的请求,请求中包括异构资源客户端对应的数据元素;
根据异构资源客户端对应的数据元素,对至少两个异构资源客户端进行排序;
将预构建的初始联邦学习模型按照至少两个异构资源客户端的排序顺序,依次分发至不同的异构资源客户端;
接收至少两个异构资源客户端中的每一个异构资源客户端对初始联邦学习模型进行训练后,上传的训练结果;
综合训练结果,创建新的联邦学习模型;
当新的联邦学习模型未达到预设要求时,将新的联邦学习模型再次发送至不同的异构资源客户端进行迭代训练,直至最终获取的联邦学习模型达到预设要求时,停止训练,完成联邦学习模型构建。
在一个可能的实施方式中,根据异构资源客户端对应的数据元素,对至少两个异构资源客户端进行排序,具体包括:
按照第一预设规则,从至少两个异构资源客户端对应的数据元素所组成的数组中选择第一基准数据元素;
基于第一基准数据元素,将数组分为两组;
当任一分组中数据元素的数量大于1时,重复执行按照第一预设规则,在分组中选择第二基准数据元素;
并基于第二基准数据元素,对分组进一步分为两组,直至每一个分组中数据元素的数量均为1时,停止分组;
基于每一次分组结果,对至少两个异构资源客户端进行排序,直至对所有异构资源客户端进行排序完成。
在一个可能的实施方式中,基于基准数据元素,将数组分为两组,具体包括:
当第一异构资源客户端对应的数据元素大于基准数据元素时,将第一异构资源客户端对应的数据元素分配至第一分组;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东科技控股股份有限公司,未经京东科技控股股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010983811.3/2.html,转载请声明来源钻瓜专利网。





