[发明专利]面向大规模联邦学习的任务编排方法、装置、设备和介质在审
申请号: | 202210623174.8 | 申请日: | 2022-06-01 |
公开(公告)号: | CN115016911A | 公开(公告)日: | 2022-09-06 |
发明(设计)人: | 李云波;张琛;万化;李健;李洁 | 申请(专利权)人: | 上海浦东发展银行股份有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/54;G06N3/04;G06N3/08 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 黄立伟 |
地址: | 200000 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 面向 大规模 联邦 学习 任务 编排 方法 装置 设备 介质 | ||
本发明实施例公开了一种面向大规模联邦学习的任务编排方法、装置、设备和介质,其中,方法包括:确定参与当前轮次的模型训练的目标终端;根据请求反馈信息中的各项模型训练条件属性参数,对目标终端进行终端分类,得到第一类目标终端和第二类目标终端;将待训练模型的全部学习任务分发至各第一类目标终端,并将待训练模型中预设部分学习任务下发至各第二类目标终端,并依次配合第二类目标终端中各终端执行当前轮次的模型训练的学习任务。本发明实施例的技术方案解决了联邦学习过程中部分终端无法在规定时间内完成学习任务,学习效率低的问题,使参与联邦学习的各个终端能在预设时间内完成当前轮次模型训练,提升模型训练的效率和模型精度。
技术领域
本发明实施例涉及人工智能技术领域,尤其涉及一种面向大规模联邦学习的任务编排方法、装置、设备和介质。
背景技术
联邦学习(Federated Learning)是一钟保护隐私的分布式机器学习技术,在保证数据不离开本地的前提下,充分利用分散在各个终端上的数据和计算资源协同开展分布式机器学习。在分布式学习过程中,联邦学习通常采用同步更新模式,由服务器向参与训练的终端分发模型,然后收集各终端的训练反馈结果,完成参数更新。
但是,在这个过程中,由于各终端的计算资源异构、网络信道状况多变、深度神经网络计算资源要求高等问题,会使联邦学习每轮训练时间过长,或者因为部分终端无法在规定时间内完成当轮计算,导致当轮结果聚合时,参与用户数量少、模型精度降低等问题,特别是在大规模的联邦学习中该问题尤其突出。
发明内容
本发明实施例提供了一种面向大规模联邦学习的任务编排方法、装置、设备和介质,以使参与大规模联邦学习的各个终端均能在预设时间内完成训练,提升模型训练的效率和模型精度。
第一方面,本发明实施例提供了一种面向大规模联邦学习的任务编排方法,该方法包括:
向预设广播域中发送模型训练条件属性参数请求信息,并获取相应的请求反馈信息,并基于所述请求反馈信息,确定参与当前轮次的模型训练的目标终端;
根据所述请求反馈信息中的各项模型训练条件属性参数,对所述目标终端进行终端分类,得到第一类目标终端和第二类目标终端;
将待训练模型的全部学习任务分发至各所述第一类目标终端,使各所述第一类目标终端分别独立执行所述当前轮次的模型训练的学习任务,并将所述待训练模型中预设部分学习任务下发至各所述第二类目标终端,并依次配合所述第二类目标终端中各终端执行所述当前轮次的模型训练的学习任务。
第二方面,本发明实施例提供了一种面向大规模联邦学习的任务编排装置,该装置包括:
联邦学习参与终端确定模块,用于向预设广播域中发送模型训练条件属性参数请求信息,并获取相应的请求反馈信息,并基于所述请求反馈信息,确定参与当前轮次的模型训练的目标终端;
参与终端分类模块,用于根据所述请求反馈信息中的各项模型训练条件属性参数,对所述目标终端进行终端分类,得到第一类目标终端和第二类目标终端;
终端学习任务编排模块,用于将待训练模型的全部学习任务分发至各所述第一类目标终端,使各所述第一类目标终端分别独立执行所述当前轮次的模型训练的学习任务,并将所述待训练模型中预设部分学习任务下发至各所述第二类目标终端,并依次配合所述第二类目标终端中各终端执行所述当前轮次的模型训练的学习任务。
第三方面,本发明实施例还提供了一种计算机设备,所述计算机设备包括:
一个或多个处理器;
存储器,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明任意实施例所提供的面向大规模联邦学习的任务编排方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海浦东发展银行股份有限公司,未经上海浦东发展银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210623174.8/2.html,转载请声明来源钻瓜专利网。