[发明专利]参数服务器的同步方法、系统及可读存储介质在审
申请号: | 202110851609.X | 申请日: | 2021-07-27 |
公开(公告)号: | CN113656494A | 公开(公告)日: | 2021-11-16 |
发明(设计)人: | 郑美光;毛东榜;魏业鸣 | 申请(专利权)人: | 中南大学 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/23;G06K9/62 |
代理公司: | 长沙朕扬知识产权代理事务所(普通合伙) 43213 | 代理人: | 邓宇 |
地址: | 410083 *** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 参数 服务器 同步 方法 系统 可读 存储 介质 | ||
1.一种参数服务器的同步方法,应用于服务器,其特征在于,所述方法包括:
确定用户上传的数据的通讯时间、执行时间以及等待时间;
基于所述通讯时间、所述执行时间以及所述等待时间确定迭代完成时间;
根据迭代完成时间确定目标同步点;
根据所述目标同步点确定是否需要执行同步操作,在确定为需要执行同步操作的情况下,执行所述同步通知对应的同步操作。
2.根据权利要求1所述的参数服务器的同步方法,其特征在于,所述基于所述通讯时间、所述第一执行时间以及所述等待时间确定迭代完成时间ti,其中,迭代完成时间ti满足如下关系式:
式中,twi是执行时间,tci是节点从参数服务器层获取模型参数需要的时间,tcu为当前时间,tst代表节点的开始时间计算的时间,d是常数故障时间。
3.根据权利要求1所述的参数服务器的同步方法,其特征在于,所述根据迭代完成时间确定目标同步点包括:
采用预设聚类方法对所述迭代完成时间进行聚类,并根据聚类结果确定目标同步点。
4.根据权利要求3所述的参数服务器的同步方法,其特征在于,所述根据聚类结果确定目标同步点,包括:
根据所述聚类结果确定梯度聚合时隙值;
根据所述梯度聚合时隙值和聚合参与计算梯度聚合所需要的时间差值构建同步评价函数;
根据所述同步评价函数确定所述目标同步点。
5.根据权利要求4所述的参数服务器的同步方法,其特征在于,所述方法还包括:
确定时间复杂度;
根据所述时间复杂度优化更新所述目标同步点。
6.根据权利要求5所述的参数服务器的同步方法,其特征在于,所述确定时间复杂度,包括:
确定聚类结果的总等待时间的第一复杂度和梯度聚合时隙值的第二复杂度;
根据所述第一复杂度和所述第二复杂度确定所述时间复杂度。
7.根据权利要求3所述的参数服务器的同步方法,其特征在于,所述预设聚类方法为K-means聚类方法。
8.一种参数服务器的同步系统,其特征在于,所述系统包括:数据存储层、训练层、调度层以及参数服务器层,所述训练层与所述数据存储层连接,且所述训练层与所述调度层连接,所述调度层还与所述参数服务器层连接,所述训练层中部署有若干个节点,所述调度层用于:
确定用户上传的数据的通讯时间、执行时间以及等待时间;
基于所述通讯时间、所述执行时间以及所述等待时间确定迭代完成时间;根据迭代完成时间确定目标同步点;
根据所述目标同步点确定是否需要执行同步操作,在确定为需要执行同步操作的情况下,执行所述同步通知对应的同步操作。
9.一种可读存储介质,其特征在于,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如权利要求1-7中任一所述的参数服务器的同步方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中南大学,未经中南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110851609.X/1.html,转载请声明来源钻瓜专利网。