[发明专利]一种跨域协同训练任务计算效率仿真方法及相关设备在审
申请号: | 202210983212.0 | 申请日: | 2022-08-16 |
公开(公告)号: | CN115391156A | 公开(公告)日: | 2022-11-25 |
发明(设计)人: | 王进;张艳;陶恒韬;易泽轩;颜达森;王晖;余跃;曾炜 | 申请(专利权)人: | 鹏城实验室 |
主分类号: | G06F11/34 | 分类号: | G06F11/34;G06K9/62 |
代理公司: | 深圳市君胜知识产权代理事务所(普通合伙) 44268 | 代理人: | 陈专 |
地址: | 518000 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 协同 训练 任务 计算 效率 仿真 方法 相关 设备 | ||
1.一种跨域协同训练任务计算效率仿真方法,其特征在于,所述跨域协同训练任务计算效率仿真方法包括以下步骤:
输入跨域协同训练模型及相关参数;
根据所述跨域协同训练模型及所述相关参数初始化跨域协同训练中五种类型计算阶段的仿真模型;
根据所述相关参数中的跨域协同训练轮数,计算每个协同训练周期内不同阶段计算任务的时间点;
根据所有协同训练周期内的时间点统计出跨域协同训练任务的计算效率指标。
2.根据权利要求1所述的跨域协同训练任务计算效率仿真方法,其特征在于,所述输入跨域协同训练模型及相关参数的步骤之前包括:
将跨域协同训练任务划分为多个计算周期,并将每个计算周期划分为五种类型的计算任务;
分别对五种类型的计算任务进行仿真建模,得到跨域协同训练中五种类型计算阶段的仿真模型;其中,所述五种类型的计算阶段包括:本地训练、数据序列化或反序列化、数据传输、模型参数融合、模型评估与参数更新。
3.根据权利要求2所述的跨域协同训练任务计算效率仿真方法,其特征在于,所述分别对五种类型的计算任务进行仿真建模,得到跨域协同训练中五种类型计算阶段的仿真模型的步骤具体包括:
在本地训练阶段,输入参数为:深度学习模型M、计算设备数量D、计算卡间通信带宽C、分布式训练策略P、数据集B、数据量DataNum和训练超参数E,输出为:模型本地训练耗时t1,所述本地训练阶段的仿真模型定义为:t1=F1(M,D,C,P,B,DataNum,E);其中,所述深度学习模型M包括所述跨域协同训练模型;
在数据序列化或反序列化阶段,输入参数为:模型参数量ParaNum和计算设备Device,输出为:模型参数序列化和反序列化计算耗时t2,所述数据序列化或反序列化阶段的仿真模型定义为:t2=F2(ParaNum,Device);其中,F2为一个线性回归模型;
在数据传输阶段,输入参数为:通信延时δ、通信带宽C和数据量DataNum,输出为:数据传输耗时t3,所述数据传输阶段的仿真模型定义为:t3=F3(C,DataNum,δ);其中,F3为一个线性回归模型;
在模型参数融合阶段,输入参数为:模型参数量ParaNum和参数融合策略S,输出为:模型参数融合耗时t4,所述模型参数融合阶段的仿真模型定义为:t4=F4(ParaNum,S);其中,F4为一个线性回归模型;
在模型评估与参数更新阶段,输入参数为:模型参数量ParaNum和评估数据量DataNum,输出为:模型评估与参数更新耗时t5,所述模型评估与参数更新阶段的仿真模型定义为:t5=F5(ParaNum,DataNum);其中,F5为一个线性回归模型。
4.根据权利要求3所述的跨域协同训练任务计算效率仿真方法,其特征在于,所述根据所述跨域协同训练模型及所述相关参数初始化跨域协同训练中五种类型计算阶段的仿真模型的步骤具体包括:
将所述跨域协同训练模型及所述相关参数输入到跨域协同训练中五种类型计算阶段的仿真模型中,进行初始化操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于鹏城实验室,未经鹏城实验室许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210983212.0/1.html,转载请声明来源钻瓜专利网。