[发明专利]一种预测深度学习模型单轮迭代时间的方法和系统有效
申请号: | 201811578363.8 | 申请日: | 2018-12-21 |
公开(公告)号: | CN109711555B | 公开(公告)日: | 2021-08-10 |
发明(设计)人: | 孙军欢;张骏雪 | 申请(专利权)人: | 深圳致星科技有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 深圳市力道知识产权代理事务所(普通合伙) 44507 | 代理人: | 何姣 |
地址: | 518000 广东省深圳市南山区粤海街道高新*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种预测深度学习模型单轮迭代时间的方法和系统,通过利用深度学习模型的分层结构,逐层估算/测量,获得每层的计算时间和传输时间,并累加得到该模型的单轮迭代时间。上述的预测深度学习模型单轮迭代时间的方法和系统,虽不能直接预测模型多轮迭代总的训练时间,但采用本发明提供的方法、系统,预测获得模型单轮迭代时间,并据此推测模型的训练时间,在一定程度上达成了预测模型训练时间的目标,以此亦能指导任务调度、资源分配等。 | ||
搜索关键词: | 一种 预测 深度 学习 模型 单轮迭代 时间 方法 系统 | ||
【主权项】:
1.一种预测深度学习模型单轮迭代时间的方法,其特征在于,该方法包括:对于任一待预测的深度学习模型,首先解析该模型输入的数据流图,根据其分层结构获得层集合V,然后依次遍历集合V中的每个层,对于任一属于集合V的层li,分别预测该层的传输时间Tn(li)、计算时间Tc(li);其中,根据解析获取层li的参数规模以及传输速率,预测层li的传输时间Tn(li);根据历史日志D预测层li计算时间Tc(li):查询历史日志D,若历史日志D中有和层li相似的层,则根据其计算时间估算层li的计算时间Tc(li);若历史日志D中没有和层li相似的层或估算不可接受,则测量层li的计算时间Tc(li);根据模型的流水线策略将各层的计算时间Tc和传输时间Tn累加,获得该模型的单轮迭代时间。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳致星科技有限公司,未经深圳致星科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811578363.8/,转载请声明来源钻瓜专利网。