[发明专利]深度学习分布式训练适配方法和装置有效
申请号: | 202110869682.X | 申请日: | 2021-07-30 |
公开(公告)号: | CN113672215B | 公开(公告)日: | 2023-10-24 |
发明(设计)人: | 于子淇;林立翔;游亮;龙欣;张尉东;卓钧亮 | 申请(专利权)人: | 阿里巴巴新加坡控股有限公司 |
主分类号: | G06F8/35 | 分类号: | G06F8/35;G06N20/00;G06F18/241 |
代理公司: | 北京清源汇知识产权代理事务所(特殊普通合伙) 11644 | 代理人: | 张艳梅;冯德魁 |
地址: | 新加坡珊顿道*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 深度 学习 分布式 训练 配方 装置 | ||
1.一种深度学习分布式训练适配方法,其特征在于,包括:
对深度学习算法的原始代码块进行语义分析,得到原始代码块对应的分布式训练的功能类别;
根据所述原始代码块对应的分布式训练的功能类别和预设的正则库,对所述原始代码块进行正则匹配,得到分布式框架代码的模板文件;
对所述布式框架代码的模板文件进行渲染,得到最终的深度学习分布式训练代码。
2.根据权利要求1所述的方法,其特征在于,还包括:
根据深度学习算法的原始代码块,得到所述原始代码块对应的分布式框架;
所述对深度学习算法的原始代码块进行语义分析,得到原始代码块对应的分布式训练的功能类别,包括:
将所述原始代码块对应的分布式框架作为语义识别模型的一个特征,对深度学习算法的原始代码块进行语义分析,得到原始代码块对应的分布式训练的功能类别。
3.根据权利要求1所述的方法,其特征在于,所述对深度学习算法的原始代码块进行语义分析,得到原始代码块对应的分布式训练的功能类别,包括:
对深度学习算法的原始代码块进行向量化处理,得到深度学习算法的原始代码块的向量化表示;
将所述向量化表示输入用于功能分类的分类模型,得到原始代码块对应的分布式训练的功能类别。
4.根据权利要求3所述的方法,其特征在于,所述对深度学习算法的原始代码块进行向量化处理,得到深度学习算法的原始代码块的向量化表示,包括:
根据从深度学习框架和分布式训练框架的代码库中提取的关键字,对深度学习算法的原始代码块进行向量化处理,得到深度学习算法的原始代码块的向量化表示。
5.根据权利要求1所述的方法,其特征在于,还包括:
获得深度学习算法的原始代码;
对所述深度学习算法的原始代码进行预处理,得到深度学习算法的原始代码块。
6.根据权利要求5所述的方法,其特征在于,所述预处理包括以下至少一种操作:
分词处理;
去停用词处理;
去除冗余行。
7.根据权利要求1所述的方法,其特征在于,根据所述原始代码块对应的分布式训练的功能类别和预设的正则库,对所述原始代码块进行正则匹配,得到分布式框架代码的模板文件,包括:
将所述原始代码块对应的分布式训练的功能类别与预设的正则库中的正则匹配规则进行匹配;
若所述原始代码块对应的分布式训练的功能类别与正则匹配规则中的键相同,则将正则匹配规则中的值作为分布式框架代码的正则匹配模板;
根据所述正则匹配模板,得到分布式框架代码的模板文件。
8.根据权利要求7所述的方法,其特征在于,还包括:
根据已获得的原始代码块对应的分布式训练的功能类别及分布式框架代码的正则匹配模板的对应关系,更新正则库。
9.根据权利要求8所述的方法,其特征在于,所述根据已获得的原始代码块对应的分布式训练的功能类别及分布式框架代码的正则匹配模板的对应关系,更新正则库,包括:
在系统运行过程中,根据已获得的原始代码块对应的分布式训练的功能类别及分布式框架代码的正则匹配模板的对应关系,修改正则库的参数,得到更新的正则库。
10.根据权利要求1所述的方法,其特征在于,所述对所述布式框架代码的模板文件进行渲染,得到最终的深度学习分布式训练代码,包括:
对所述布式框架代码的模板文件进行渲染,得到可执行的深度学习分布式训练代码;
对所述可执行的深度学习分布式训练代码进行测试,若测试结果为成功,则将可执行的深度学习分布式训练代码作为最终的深度学习分布式训练代码。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴新加坡控股有限公司,未经阿里巴巴新加坡控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110869682.X/1.html,转载请声明来源钻瓜专利网。