[发明专利]一种数据处理方法、设备及存储介质在审
申请号: | 202110240689.5 | 申请日: | 2021-03-04 |
公开(公告)号: | CN113112014A | 公开(公告)日: | 2021-07-13 |
发明(设计)人: | 李远辉;舒红乔 | 申请(专利权)人: | 联想(北京)有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 马丽;张颖玲 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 设备 存储 介质 | ||
本申请实施例公开了一种数据处理方法,该方法包括:确定待裁剪神经网络模型中目标层的目标参数对应的至少一个第一参数值;确定压缩比率和稀疏化率;基于压缩比率、稀疏化率和所述至少一个第一参数值,对所述待裁剪神经网络模型进行稀疏化裁剪处理,得到目标神经网络模型;基于所述目标神经网络模型对待裁剪数据进行稀疏化裁剪处理。本申请实施例还公开了一种电子设备和存储介质。
技术领域
本申请涉及智能技术领域,尤其涉及一种数据处理方法、设备及存储介质。
背景技术
随着人工智能应用的迅速发展,深度学习得到了广泛的研究。由于通过深度学习得到的神经网络模型越来越复杂,造成需要大量的存储空间,并消耗大量的计算资源,导致很难落实到各个硬件平台。为了保证得到的神经网络模型能够落实到各个硬件平台,提出了对得到的神经网络模型进行裁剪压缩的方法。进行模型裁剪压缩的方法具体为对神经网络模型中的所有权重系数进行稀疏化操作,得到裁剪后的模型得到实际测试效果,并将实际测试效果进行反馈,如此重复进行稀疏化训练,最终得到压缩后的能够符合要求的神经网络模型。
但是,上述模型裁剪压缩方法的整个裁剪压缩过程比较耗时,导致不能快速得到精度和压缩比均相对较优的裁剪压缩后的神经网络模型,使裁剪压缩效率较低。
申请内容
为解决上述技术问题,本申请实施例期望提供一种数据处理方法、设备及存储介质,解决了目前模型裁剪压缩过程中裁剪压缩过程比较耗时的问题,实现了快速得到裁剪精度较优的裁剪压缩模型的技术方案,有效提高了模型裁剪效率。
本申请的技术方案是这样实现的:
第一方面,一种数据处理方法,所述方法包括:
确定待裁剪神经网络模型中目标层的目标参数对应的至少一个第一参数值;
确定压缩比率和稀疏化率;
基于压缩比率、稀疏化率和所述至少一个第一参数值,对所述待裁剪神经网络模型进行稀疏化裁剪处理,得到目标神经网络模型;
基于所述目标神经网络模型对待裁剪数据进行稀疏化裁剪处理。
可选的,所述基于压缩比率、稀疏化率和所述至少一个第一参数值,对所述待裁剪神经网络模型进行稀疏化裁剪处理,得到目标神经网络模型,包括:
基于所述压缩比率,对所述至少一个第一参数值进行分组处理,得到至少一个第一待分析参数值和至少一个第二待分析参数值;其中,每一所述第一待分析参数值小于每一所述第二待分析参数值;
基于所述稀疏化率,分别对所述至少一个第一待分析参数值和所述至少一个第二待分析参数值进行调整,依次得到至少一个第一目标参数值和至少一个第二目标参数值;
采用每一所述第一目标参数值替换所述待裁剪神经网络模型中对应的所述第一待分析参数值,每一所述第二目标参数值替换所述待裁剪神经网络模型中对应的所述第二待分析参数值,得到所述目标神经网络模型。
可选的,所述基于所述压缩比率,对所述至少一个第一参数值进行分组处理,得到至少一个第一待分析参数值和至少一个第二待分析参数值,包括:
确定第一压缩参考比率和预设步进值;其中,所述第一压缩参考比率与所述压缩比率具有关联关系,所述第一压缩参考比率小于或等于所述压缩比率;
基于所述第一压缩参考比率,对所述至少一个第一参数值进行分组处理,得到至少一个第三待分析参数值和至少一个第四待分析参数值;
基于所述稀疏化率,分别对所述至少一个第三待分析参数值和所述至少一个第四待分析参数值进行调整,依次得到至少一个第一参考参数值和至少一个第二参考参数值;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于联想(北京)有限公司,未经联想(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110240689.5/2.html,转载请声明来源钻瓜专利网。