[发明专利]一种卷积神经网络的剪枝处理方法、数据处理方法及设备在审
申请号: | 202110221926.3 | 申请日: | 2021-02-27 |
公开(公告)号: | CN113065636A | 公开(公告)日: | 2021-07-02 |
发明(设计)人: | 唐业辉;许奕星;王云鹤;许春景 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 王仲凯 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请实施例公开了一种卷积神经网络的剪枝处理方法、数据处理方法及设备,可应用于人工智能领域,包括:通过构建的目标损失函数对卷积神经网络进行稀疏化训练,该目标损失函数可包括三个子损失函数,第一子损失函数用来衡量输入样本复杂度,第二子损失函数用来衡量处理输入样本的剪枝后的子网络复杂度,第三子损失函数用来衡量不同输入样本之间的相似度。第二子损失函数根据通道重要性函数与动态权重得到,并在第一子损失函数的取值未达到第一阈值的情况下,输入样本复杂度越高,动态权重取值越小(呈反相关),训练得到的通道重要性函数的稀疏性越小,剪枝越少,从而实现针对每个输入样本的灵活剪枝,并实现相似的输入样本输入到相似的子网络。 | ||
搜索关键词: | 一种 卷积 神经网络 剪枝 处理 方法 数据处理 设备 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110221926.3/,转载请声明来源钻瓜专利网。