[发明专利]网络训练方法、电子设备及计算机可读存储装置在审
申请号: | 202211269200.8 | 申请日: | 2022-10-17 |
公开(公告)号: | CN115660067A | 公开(公告)日: | 2023-01-31 |
发明(设计)人: | 周玉凯;张学涵;蔡丹平;虞响;陈波扬;黄鹏;殷俊;张朋 | 申请(专利权)人: | 浙江大华技术股份有限公司 |
主分类号: | G06N3/082 | 分类号: | G06N3/082;G06N3/04 |
代理公司: | 深圳市威世博知识产权代理事务所(普通合伙) 44280 | 代理人: | 严翠霞 |
地址: | 310051 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 网络 训练 方法 电子设备 计算机 可读 存储 装置 | ||
1.一种网络训练方法,其特征在于,所述方法包括:
基于目标网络构建剪枝网络,所述剪枝网络以所述目标网络中的主干网络的网络通道向量作为输入训练生成通道权重矩阵;
根据所述通道权重矩阵对所述目标网络的主干网络进行剪枝,得到剪枝主干网络;
利用所述剪枝主干网络训练所述目标网络,得到轻量化的目标网络。
2.根据权利要求1所述的方法,其特征在于,所述通道权重矩阵包括所述主干网络中每一网络通道的卷积核重要性权重。
3.根据权利要求1所述的方法,其特征在于,所述根据所述通道权重矩阵对所述目标网络的主干网络进行剪枝,得到剪枝主干网络,包括:
根据预设权重阈值对所述通道权重矩阵中的卷积核重要性权重进行筛选;
根据所述卷积核重要性权重小于所述预设权重阈值的网络通道对所述主干网络进行剪枝,得到剪枝主干网络。
4.根据权利要求3所述的方法,其特征在于,
所述根据所述卷积核重要性权重小于所述预设权重阈值的网络通道对所述目标网络进行剪枝,包括:
将所述主干网络中,所述卷积核重要性权重小于所述预设权重阈值的网络通道删除,以完成对所述主干网络的剪枝;
或者,将所述主干网络中,所述卷积核重要性权重小于所述预设权重阈值的网络通道的参数置零,以完成对所述主干网络的剪枝。
5.根据权利要求1所述的方法,其特征在于,
所述主干网络包括短连接结构,所述短连接结构的通道权重矩阵共享其所对应的主干网络的网络通道的通道权重。
6.根据权利要求1所述的方法,其特征在于,所述根据所述通道权重矩阵对所述目标网络的主干网络进行剪枝,得到剪枝主干网络,包括:
在根据所述通道权重矩阵对所述目标网络的主干网络进行剪枝后,根据需要部署的设备的设备性能对剪枝后的所述主干网络进行进一步的剪枝,以得到所述剪枝主干网络;
所述利用所述剪枝主干网络训练所述目标网络,得到轻量化的目标网络之后,包括:
将得到的所述轻量化的目标网络部署于所述设备中。
7.根据权利要求1所述的方法,其特征在于,所述根据所述通道权重矩阵对所述目标网络的主干网络进行剪枝,得到剪枝主干网络之后,包括:
对所述剪枝主干网络进行训练,以得到所述剪枝主干网络中每一网络通道的卷积核重要性权重。
8.根据权利要求7所述的方法,其特征在于,利用所述剪枝主干网络训练所述目标网络,得到轻量化的目标网络,包括:
在训练所述目标网络时,将所述剪枝主干网络中每一网络通道的卷积核重要性权重加载于所述目标网络中的所述剪枝主干网络中,以得到所述轻量化的目标网络。
9.一种电子设备,其特征在于,包括存储器和处理器,所述存储器用于存储程序数据,所述程序数据能够被所述处理器执行,以实现如权利要求1-8任一项所述的方法。
10.一种计算机可读存储装置,其特征在于,存储有程序数据,能够被处理器执行,以实现如权利要求1-8任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大华技术股份有限公司,未经浙江大华技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211269200.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:线缆巡检器械辅助装置和电力杆塔设备
- 下一篇:投影设备及其控制方法