[发明专利]网络裁剪方法、装置及计算机可读存储介质在审
申请号: | 201810116366.3 | 申请日: | 2018-02-05 |
公开(公告)号: | CN108304930A | 公开(公告)日: | 2018-07-20 |
发明(设计)人: | 刘新;宋朝忠;郭烽;钟应鹏 | 申请(专利权)人: | 深圳市易成自动驾驶技术有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04;G06K9/62 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 胡海国;魏兰 |
地址: | 518057 广东省深圳市南山区西丽街*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 裁剪 计算机可读存储介质 输出数据 训练模型 网络 主成分分析算法 一次性获得 裁剪装置 模型网络 网络性能 保留 | ||
1.一种网络裁剪方法,其特征在于,所述网络裁剪方法包括:
获取网络各层的输出数据;
根据所述输出数据和主成分分析算法进行通道裁剪,获得保留通道;
根据所述保留通道重新训练模型,获得新的模型。
2.如权利要求1所述的网络裁剪方法,其特征在于,所述根据所述输出数据和主成分分析算法进行通道裁剪,获得保留通道的步骤包括:
根据所述输出数据确定数据集的协方差矩阵;
对所述协方差矩阵进行特征分解,获得特征值的对角矩阵;
根据所述对角矩阵和预设累积能量算法确定保留通道。
3.如权利要求2所述的网络裁剪方法,其特征在于,所述根据所述对角矩阵和预设累积能量算法确定保留通道的步骤包括:
将所述对角矩阵中的特征值根据数值大小进行排列;
按照排列顺序对特征值进行逐个累加,并除以特征值总和,获得不同特征值累加数量对应的累积能量值;
根据所述累积能量值和预设能量阈值确定保留通道数量;
根据所述保留通道数量和通道的卷积权重值参数确定保留通道。
4.如权利要求3所述的网络裁剪方法,所述将所述对角矩阵中的特征值根据数值大小进行排列的步骤包括:
将所述对角矩阵中的特征值按照从大到小的顺序排列;
所述根据所述累积能量值和预设能量阈值确定保留通道数量的步骤包括:
确定累积能量值大于或等于所述预设能量阈值的最小特征值累加数量,并将所述最小特征值累加数量作为保留通道数量;
所述根据所述保留通道数量和通道的卷积权重值参数确定保留通道的步骤包括:
将通道根据卷积权重值参数大小进行排列;
按照从大到小的顺序根据所述保留通道数量获得保留通道。
5.如权利要求2所述的网络裁剪方法,其特征在于,所述对所述协方差矩阵进行特征分解,获得特征值的对角矩阵的步骤之后还包括:
判断所述对角矩阵中最大特征值的能量值是否大于或等于所述预设能量阈值;
当所述最大特征值的能量值大于或等于所述预设能量阈值时,以卷积权重值参数最大的通道作为保留通道。
6.一种网络裁剪装置,其特征在于,所述网络裁剪装置包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的网络裁剪程序,所述网络裁剪程序被所述处理器执行时实现以下步骤:
获取网络各层的输出数据;
根据所述输出数据和主成分分析算法进行通道裁剪,获得保留通道;
根据所述保留通道重新训练模型,获得新的模型。
7.如权利要求6所述的网络裁剪装置,其特征在于,所述网络裁剪程序被所述处理器执行时还实现以下步骤:
根据所述输出数据确定数据集的协方差矩阵;
对所述协方差矩阵进行特征分解,获得特征值的对角矩阵;
根据所述对角矩阵和预设累积能量算法确定保留通道。
8.如权利要求7所述的网络裁剪装置,特征在于,所述网络裁剪程序被所述处理器执行时还实现以下步骤:
将所述对角矩阵中的特征值根据数值大小进行排列;
按照排列顺序对特征值进行逐个累加,并除以特征值总和,获得不同特征值累加数量对应的累积能量值;
根据所述累积能量值和预设能量阈值确定保留通道数量;
根据所述保留通道数量和通道的卷积权重值参数确定保留通道。
9.如权利要求8所述的网络裁剪装置,特征在于,所述网络裁剪程序被所述处理器执行时还实现以下步骤:
将所述对角矩阵中的特征值按照从大到小的顺序排列;
按照排列顺序对特征值进行逐个累加,并除以特征值总和,获得不同特征值累加数量对应的累积能量值;
确定累积能量值大于或等于所述预设能量阈值的最小特征值累加数量,并将所述最小特征值累加数量作为保留通道数量;
将通道根据卷积权重值参数大小进行排列;
按照从大到小的顺序根据所述保留通道数量获得保留通道。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有网络裁剪程序,所述网络裁剪程序被所述处理器执行时实现如权利要求1至5中任一项所述的网络裁剪方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市易成自动驾驶技术有限公司,未经深圳市易成自动驾驶技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810116366.3/1.html,转载请声明来源钻瓜专利网。