[发明专利]一种信号识别卷积神经网络卷积核分区剪枝方法在审
申请号: | 202010028618.4 | 申请日: | 2020-01-11 |
公开(公告)号: | CN111222640A | 公开(公告)日: | 2020-06-02 |
发明(设计)人: | 李建清;陈豪;王宏 | 申请(专利权)人: | 电子科技大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 北京盛凡智荣知识产权代理有限公司 11616 | 代理人: | 张塨 |
地址: | 610054 四川省成*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 信号 识别 卷积 神经网络 分区 剪枝 方法 | ||
本发明公开了一种信号识别卷积神经网络卷积核分区剪枝方法,包括以下步骤:构建一维卷积神经网络,然后进行训练达到收敛状态;提取模型卷积核的权重数组;对权重数组求绝对值,并按列进行求和得到卷积核的具体权重值;将权重区间分成4个等分区间,设定剪枝系数和阈值,若该卷积核的权值小于该卷积核所在区间的阈值,则将该卷积核从网络中删除,遍历所有卷积核,得到每个区间大于阈值的卷积核,得到新网络模型;对新网络模型进行重新训练达到收敛状态。本发明采用基于区间的剪枝方法,能够更大化的去冗余,使得权重的剪枝更加合理,能够更大化的对模型进行压缩,减小模型的大小,提高模型的前向推理时间的速度。
技术领域
本发明属于深度学习应用和信号识别技术领域,具体涉及到一种信号识别卷积神经网络卷积核分区剪枝方法。
背景技术
近年来,通信技术迅猛发展,为了满足用户的不同需求,充分利用通信资源,提高频谱利用率,通信信号的体制、调制方式变得多样化和复杂化,同一空间的信号也变得越来越密集。在电子战通信情报截获接收机的设计中,获得接收的通信信号的调制方式,为解调器选择解调算法提供参考依据,有助于电子战中最佳干扰样式或干扰抵消算法的选择,以保证友方通信,同时破坏和抑制敌方通信,实现通信对抗的目的。
基于深度学习的信号识别已经逐渐得到应用,深度学习算法具有准确率高、算法易于训练等特征,但深度学习神经网络参数量过于庞大,其庞大的运算量及复杂的网络结构使其无法直接运行在性能较弱的机载嵌入式设备中,只能在硬件较好的机器上运行,使得应用局限性比较大。因此必须对算法进行精简,降低算法识别所需的计算量以及模型的大小,使识别模型能够运行在嵌入式设备中。
发明内容
本发明针对现有技术的不足,提供一种信号识别卷积神经网络卷积核分区剪枝方法,该方法能够对传统的剪枝方法进行优化,最大化的减小模型大小,加快模型前向推理的速度,使得更好的对信号识别卷积神经网络进行压缩。
为了解决上述技术问题,本发明通过以下方式来实现:
一种信号识别卷积神经网络卷积核分区剪枝方法,具体包括以下步骤:
S1、构建一维卷积神经网络,然后进行训练达到收敛状态;
S2、提取步骤S1中得到收敛状态的神经网络模型的每一个卷积层的权重数组,权重数组具体的形式为三维的Numpy数组;
S3、对步骤S2中权重数组求绝对值,并对权重数组按列进行求和得到卷积核的具体权值;
S4、将步骤S3中的卷积核权值的最大值和最小值组成权重区间,将权重区间划分成4个等分区间,设定每个区间的剪枝系数,若该卷积核的权值小于该卷积核所处区间的阈值,则将该卷积核从网络中删除,遍历所有卷积核,得到每个区间大于阈值的卷积核保存下来,得到新网络模型;
S5、对步骤S4产生的新网络模型进行重新训练达到收敛状态,流程结束。
进一步地,所述步骤S1包括以下子步骤:
S11、构建一维卷积神经网络,其中包含5个卷积层,一个Dropout层,一个全局平均池化层,2个全连接层,第一层卷积层的卷积核长度为20,卷积核数量为64;第二层卷积层的卷积核长度为10,卷积核数量为128;第二层卷积层之后加入dropout层,第三层卷积层的卷积核长度为10,卷积核数量为128,第四层卷积层的卷积核长度为10,卷积核数量为128,第五层卷积层的卷积核长度为10,卷积核数量为128,在第五层卷积层后面加上一个全局平均池化层,然后接着2个全连接层:
S12、训练数据集为调制识别数据集,数据集的类别为12类,训练集的样本数为36000个,验证集的样本数为6000个,输入神经网络的长度为50000,使用的深度学习框架为Keras,训练达到收敛状态的指标为训练集上的Loss和验证集上的Loss都处于收敛状态。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010028618.4/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种塑壳断路器绝缘外壳精加工设备
- 下一篇:一种电动自行车取暖系统