[发明专利]卷积神经网络特征图数据压缩方法及装置在审
申请号: | 202110367961.6 | 申请日: | 2021-04-06 |
公开(公告)号: | CN112906874A | 公开(公告)日: | 2021-06-04 |
发明(设计)人: | 王中风;施禹伯;林军 | 申请(专利权)人: | 南京大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京弘权知识产权代理有限公司 11363 | 代理人: | 逯长明;许伟群 |
地址: | 210023 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积 神经网络 特征 数据压缩 方法 装置 | ||
1.一种卷积神经网络特征图数据压缩方法,其特征在于,包括特征图通道重构阶段和零值比特图编码压缩阶段;
所述特征图通道重构阶段包括以下步骤:
将原特征图的通道维度从三维切分变化至二维,得到新特征图;
将预设的一维离散余弦变换矩阵与所述新特征图中的张量进行矩阵相乘,得到频域特征图;
对所述频域特征图进行低通滤波,得到稀疏特征图;
所述零值比特图编码压缩阶段包括以下步骤:
获取所述稀疏特征图;
对所述稀疏特征图进行零值比特图编码压缩,得到所述原特征图的最终压缩数据,所述原特征图的最终压缩数据将被存储至硬件加速器的片外内存中。
2.根据权利要求1所述的卷积神经网络特征图数据压缩方法,其特征在于,所述方法还包括零值比特图解压缩阶段和特征图还原逆变换阶段;
所述零值比特图解压缩阶段包括以下步骤:
读取硬件加速器片外内存中的所述原特征图的最终压缩数据;
对所述原特征图的最终压缩数据进行零值比特图解压缩,得到所述稀疏特征图;
所述特征图还原逆变换阶段包括以下步骤:
将所述一维离散余弦变换矩阵的转置矩阵与所述稀疏特征图中的张量进行矩阵相乘,得到二维特征图;
将所述二维特征图的通道维度转换为三维,得到所述原特征图的还原数据。
3.根据权利要求2所述的卷积神经网络特征图数据压缩方法,其特征在于,所述方法还包括:
在卷积神经网络的训练过程中,对所述特征图通道重构阶段和所述特征图还原逆变换阶段进行训练,重构网络权重。
4.根据权利要求1所述的卷积神经网络特征图数据压缩方法,其特征在于,所述对所述频域特征图进行低通滤波,得到稀疏特征图,包括:
使用预设的频域过滤器对所述频域特征图进行广播式哈达玛积,实现对所述频域特征图的低通滤波,得到所述稀疏特征图。
5.根据权利要求4所述的卷积神经网络特征图数据压缩方法,其特征在于,所述一维离散余弦变换矩阵为实正交矩阵,所述一维离散余弦变换矩阵满足以下条件:
其中,Aij表示所述一维离散余弦变换矩阵中坐标为[i,j]的元素,N表示所述一维离散余弦变换矩阵的尺寸。
6.根据权利要求4所述的卷积神经网络特征图数据压缩方法,其特征在于,所述频域过滤器满足以下条件:
其中,M表示所述频域过滤器,m表示所述频域过滤器的带宽,N表示所述一维离散余弦变换矩阵的尺寸。
7.根据权利要求5或6所述的卷积神经网络特征图数据压缩方法,其特征在于,N的取值为8。
8.一种卷积神经网络特征图数据压缩装置,其特征在于,所述卷积神经网络特征图数据压缩装置应用于权利要求1-7任一项所述的卷积神经网络特征图数据压缩方法,所述卷积神经网络特征图数据压缩装置包括:特征图通道重构模块和零值比特图编码压缩模块;
所述特征图通道重构模块用于执行以下步骤:
将原特征图的通道维度从三维切分变化至二维,得到新特征图;
将预设的一维离散余弦变换矩阵与所述新特征图中的张量进行矩阵相乘,得到频域特征图;
对所述频域特征图进行低通滤波,得到稀疏特征图;
所述零值比特图编码压缩模块用于执行以下步骤:
获取所述稀疏特征图;
对所述稀疏特征图进行零值比特图编码压缩,得到所述原特征图的最终压缩数据,所述原特征图的最终压缩数据将被存储至硬件加速器的片外内存中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学,未经南京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110367961.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种万向行程开关触头
- 下一篇:一种物流车辆动态称重方法和设备