[发明专利]一种基于轻量化网络的超分辨率图像重建方法在审

专利信息
申请号: 201910272182.0 申请日: 2019-04-04
公开(公告)号: CN110009565A 公开(公告)日: 2019-07-12
发明(设计)人: 杜娟;范赐恩;邹炼;魏文澜;周紫玉;田胜;沈家蔚 申请(专利权)人: 武汉大学
主分类号: G06T3/40 分类号: G06T3/40
代理公司: 武汉科皓知识产权代理事务所(特殊普通合伙) 42222 代理人: 王琪
地址: 430072 湖*** 国省代码: 湖北;42
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 轻量化 网络 网络参数 超分辨率图像重建 网络结构 量化 图像超分辨率 霍夫曼编码 编码方式 存储压力 结构改进 可移植性 量化模块 深度压缩 图像重建 网络基础 原有的 剪枝 压缩 共享 重建 优化 改进 保证
【权利要求书】:

1.一种基于轻量化网络的超分辨率图像重建方法,其特征在于,包含以下步骤:

步骤1,用设计的ShuffleNet unit代替EDSR超分辨率重建模型的ResBlock(残差块)中两个的卷积核,得到改进后的网络模型,其中,ShuffleNet unit由1×1GConv(逐点组卷积)、通道混洗、3×3DWConv(深度分离卷积)、1×1GConv四个部分组成;

步骤2,对步骤1中改进后的网络模型进行权值参数压缩训练,包括以下子步骤;

步骤2.1,将权值矩阵中权值绝对值小于阈值的连接进行剪枝,得到剪枝后的稀疏矩阵;

步骤2.2,对步骤2.1得到的稀疏矩阵中的权值进行量化,完成所有权值的数值共享;

步骤2.3,采用霍夫曼编码方式对权值数据进行编码;

步骤3,将所需要超分辨率重建的图像通过上述训练好的网络模型进行计算,得到重建后放大的图像。

2.根据权利要求书1所述的一种基于轻量化网络的超分辨率图像重建方法,其特征在于:步骤1中ShuffleNet unit的具体处理过程如下,

先用1×1GConv进行卷积,假设上一层的输出特征图有N个,即通道数=N,将通道数分成3份,再将1×1Gconv分为3组,每一个组对应N/3个通道,进行卷积操作;然后各个组卷积完成后将输出叠在一起,作为这一层的输出通道,得到新的特征图之后,进行批量归一化和激活函数ReLU处理;

再作通道混洗,把得到的新的特征图分为g组,则有g×n个输出通道,利用reshape将其转换为(g,n)的大小,再转置为(n,g),最后平均分组,再分回g组作为下一层的输入;

然后利用3×3DWConv进行卷积运算,即用in_channels个3×3的卷积核和输入的对应通道特征图谱卷积,再用out_channels个1×1的卷积核进行卷积得到out_channels个特征图谱并进行融合、批量归一化处理;

最后,为了适配和恒等映射做通道融合,再用1×1GConv进行卷积并做批量归一化处理。

3.根据权利要求1所述的一种基于轻量化网络的超分辨率图像重建方法,其特征在于:步骤2.1中剪枝的过程为,使用阈值为a进行剪枝,权值绝对值小于a的连接将被剪掉,然后再训练网络模型,假如所得的新网络模型不会使图像质量下降,即调整阈值为10*a,如果此时质量大幅度下降,便进行阈值的格点扫描,扫描的范围从10*a到a,步长为a,直到找到保证图像质量不变,阈值最高的值,并对此时的阈值进行微调。

4.根据权利要求3所述的一种基于轻量化网络的超分辨率图像重建方法,其特征在于:步骤2.1中剪枝后的稀疏矩阵,其中权值的索引变更为存储跟上一个有效权值的相对位置,即后面的元素依次存储的是与前一个非零元素的索引差值(跨度阈值),同时采用固定bit来存储索引差值,其中跨度阈值在卷积层设置为8,全连接层为5。

5.根据权利要求1或2或3或4所述的一种基于轻量化网络的超分辨率图像重建方法,其特征在于:步骤2.2的具体实现方式如下,

步骤2.2.1,先在权值的最大值和最小值之间间隔均匀的去量化输出,从而得到初始化k-means质心,公式如下所示,其中n为量化的位数:

其中,wmin为稀疏矩阵中最小的权值,wmax为稀疏矩阵中最大的权值,k为第k个质心,k∈[0,2n),为计算获得的初始化的第k个质心的值;

然后利用k-means函数确定量化阈值,即确定对于每一个权值使用哪个量化输出代替值,一个簇内的权值均共享一个值(质心值);

步骤2.2.2,首先进行正常的前向传播和反向传播,等pytorch框架自动生成梯度矩阵后,对k-means类聚质心进行微调,微调的方式是对属于同一簇的所有权值对应的梯度进行求和,乘以学习率,再从质心中减去,公式如下:

其中为第n次微调后的结果,lr为学习率,Ck为类聚属于k簇的所有权值构成的集合,grad(w)表示权值w对应的梯度,i,j为稀疏矩阵的索引,wij为稀疏矩阵的第i行第j列,微调过程的初值为k-means输出的类聚质心。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉大学,未经武汉大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910272182.0/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top