[发明专利]一种适用于神经网络滤波器的残差映射算法

说明书

本发明属于神经网络滤波器技术领域，具体为一种适用于神经网络滤波器的残差映射算法。本发明通过将神经网络滤波器滤波结果和滤波器的输入做差，得到残差，对残差进行自适应映射，使其映射到失真域上以减少重建失真的大小。其中，映射系数也需要进行编码和解码。本发明以减少失真，提升神经网络滤波器的性能。

技术领域

本发明属于神经网络滤波器技术领域，具体涉及一种改善神经网络滤波器性能的残差映射算法。

背景技术

神经网络因为其强大的非线性能力和特征提取能力，在图像降噪领域表现出强大的性能。相比于传统的视频图像压缩降噪模块，其具有显著更强的性能。然而，神经网络滤波器往往十分依赖于训练的数据，对于训练的数据会出现或多或少的过拟合现象。如何解决这种过拟合现象是一个需要解决的问题。有效地解决这种过拟合现象，可以有效地提升模型的性能。

本发明中采用了一种残差映射的算法，将残差映射到失真域上，以实现对模型滤波能力的直接改变，从而缓解过拟合现象的发生。

发明内容

本发明的目的是提出一种可以缓解过拟合现象发生的适用于神经网络滤波器的残差映射算法。

本发明提出的适用于神经网络滤波器的残差映射算法，通过将残差进行自适应映射，使其映射到失真域上，以减少重建失真的大小，提升神经网络滤波器的性能；实际使用中，可以作为神经网络滤波器的补充模块使用，具有一定的泛化能力。具体步骤如下。

(1)首先使用神经网络滤波器对重建图像进行滤波，得到滤波后的图像；把滤波后的图像和滤波前的图像做差，得到的值定义为残差；计算滤波后图像和原始输入图像之间的差别，定义为失真；设R_o为失真，即原始像素Y_o和去方块滤波的输出X之间的差异：

R_o＝Y_o-X， (1)

类似地，设R_S为残差，即神经网络滤波输出Y_S和去方块滤波的输出X之间的差异：

R_S＝Y_S-X， (2)。

(2)使用函数(一次函数或者二次函数)对残差R_S和失真R_o进行拟合，其中残差作为输入，失真作为目标；预设以λ为参数的函数f_λ(·)，其可以实现对R_S的映射；因此，我们需要找到这样的λ使得变换后的R_S与R_o之间的距离最小，方便起见，距离采用MSE(均方误差)；均方误差被广泛地使用，其在相当程度上可以表示重建的PSNR值(峰值信噪比)；

这里，以f_λ(·)为线性函数为例(事实上，可以采用复杂的函数，比如二次函数，来实现这一点)，因此：

考虑实际中λ需要进行量化编码，可以在执行公式(4)搜索的时候，就使用量化后的λ进行搜索,这里的n我们取了4；

(3)使用搜索中的不同系数对残差依次进行变换，用变换后的残差和失真计算新产生的MSE(均方误差D)，并计算拟合系数带来的码率R，计算率失真优化函数J搜索的损失函数为:

J＝D+kR(λ)

＝(λR_S-R_o)²+kR(λ)， (6)

其中，参数k为率失真优化函数J的超参数。