[发明专利]基于卷积神经网络的视频编码后置滤波方法

权利要求书

1.一种基于卷积神经网络的视频编码后置滤波方法，包括卷积神经网络模型的训练步骤以及后置滤波处理步骤，其中：

所述训练步骤包括S1至S4：

S1、设置视频压缩的量化参数为20至51，对原始视频进行编码压缩，得到压缩视频；

S2、对所述压缩视频和所述原始视频进行帧的提取，得到多个帧对，每个所述帧对包含一压缩视频帧和一原始视频帧；

S3、将步骤S2提取的帧对按照帧类型和量化参数的不同划分为多个组；

S4、搭建卷积神经网络框架并初始化网络参数，使用步骤S3划分的组分别对神经网络进行训练，得到对应于不同量化参数和帧类型的多个神经网络模型；其中，将所有的帧对按照一定的像素间距截取图像块，得到原始帧图像块-压缩帧图像块的图像块对，作为训练过程中神经网络的输入；所搭建的卷积神经网络框架包括卷积层和Relu层，卷积层的神经元对输入的图像块的操作表示为其中n表示输入图像块的数量，w_i表示第i个卷积核，x_i表示第i个输入图像块，b表示偏置系数，*表示卷积操作，图像块用像素矩阵来表示；Relu层的神经元对图像块的操作表示为M＝max(N,0)，其中N和M分别表示输入图像块和输出图像块的像素值；

所述后置滤波处理步骤包括S5和S6：

S5、将步骤S4得到的多个神经网络模型嵌入至视频编码器的后置滤波环节；

S6、对待处理的原始视频执行步骤S1和S2得到待处理帧对，并依据待处理帧对的量化参数和帧类型选择对应的神经网络模型进行滤波处理。

2.如权利要求1所述的基于卷积神经网络的视频编码后置滤波方法，其特征在于：步骤S3中将帧对按照帧类型分为I帧、P帧和B帧。

3.如权利要求1所述的基于卷积神经网络的视频编码后置滤波方法，其特征在于：步骤S3还包括将每个组内的帧对依据分辨率和场景来划分训练集、验证集和测试集；其中所述验证集用于在训练过程中每迭代预定次数后校正训练出的参数，以防止过拟合。

4.如权利要求3所述的基于卷积神经网络的视频编码后置滤波方法，其特征在于：所述测试集内包括多种分辨率和多种场景的帧对。

5.如权利要求1所述的基于卷积神经网络的视频编码后置滤波方法，其特征在于：卷积层和Relu层依次交替连接。

6.如权利要求1所述的基于卷积神经网络的视频编码后置滤波方法，其特征在于：神经网络训练时，将输入的原始图像块的尺寸大小裁剪为与输出图像块的大小一致。