[发明专利]用于视频编码帧间环路滤波的模型训练方法和使用方法

权利要求书

1.一种用于视频编码帧间环路滤波的模型训练方法，其特征在于，包括以下步骤：

步骤1)构建一个神经网络，使用未经滤波的图像X作为样本，其对应的原始图像Y作为标签，形成初始训练集；使用初始训练集对神经网络进行训练，得到一系列零次模型；

步骤2)选择若干未经滤波的图像组成验证集，使验证集与训练集中的图像不重合；根据模型选择方法从步骤1)中得到的一系列零次模型中选择一个零次模型NN₀；

步骤3)使用零次模型NN₀对训练集中未经滤波的图像X进行滤波，得到一次滤波图像X₁；

步骤4)将未经滤波的图像X、一次滤波图像X₁作为样本，对应的原始图像Y作为标签，形成一次训练集；使用一次训练集，在零次模型NN₀的基础上进行迁移学习，训练得到一系列一次模型；

步骤5)基于验证集，根据模型选择方法从一系列一次模型中选择一个一次模型NN₁；

步骤6)使用一次模型NN₁对初始训练集中的未经滤波的图像X进行两次滤波，得到新的一次滤波图像X₁’和二次滤波图像X₂；

步骤7)将未滤波图像X、新的一次滤波图像X₁’、二次滤波图像X₂作为样本，对应的原始图像Y作为标签，形成二次训练集；使用二次训练集，在一次模型NN₁的基础上进行迁移学习，训练得到一系列二次模型；

步骤8)基于验证集，根据模型选择方法从一系列二次模型中选择一个二次模型NN₂；

步骤9)重复步骤6)～步骤8)，直至得到一个N次模型NN_N，作为视频编码帧间环路滤波模型；

所述的迁移学习是指在开始训练当前神经网络模型前，使用前一次得到的模型的权重系数初始化当前模型；

步骤9)中，N的值由编码参数，即基础量化参数Base_QP和I帧间隔Intra_Period决定；根据编码器的量化参数范围将基础量化参数划分为高、中、低三个范围，对每个视频序列进行编码时，

(1)当Base_QP位于高范围且Intra_Period≥32时，N≥8；

(2)当Base_QP位于高范围且2＜Intra_Period＜32时，2≤N＜8；

(3)当Base_QP位于高范围且Intra_Period＝2时，N＝1；

(4)当Base_QP位于中范围且Intra_Period≥32时，N≥5；

(5)当Base_QP位于中范围且2＜Intra_Period＜32时，2≤N＜5；

(6)当Base_QP位于中范围且Intra_Period＝2时，N＝1；

(7)当Base_QP位于低范围且Intra_Period＞2时，N≥2；

(8)当Base_QP位于低范围且Intra_Period＝2时，N＝1；

设编码器的量化参数范围为[0，M]，高范围的基础量化参数落在区间中范围的基础量化参数落在区间低范围的基础量化参数落在区间

对于给定的验证集，具体的模型选择方法是：

对于所得到的一系列N次模型，N≥0，首先每个模型都作用于验证集N+1次，然后获得每个模型在验证集上作用N+1次的平均性能，性能高的模型被选为最终模型NN_N。