[发明专利]一种基于卷积神经网络的HEVC帧内CTU划分方法

权利要求书

1.一种基于卷积神经网络的HEVC帧内CTU划分方法，其特征在于，包括：

S1：获取视频数据，将视频数据转化为视频帧；

S2：将视频帧输入到四杈树神经网络模型中，得到整帧所有的CTU四杈树结构；

S3：采用优化的编码器读取当前帧的所有CTU四杈树的结构，根据当前CTU四杈树的结构对当前编码树单元CTU的编码单元CU进行划分；

S4：获取当前编码单元CU对应的划分结果，若CU的划分结果为0，则计算当前CU的RD-cost，并停止向下递归划分；若CU的划分结果为1，则跳过RD-cost的计算，并继续向下递归划分；若CU的划分结果不确定，则采用高斯判别器判断CU的划分结果，重复此过程直到停止递归或划分到最小CU尺寸为止；

采用高斯判别器对不确定的CU的划分结果的判断过程包括：

步骤1：计算编码单元CU的残差；

步骤2：根据残差计算k阶样本中心矩B_K；

步骤3：根据B_K计算残差的偏度估计G₁和峰度估计G₂；

步骤4：由于偏度估计G₁和峰度估计G₂服从高斯分布，则将G₁和G₂转化为高斯分布的形式，并根据高斯分布计算残差偏度和峰度的均值和方差；

步骤5：设置临界值z_α；根据偏度估计G₁、峰度估计G₂的均值、方差和临界值设置高斯判决条件；

步骤6：若CU的偏度和峰度满足高斯判决条件，则对CU不划分，若不满足条件，则对CU进行划分；

S5：当CU的编码尺寸为8×8时，对预测单元PU进行划分；若当前PU划分结果为0，则当前PU的尺寸为8×8；若PU的划分结果为1时，将当前PU划分为4个4×4的PU，若划分结果不确定，则采用统计方法确定当前PU的尺寸。

2.根据权利要求1所述的一种基于卷积神经网络的HEVC帧内CTU划分方法，其特征在于，得到CTU四杈树的结构的过程包括：

S21：运行编码器HM，将视频帧数据输入到编码器HM中，计算视频帧数据的第n帧所有CTU的四叉树结构；

S22：编码器将计算结果保存在文件中，其中以帧数给该文件命名，输出pred_over_n.t×t标志文件，其中n代表着第几帧；

S23：当编码器HM检测到pred_over_n.t×t标志文件时，则从第n帧开始编码，当第n帧编码完成后检测下一帧的标志文件，继续编码，直到所有的帧数完成编码。

3.根据权利要求1所述的一种基于卷积神经网络的HEVC帧内CTU划分方法，其特征在于，四杈树神经网络模型包括21个规模小的子个卷积神经网络。