[发明专利]一种基于多分支卷积神经网络的HEVC帧内预测方法

权利要求书

1.一种基于多分支卷积神经网络的HEVC帧内预测方法，其特征在于，包括：

收集数据时，选取多种不同纹理的视频，取前25帧在不同QP值下用原始HEVC编码器进行编码，将每个编码树单元CTU中三种不同深度等级的编码单元CU是继续划分或者终止划分的结果作为标签，所有标签记录在一个编码树单元CTU中，作为训练集；

训练数据时，对于训练集中的每一个编码树单元CTU，进行预处理，输出三个降采样程度不一的编码树单元CTU，并输入至多分支卷积神经网络进行训练，随后进行四层卷积层计算，每次卷积的卷积核不重叠，将输出的三个分支的卷积结果输入到一维的全连接层中，进行两次全连接，并加入对应QP值到全连接中进行计算；最后，再次分成三个分支，根据输出的标签确定分支的输出；得到训练好的多分支卷积神经网络；

测试数据时，选取20种不同分辨率不同视频内容的视频序列作为测试集，将每一帧图像的编码树单元CTU，输入到训练好的多分支卷积神经网络，输出每个编码树单元CTU中不同深度等级编码单元CU的最佳尺寸。

2.如权利要求1所述的一种基于多分支卷积神经网络的HEVC帧内预测方法，其特征在于：全连接层之后再次分成三个分支，根据输出的标签确定分支的输出，具体包括如下：

第一分支对应64×64的编码单元CU，第二分支对应32×32的编码单元CU，第三分支对应16×16的编码单元CU；第一分支先输出对应的标签，若标签显示不停止划分，则不进行另外两个分支的输出，若显示继续划分，则进行第二分支的输出；若第二分支输出标签显示停止划分，则停止第三分支的输出，否则，进行第三分支的输出。

3.如权利要求2所述的一种基于多分支卷积神经网络的HEVC帧内预测方法，其特征在于：测试数据时，所述每一帧图像的编码树单元CTU经过一系列预处理和卷积计算之后，首先处理第一分支的全连接计算，若输出的编码单元CU是停止划分，当前最佳编码单元CU尺寸为64×64；

若显示继续划分，则进行第二分支的全连接计算，输出有4个标签，对应不同位置的32×32的编码单元CU，若某32×32的编码单元CU显示停止划分，则该位置最佳编码单元CU尺寸是32×32；

若显示继续划分，则进行第三分支的全连接计算，输出有16个标签，对应不同位置16×16的编码单元CU，若某16×16的编码单元CU显示停止划分，则该位置最佳编码单元CU尺寸是16×16。