[发明专利]用于HEVC的帧间编码单元划分方法、装置和存储介质

权利要求书

1.一种用于HEVC的帧间编码单元划分方法，其特征在于，包括以下步骤：

将编码树单元输入到经过训练的卷积神经网络中进行处理；

获取卷积神经网络输出的编码单元划分概率；

根据所述编码单元划分概率执行相应的划分处理；所述划分处理为以下其中一种：从编码树单元划分出具有相应大小的编码单元；不进行划分；执行率失真优化过程，根据率失真优化过程的结果，选择从编码树单元划分出具有相应大小的编码单元或不进行划分。

2.根据权利要求1所述的一种用于HEVC的帧间编码单元划分方法，其特征在于，所述卷积神经网络包括：

输入层，用于接收编码树单元的亮度分量的残差信息；

预处理层，用于对所述残差信息进行标准化；

下采样层，用于对划分出的不同大小的编码单元进行尺寸统一；

卷积层组，所述卷积层组包括多个依次相连的卷积层，所述卷积层组用于将经过标准化的残差信息映射到隐层特征空间，从而进行特征提取；

融合层，用于将卷积层组提取的特征进行融合处理；

全连接层，用于接收融合层输出的特征融合结果，并根据辅助参数对特征融合结果进行降维处理；

输出层，用于接收全连接层输出的降维结果，并根据激活函数输出对应各种大小的编码单元划分概率。

3.根据权利要求2所述的一种用于HEVC的帧间编码单元划分方法，其特征在于，所述残差信息是接收到的编码树单元的亮度分量所在的当前帧与参考帧之间的残差。

4.根据权利要求3所述的一种用于HEVC的帧间编码单元划分方法，其特征在于，所述残差信息是通过对编码树单元的亮度分量执行预编码过程获得的。

5.根据权利要求2所述的一种用于HEVC的帧间编码单元划分方法，其特征在于，所述标准化是指对残差信息进行归一化处理，使得残差信息的均值为零。

6.根据权利要求2所述的一种用于HEVC的帧间编码单元划分方法，其特征在于，所述卷积层组包括第一卷积层、第二卷积层和第三卷积层；所述第一卷积层包括16个大小为4×4的卷积核，所述第二卷积层包括24个大小为2×2的卷积核，所述第三卷积层包括32个大小为2×2的卷积核；所述第一卷积层、第二卷积层和第三卷积层均被设置为批归一化模式和残差学习模式。

7.根据权利要求1所述的一种用于HEVC的帧间编码单元划分方法，其特征在于，所述根据所述编码单元划分概率执行相应的划分处理这一步骤，具体包括：

当所述编码单元划分概率小于第一阈值时，不进行划分；

当所述编码单元划分概率大于第二阈值时，从编码树单元划分出具有相应大小的编码单元；

当所述编码单元划分概率大于第一阈值时且小于第二阈值时，执行率失真优化过程，根据率失真优化过程的结果，选择从编码树单元划分出具有相应大小的编码单元或不进行划分。

8.根据权利要求7所述的一种用于HEVC的帧间编码单元划分方法，其特征在于，所述第一阈值为0.3，所述第二阈值为0.7。

9.一种用于HEVC的帧间编码单元划分装置，其特征在于，包括存储器和处理器，所述存储器用于存储至少一个程序，所述处理器用于加载所述至少一个程序以执行权利要求1-8任一项所述方法。

10.一种存储介质，其中存储有处理器可执行的指令，其特征在于，所述处理器可执行的指令在由处理器执行时用于执行如权利要求1-8任一项所述方法。