[发明专利]用于HEVC的帧间编码单元划分方法、装置和存储介质

说明书

本发明公开了用于HEVC的帧间编码单元划分方法、装置和存储介质，所述方法包括将编码树单元输入到经过训练的卷积神经网络中进行处理，获取卷积神经网络输出的编码单元划分概率和根据所述编码单元划分概率执行相应的划分处理等步骤，其中划分处理包括从编码树单元划分出编码单元、不进行划分和根据率失真优化过程的结果选择从编码树单元划分出具有相应大小的编码单元或不进行划分。本发明以编码单元划分概率来表示进行编码单元划分或者执行率失真优化过程的必要性，可以避免每次都要执行率失真优化过程，使得HEVC在保证编码效率的基础上提高编码速度，HEVC的视频编码能力更强。本发明广泛应用于视频处理技术领域。

技术领域

本发明涉及视频处理技术领域，尤其是用于HEVC的帧间编码单元划分方法、装置和存储介质。

背景技术

术语解释：

高效视频编码标准(HEVC，High Efficiency Video Coding)：是一种在2013年发布的视频编码技术，它是在H.264标准的基础上为了满足数字视频产业对高清和超高清视频存储及传输的日益迫切的发展需求而开发的新一代视频编码标准。HEVC在混合编码框架的基础上，结合大量技术创新，在保证相同视频质量的情况下，相比H.264节省近50％的码流。

编码树单元(CTU，Coding Tree Unit)、编码单元(CU，Coding Unit)、预测单元(PU，Prediction Unit)：CTU、CU和PU均为HEVC中的数据结构。

率失真优化(RDO，Rate Distortion Optimization)：是HEVC中的数据处理过程。

HEVC编码层的核心是编码树单元，概念上类似于H.264/AVC中的宏块，由亮度编码树块(CTB)、相应的色度编码树块和语法元素组成。如图1和图2所示，一个编码树单元可以不进行划分(标记为0)或被分成多个编码单元(标记为1)，编码单元的大小为8×8，16×16，32×32或64×64。然而，为了找到最优的编码树单元划分结构，HEVC采用了率失真优化方法。率失真优化方法是一种穷举搜索方法，一个编码树单元会遍历85种编码单元划分方式，但是最终只会选择其中的最佳划分作为最终划分的结果。率失真优化方法在极大地提高编码效率的同时，给编码器带来了很大的计算复杂度。

现有技术的缺点在于，每次进行编码单元划分时都需要执行率失真优化过程，但其中一些不必要的率失真优化过程虽然提高了编码效率，但同时带来了很大的计算复杂度，造成总体的效率不高。

发明内容

为了解决上述技术问题，本发明的目在于提供用于HEVC的帧间编码单元划分方法、装置和存储介质。

一方面，本发明包括一种用于HEVC的帧间编码单元划分方法，包括以下步骤：

将编码树单元输入到经过训练的卷积神经网络中进行处理；

获取卷积神经网络输出的编码单元划分概率；

根据所述编码单元划分概率执行相应的划分处理；所述划分处理为以下其中一种：从编码树单元划分出具有相应大小的编码单元；不进行划分；执行率失真优化过程，根据率失真优化过程的结果，选择从编码树单元划分出具有相应大小的编码单元或不进行划分。

进一步地，所述卷积神经网络包括：

输入层，用于接收编码树单元的亮度分量的残差信息；

预处理层，用于对所述残差信息进行标准化；

下采样层，用于对划分出的不同大小的编码单元进行尺寸统一；

卷积层组，所述卷积层组包括多个依次相连的卷积层，所述卷积层组用于将经过标准化的残差信息映射到隐层特征空间，从而进行特征提取；