[发明专利]一种基于感知的帧内编码单元尺寸快速决策的编码方法

说明书

本发明公布了一种基于感知的帧内编码单元尺寸快速决策的编码方法，编码单元尺寸快速决策包括：基于GMSD的编码单元尺寸决策和基于JND的编码单元尺寸决策；本发明方法充分考虑视频编码的视觉特性，通过感知的CU尺寸快速决策来减少CU尺寸决策过程中的编码时间，使得视频编码在保持视频的主观质量几乎不变的条件下，能够在视频的主观质量几乎不变的条件下，加快编码单元尺寸决策，最终降低帧内编码的计算复杂度。

技术领域

本发明属于信息技术领域，涉及视频编码技术，尤其涉及一种基于感知的帧内编码单元尺寸快速决策的编码方法。

背景技术

帧内编码是视频编码中的一项关键技术。目前主流编码工具采用了灵活的CU划分方法来处理不同的视频图像内容。如在AVS2、H.265等视频编码标准中，CU的尺寸最大为64×64，最小为8×8。首先，一帧图像被分割成多个64×64CU，然后64×64CU通过四叉树的深度优先遍历被递归地划分，直到它被划分为最小的CU。在CU四叉树的划分结束之后，叶节点的CU可以被进一步划分为PU。PU的划分方式为NxN、2Nx2N、0.5Nx2N、2Nx0.5N。此外，编码工具还有多种帧内预测模式。利用上述编码结构，帧内编码的性能显著升高，但复杂度急剧增加。

在参考文献[1]中记载了将局部边缘复杂度和全局边缘复杂度用于设置阈值以帮助判断编码单元的划分。当编码单元被认为纹理均匀时，划分过程提前终止；当编码单元被认为纹理复杂时，则直接被划分为更小的编码单元。其他情况下，进行原始的编码过程。上述方法只考虑在客观性能几乎不变的条件下减少编码时间，而不考虑主观性能。

参考文献[2]中记载了一种基于内容平坦度的快速编码单元尺寸决策算法。当编码单元被认为纹理均匀时，分裂过程提前终止；当编码单元被认为纹理复杂时，它直接被划分为更小的编码单元。其他情况下，进行原始编码过程。该方法只考虑在客观性能几乎不变的条件下减少编码时间，而不考虑主观性能。

综上，现有传统的CU尺寸快速决策算法只考虑在视频的客观质量几乎不变的条件下减少编码时间而不考虑主观质量。

参考文献：

[1]Min B,Cheung R C C.A Fast CU Size Decision Algorithm for the HEVCIntra Encoder[J].IEEE Transactions on Circuits and Systems for VideoTechnology,2015,25(5):892-896.

[2]Li J,Luo F,Zhou Y,et al.Content Based Fast Intra Coding for AVS2[C]//2017 IEEE Third International Conference on Multimedia Big Data(BigMM).IEEE Computer Society,2017.

[3]Wu J,Shi G,Lin W,et al.Enhanced just noticeable difference modelwith visual regularity consideration[C]//2016IEEE International Conference onAcoustics,Speech and Signal Processing(ICASSP).IEEE,2016.

发明内容

为了克服上述现有技术的不足，本发明提供一种基于感知的帧内编码单元尺寸快速决策的编码方法，在主观性能几乎不变的条件下获得更多的时间节省，从而降低帧内编码的计算复杂度。

本文中的缩略语和关键术语定义如下：

CU：coding unit,编码单元；

PU：prediction unit,预测单元；