[发明专利]分级自适应的HEVC帧内预测模式快速决策方法

说明书

技术领域

本发明属于视频编解码技术领域，具体涉及一种用于高效视频编码(High Efficiency video coding，HEVC)的分级自适应的帧内预测模式快速决策方法及装置。

背景技术

为满足高清视频应用的新要求，2010年4月，JCT-VC开始制定新的下一代视频编解码标准HEVC(High Efficiency Video Coding)，也称其为H.265。

相对于上一代标准H.264/AVC，HEVC在预测编码方面有了长足的发展，提高了约1倍的编码效率。HEVC主要面向下一代4K分辨率高清电视、3D视频、移动视频、流媒体视频等最新应用。

目前，JCT-VC组织的各次讨论的具体文献可以从http：//wftp3.itu.int获得，这些技术方案有可能会逐步加入到HEVC标准中。

在帧内预测(intra predication)方面，HEVC最高支持35种帧内预测模式，其中预测方向增加到33种，提高了预测精度。此外，在DC均值模式的基础上增加了Planar平滑预测模式，提高了对渐变式平滑纹理区的预测精度。图1示出了HEVC的35种帧内预测模式。

由于使用了多达35种帧内预测模式，如果直接针对35种帧内预测模式使用率失真优化(RateDistortion optimization，RDO)技术来判断最优预测模式，则编码器的运算量将太过庞大。因此，如何降低HEVC视频编码的计算复杂度，成为了HEVC当前的研究热点。

三星公司的jung-Hye Min等和诺基亚公司的jani Lainema等将提案JCTVC-A119中角度帧内预测(Angular Intra Prediction，AIP)技术和提案JCTVC-A124中任意方向帧内预测(Arbitrary Directional Intra，ADI)技术结合，命名为联合方向预测(Unification of the Directional Intra prediction，UDI)。

在提案JCTVC-C207中，三星公司的Yinji Piao等对UDI技术进行了优化，简化了率失真模型，提出一种粗略模式决策(Rough Mode Decision，RMD)方法，获取精简的候选模式子集。首先，计算HCost＝HSATD_mode+λ·bits_mode代价，即计算残差信号Hadamard变换代价与模式比特数之和，进行粗略的模式选择代价计算。筛选出由代价最小的前N种预测模式组成的粗选模式子集；然后对粗选模式子集内的这N种预测模式进行RDO计算，RDCost_mode＝∑Diff(i,j)²+λ·bits_mode，RDCost代价最小的模式即为最优帧内预测模式。该算法减少了候选预测模式的数量，降低了帧内预测模式选择的计算复杂度。

在提案JCTVC-C218中，LG公司的jungsun Kim等人简化了CU分成PU的冗余过程，提出对预测单元(Prediction Unit，PU)不采用四叉树划分预测，并禁用旋转变换(Rotation Transform，ROT)与联合帧内预测(Combined intra prediction，CIP)技术，减少约35％的编码时间。

在提案JCTVC-D283中，简化了UDI算法，并加入了最有可能模式(most probable mode，MPM)技术。即在RMD粗选得到N个粗选模式子集之后，应用MPM算法提取最有可能模式加入粗选模式子集。

在HM7.0之后，为了更加精准的预测，每个尺寸的PU都使用所有的35种帧内预测模式进行RMD模式粗选择。筛选出代价最小的N个候选模式，并对这N个候选模式按照HCost代价大小进行升序排序。其中，对于大小为4×4和8×8的预测块，N＝8，对于大小为16×16和32×32的预测块，N＝3。

虽然以上几种快速算法的编码性能损失极小，但编码时间节省的幅度并不大。尤其对于4×4和8×8尺寸的PU块，RMD粗选得到的候选模式数量较多，还需深入研究。

本申请主要参考以下技术文献来实现。

[1]J.H.Min，“Unification of the directional intra prediction methods in TMuC，”JCTVC-B100，July,2010.