[发明专利]一种快速帧内模式选择方法

说明书

技术领域

本发明涉及视频编码技术，具体涉及一种H.264的帧内模式选择方法。

背景技术

H.264是由联合视频工作组(Joint Video Team，JVT)制定的。它是一个面向未来IP和无线环境下的视频压缩标准，其在视频压缩效率方面比目前所有的视频压缩标准都有显著的提高。H.264用了传统的基于宏块和运动补偿的方案，继续沿用了以前编码标准中的优秀技术。同时它还提供了一系列新型开发编码工具，包括多模式的帧内预测、FMO(灵活模块次序)、1/4像素精度的运动估计和运动补偿等。H.264编码标准中，为了提高帧内帧编码的效率而引入了帧内预测算法，充分的利用了帧内相邻宏块间的信息相关性，只对预测值与实际值的插值进行编码。但是，帧内预测算法具有极高的算法复杂度，正是由于这种计算的高复杂度是它的编码速度变得比较缓慢，在通常情况下还不能满足实际应用的需求。所以在不改变H.264标准码流结构和维持原有码率的情况下，找到简单可行的算法代替原有的复杂算法，提高其编码速度就成为当前的研究热点。目前常见的方法有：全遍历算法、sobel算子法等。全遍历算法遍历所有可用的预测模式，得到最优的预测模式。这种方法能得到最优的预测模式，但是引入的高复杂度的计算量使得很难满足实际应用的需要。sobel算子法在JVT会议记录文档JVT-G013.doc中给出。它的实现方法是将当前4x4块的像素采用sobel算子，计算出方向矢量，使之与各种预测模式的预测方向相比较，方向最相近的预测模式为最优模式。但是实际仿真后的效果较差，信噪比下降较多，同时在编码速度上并没有很大提高。

发明内容

本发明所要解决的技术问题是，提供一种在保证信噪比的情况下，较大幅度的提升编码速度的帧内模式选择方法。

本发明为解决上述技术问题所采用的技术方案是，一种快速帧内模式选择方法，包括以下步骤：

a、判断MPM模式的失真值是否小于等于第一阈值T1；若是，当前块的最优预测模式为MPM模式；如否，进入步骤b；

b、计算竖直模式、水平模式、DC模式的失真值，判断这三种模式中是否有一个失真值小于等于第二阈值T2；如是，采用该模式为当前块的最优预测模式；如否，进入步骤c；

c、判断竖直模式的失真值是否小于水平模式的失真值；若是，进入步骤d；若否进入步骤e；

d、计算右垂直模式与左垂直模式的失真值，并判断右垂直模式的失真值是否小于左垂直模式的失真值；若是，再计算下右对角线模式的失真值，将右垂直模式与下右对角线模式中失真值较小的模式作为当前块的最优预测模式；若否，再计算下左对角线模式的失真值，将左垂直模式与下左对角线模式中失真值较小的模式作为当前块的最优预测模式；

e、计算下水平模式与上水平模式的失真值，并判断下水平模式的失真值是否小于上水平模式的失真值；若是，再计算下右对角线模式的失真值，将下水平模式与下右对角线模式中失真值较小的模式作为当前块的最优预测模式；若否，再计算下左对角线模式的失真值，将上水平模式与下左对角线模式中失真值较小的模式作为当前块的最优预测模式。

第一阈值T1＝totalT1/totalT1Num；其中，totalT1为最优预测模式采用了竖直模式、水平模式或DC模式的块的失真值总和；totalT1Num为最优预测模式采用了竖直模式、水平模式或DC模式的块的个数。第二阈值T2＝totalT2/totalT2Num；其中，totalT2：每个编码块的最优预测模式的失真值总和；totalT2Num为编码过程中块的个数。

本发明的有益效果是，充分考虑了预测模式的方向性，同时阈值的选取也满足各种模式的失真值分布特点，能很好的控制模式选择过程。与全遍历算法相比在信噪比几乎没有降低的情况下，较大幅度的提升了编码速度。

具体实施方式

采用JM(测试模型)对ITU(国际电报联盟)提供的常用测试源编码后发现，帧内编码最终采用MPM模式的情况较多，占了60％～92％左右。视频源越平滑，采用MPM为最优模式的情况更多。MPM是指最可能采用的模式，它是根据当前4x4快左边和上边的两个块采用的实际预测模式，通过计算得到的。如果最终采用这种模式，那么在编码的时候可以用更小的数据量来表示。下述预测模式0-8，每个数字指定的是一种特定的预测模式，在ITU标准文档中(http://www.itu.int/rec/T-REC-H.264/en)说明如下。

模式0：Intra_4x4_Vertical(竖直)

模式1：Intra_4x4_Horizontal(水平)

模式2：Intra_4x4_DC