[发明专利]一种快速4x4块帧内预测模式选择方法

说明书

技术领域

本发明属于数字视频编码领域，涉及一种基于H.264编码器的快速4x4块帧内预测模式选择方法。

背景技术

最新的视频压缩标准H.264编码器中，帧内和帧间编码采用了丰富多样的编码模式选项。帧内预测编码模式中，H.264编码器对亮度分量支持4种Intra_16x16预测模式和9种Intra_4x4预测模式，对色度块支持如Intra_16x16的4种Intra_8x8预测模式。对于4x4小块的9种预测模式中，其中的Intra_4x4_DC模式，是利用与该4x4小块相邻的若干已解码区域像素的平均值，对此小块作出预测；其它8种预测模式分别对应8个不同的方向角度进行预测。在H.264视频编码过程中，从众多编码模式中选择一种合适的预测模式过程称为模式选择。这些丰富的编码模式极大提高了压缩效率。但是，模式选择过程的复杂度也大大增加。在H.264编码器的参考代码中，采用了基于Lagrange优化的RDO框架模型，并采用全搜索方式来寻找一种率失真意义上的最优预测编码模式。这种全搜索方法需要对所有的预测模式进行预编码、计算率失真代价值，最后选择率失真代价值最小的模式为最终的预测编码模式。这种方法的计算复杂度是实时编码器所不能接受的。所以，需要对编码器的模式选择进行优化，同时尽量不损失编码压缩效率。

发明内容

本发明的目的是提供一种基于H.264编码器的快速4x4块帧内预测模式选择方法。

本发明方法包括如下步骤：

步骤(1)根据H.264编码器框架把一幅图片划分成4x4大小的块图像，计算每一个4x4图像块的七个边缘方向系数；根据边缘方向系数将每一个4x4图像块分成九种边缘模式：包括一种一致性区域块边缘模式和八个不同方向边缘模式；计算每一个4x4图像块的七个边缘方向系数方法如下：

其中H、V、X、A、B、C、D分别表示七个边缘方向系数，S₀₀、S₀₁、S₁₀、S₁₁分别表示一个块的左上、右上、左下、右下四分之一块像素的平均值，u，v＝0，1，i，j为四分之一块像素的索引值；

其中p(x，y)为像素的灰度值，x，y＝0，1，2，3为垂直方向从上到下和水平方向从左到右的索引值；scale1＝QPstep/16，其中QPstep为量化步长，scale2为像素个数除以2；表示取最小整数；|·|表示求绝对值。

根据以上七个方向系数，将每一个4x4图像块分成九种边缘模式的方法如下：

(1-1)如果H＝V＝0，则该4x4图像块属于一致性区域块边缘模式，该边缘模式对应4x4帧内预测的直流预测模式，即帧内预测模式2；

(1-2)在|H|＝|V|≠0的情况下，如果Abs(A-D)＞Abs(C-B)，则该块属于DL边缘模式，该边缘模式对应的边缘方向与4x4块帧内预测模式3的预测方向一致；否则，该块属于DR边缘模式，该边缘模式对应的边缘方向与4x4帧内预测模式4的预测方向一致；

(1-3)在|H|＞|V|的情况下：V＝0时，则该块属于H边缘模式，该边缘模式对应的边缘方向与帧内预测模式1对应的预测方向一致；V≠0时，如果A或D是A、B、C、D四个数中的最大值，则该块属于HU边缘模式，该边缘模式对应的边缘方向与帧内预测模式8对应预测方向一致；如果B或C是A、B、C、D四个数中的最大值，则该块属于HD边缘模式，该边缘模式对应的边缘方向与帧内预测模式6对应的预测方向一致；

(1-4)在|H|＜|V|的情况下：H＝0时，则该块属于V边缘模式，该边缘模式对应的边缘方向与帧内预测模式0对应的预测方向一致；H≠0时，如果A或D是A、B、C、D四个数中的最大值，则该块属于VL边缘模式，该边缘模式对应的边缘方向与帧内预测模式7对应预测方向一致；如果B或C是A、B、C、D四个数中的最大值，则该块属于VR边缘模式，该边缘模式对应的边缘方向与帧内预测模式5对应的预测方向一致。

本发明方法中的帧内预测模式编号与H.264编码器所规定的模式编号一致。

步骤(2)根据图像块的边缘模式选择一种或者三种帧内预测模式，如果选择三种预测模式，则根据预编码后计算得到的率失真代价值确定最后帧内预测模式；而对于只选一种预测模式的，这个预测模式就是最后的预测模式。