[发明专利]一种AVS帧内预测模式快速选择算法

摘要

本发明提供一种AVS帧内预测模式快速选择算法，快速算法流程如附图所示。快速算法利用相邻块最佳模式的相关性和块内亮度变化的方向性来进行模式预判，缩小候选模式范围。亮度块的候选模式从原来的5个缩小为最多3个。对一个宏块选择最佳帧内预测模式，优化后的参考软件rm52j－new中要计算20次亮度块的率失真代价J，本发明的快速算法最多需要计算12次，最少只需要计算8次。快速算法相对于rm52j－new的算法，平均亮度信噪比降低在0.09dB以内，码率增加在1.52%以内，编码总时间可节省17.3%～29.5%。并且，快速算法对模式的预判完全基于图像本身的特点，所以在应用于不同的序列时效果都可以保证。

主权项

一种AVS帧内预测模式快速选择算法，其特征包括以下步骤：步骤1  计算亮度块在垂直、水平、左下和右下4个方向的SAD，选择SAD最小的方向所对应的模式作为候选模式，在SAD相同的情况下，选择模式值较小的模式作为候选模式；步骤2  做亮度块在DC模式下的帧内预测，得到相应预测块，对于其它4种模式，如果是最可能模式或者候选模式，做亮度块在该模式下的帧内预测；步骤3  计算亮度块在DC预测模式下的率失真代价J；步骤4  如果最可能模式不是DC模式，计算亮度块在最可能的模式下的率失真代价J；步骤5  如果候选模式不是最可能的模式，计算亮度块在候选模式下的率失真代价J；步骤6  选择DC、最可能模式和候选模式中率失真代价J值最小的模式为该亮度块的最佳帧内预测模式。