[发明专利]基于DCT的HEVC快速帧内模式决策算法

权利要求书

1.一种基于DCT的HEVC快速帧内模式决策算法，其特征在于，该算法包括以下步骤：

步骤一、输入原始待预测块，对原始待预测块做DCT变换，提取出纹理特征信息，DCT变换公式如下：

ACu,v=CuCv2N×NΣi=0N-1Σj=0N-1f(i,j)cos(2i+1)uπ2N]]>

其中，AC_u,v表示位于第i行第j列的DCT系数，u表示二维波的水平方向频率，v表示二维波的垂直方向频率，C_u和C_v表示与u，v相关的参数，N表示方阵的大小，π表示圆周率；

步骤二、计算待预测块纹理方向与水平方向的方向角θ，公式如下：

θ=arctanEvEh]]>

E_v、E_h分别表示原始待预测块具有垂直或水平纹理特征的可能性，计算公式如下：

Ev=Σv=0N-1|F(0,v)|]]>

Eh=Σu=0N-1|F(u,0)|]]>

其中，F(u,v)为DCT系数；

并且，把此方向角区间离散化以对应匹配33种角度预测模式，各角度预测模式下对应各预测方向角度，表达公式如下：

步骤三、为弥补纹理计算方法所得纹理方向的误差，构建起一个候选模式集CandiModeListForRMD；该模式集不仅包括纹理方向预测模式，还包括以该模式为中心的相邻的M-1个角度预测模式；另外将DC模式和Planar模式被放入候选模式集中；

步骤四、使得候选模式集CandiModeListForRMD中的模式，即纹理方向预测模式和以该模式为中心的相邻的M-1个角度预测模式共M个模式，进入粗略模式决策阶段；粗略模式决策阶段中程序会遍历该候选模式集中的所有模式，得出各模式对应的代价值，选出前N个对应代价值最小的模式，放入候选模式集CandiModeListForRDO；

步骤五、将三个MPMs模式也放入候选模式集CandiModeListForRDO中，保证相邻待预测块的连续性和一致性；

步骤六、候选模式集CandiModeListForRDO中的模式，即步骤四中的前N个对应代价值最小的模式以及步骤五中三个MPMs模式，进入率失真优化阶段；率失真优化阶段程序会对所有模式求取相应的率失真代价值，对应率失真代价值最小的帧内预测模式即为该待预测块的最优帧内预测模式。