[发明专利]一种视频转码中帧内模式的快速选择方法

摘要

一种视频转码中帧内模式的快速选择方法，将当前块的DCT系数分为垂直、水平、对角三个能量区域，根据能量区域之间的夹角和DC系数的差值来选择帧内模式，显著降低了视频转码的计算复杂度，而转码效率则基本保持不变。

主权项

1.一种视频转码中帧内模式的快速选择方法，其特征在于包括以下步骤：(1)将当前块的DCT系数分为垂直、水平、对角三个能量区域，分别根据下列三式计算各区域的能量和F1，F2，F3：$F_1=\underset{v=1}{\overset{7}{\Sigma }}F(0,v)$ $F_2=\underset{u=1}{\overset{7}{\Sigma }}F(u,0)$ $F_3=\underset{u=1}{\overset{2}{\Sigma }}F(u,1)+\underset{u=1}{\overset{3}{\Sigma }}F(u,2)+\underset{u=2}{\overset{3}{\Sigma }}F(u,3)$ 其中F(u，v)表示当前块中(u，v)坐标处的DCT系数绝对值；(2)根据下列两式计算能量区域之间的夹角α和β：tgα＝(F2+1)/(F1+1)tgβ＝(F3+1)/(Ft-F3+-1)其中Ft为F1，F2中较大的一个；(3)如果β＞T1，则Down-left模式为候选帧内模式，并转入(7)；否则转入(4)；(4)如果α＜T2，则Horizontal模式为候选帧内模式，并转入(8)；如果α＞T3，则Vertical模式为候选帧内模式，并转入(8)；否则转入(5)；(5)根据下列三式分别计算垂直、水平、对角方向的DC系数差值DC0，DC1，DC2：DC0＝|F(0，0)-Fver(0，0)|DC1＝|F(0，0)-Fhor(0，0)|DC2＝|F(0，0)-(Fhor(0，0)+Fver(0，0))/2|其中Fver(0，0)和Fhor(0，0)分别表示垂直方向和水平方向预测块的DC系数；(6)比较DC0，DC1，DC2的大小，如果DC0最小，则Vertical模式为候选帧内模式；如果DC1最小，则Horizontal模式为候选帧内模式；如果DC2最小，则DC模式为候选帧内模式；然后转入(7)；(7)如果T2＜α＜T4，则Vertical模式为候选帧内模式；如果T5＜α＜T3，则Horizontal模式为候选帧内模式；然后转入(8)；(8)从候选帧内模式和DC模式中利用率失真优化技术选择最优的帧内模式。