[发明专利]一种适用于HEVC标准的去方块滤波器的滤波方法

权利要求书

1.一种适用于HEVC标准的去方块滤波器的滤波方法，设在原始视频流里，每幅图像包括一个亮度分量，记为Y，每个亮度分量对应两个色度分量，分别记为Cb、Cr；在去方块滤波器模块中，基于一个quarter-LCU单元进行处理；quarter-LCU包含Y分量、Cb分量以及Cr分量，Y分量为32×32的像素点块，Cb分量和Cr分量为16×16的像素点块；

设当前需要处理的quarter-LCU的像素点块表示为C，则Y分量当前需要处理的quarter-LCU的4×4的像素点块共64个，构成一个8×8方阵；Cb和Cr分量当前需要处理的quarter-LCU的4×4的像素点块分别为16个，构成一个4×4方阵；同时，当前quarter-LCU左侧相邻的4×4像素点块记为L，当前quarter-LCU上侧相邻的4×4像素点块记为T，当前quarter-LCU左上角相邻的4×4像素点块记为LT；每个quarter-LCU的Y分量分为16个4×4的像素点块的2×2方阵，quarter-LCU的Cb和Cr分量分别分为4个4×4的像素点块的2×2方阵，其中需要进行滤波的边为：Y、Cb和Cr的2×2方阵左侧的边，即垂直边，Y、Cb和Cr的2×2方阵上方的边，即水平边；其中，水平边延伸至左边像素点块L；

每次滤波是以一个4×4的像素点块的边为处理单元，即需要进行滤波的边为4×4像素点块的边，记P块和Q块是该边两侧相邻的4×4像素点块；若当前边为垂直边，则P块和Q块分别为该边的左侧和右侧相邻的4×4像素点块，若当前边为水平边，则P块和Q块分别为该边上侧和下侧相邻的4×4像素点块；其特征在于，进行滤波的具体顺序如下：

先对垂直边进行滤波，然后对水平边进行滤波；对于各条垂直边，自左至右依次进行滤波，对于每条垂直边两侧的像素点块，自上而下依次进行滤波；对于各条水平边，自上而下依次进行滤波，对于每条水平边两侧的像素点块，自左至右依次进行滤波；

在Y分量中，垂直边自左至右依次记为v1,v2,v3,v4,水平边自上至下依次记为h1,h2,h3,h4；Cb分量中，垂直边自左至右依次记为v5,v6，水平边自上至下依次记为h5,h6；Cr分量中，垂直边自左至右依次记为v7,v8，水平边自上至下依次记为h7,h8；设：

左侧方阵为4×4的P块中16个相应位置像素点的值；右侧方阵为4×4的Q块中16个相应位置像素点的值；两个方阵中，第一行的8个像素点为第一组，第二行的8个像素点为第二组，第三行的8个像素点为第三组，第四行的8个像素点为第四组；

(一)对Y分量，每一个4×4像素点块的边的处理步骤如下：

(1)判断当前边是不是预测单元或者变换单元的边界，是的话，进行步骤(2)，不是的话，当前边相邻的P和Q块不处理；

(2)计算当前边的BS值，BS值的取值方式如表1所示；如果BS>0，进行步骤(3)，不是的话，当前边相邻的P和Q块不处理；

(3)判定公式(1)是否成立，如果成立，进行步骤(4)，否则，当前边相邻的P和Q块不处理；

式(1)中，β为一常数，dp0，dp3，dq0，dq3的值由式(2)，(3)，(4)，(5)得到；

(4)判定公式(6)，(7)，(8)是否成立，如果全部成立，进行步骤(5)，对P和Q块进行强滤波，如果有一个公式未成立，进行步骤(6)，对P和Q块进行弱滤波；

式(6)中dp0，dq0，dp3，dq3由式(2)，(3)，(4)，(5)得到；tc为一常数；

(5)对P和Q块进行强滤波

P和Q块的第1组的8个像素点强滤波处理过程为：用p0，q0，p1，q1，p2，q2的值替换原来p0,0，q0,0，p1,0，q1,0，p2,0，q2,0的值，p0，q0，p1，q1，p2，q2的值由式(9)，(10)，(11)，(12)，(13)，(14)得到；

P和Q块的第2,3,4组的8个像素点的强滤波处理过程与此类似；

(6)对P和Q块进行弱滤波

P和Q块的第1组的8个像素点弱滤波处理过程为：

①如果式(15)成立，则用p0，q0的值替换原来p0,0，q0,0的值；式(15)中的△的值由式(16)得到，p0，q0的值由式(17)、式(18)得到，Clip1运算代表若括号中的值小于0，则表达式的值等于0，若括号中的值大于255，则表达式的值等于255，否则表达式的值等于原值；△1由式(19)得到，Clip3运算代表若括号中第三个值小于第一个值，则表达式的值等于第一个值，若括号中第三个值大于第二个值，则表达式的值等于第二个值，否则表达式的值等于第三个值；

②如果式(15)和(20)同时成立，则用p1的值替换原来p1,0的值；式(20)中的dp0，dp3由式(2)，(3)得到，p1的值由式(21)得到，其中△p由式(22)获得；

③如果式(15)和(23)同时成立，则用q1的值替换原来q1,0的值；式(23)中的dq0，dq3由式(4)，(5)得到；q1的值由式(25)得到，其中△q由式(24)获得；

P和Q块的第2,3,4组的8个像素点的弱滤波处理方法与此类似；

(二)对Cb分量，每一个4×4像素点块的边的处理步骤如下：

(1)判断当前边是不是预测单元或者变换单元的边界，是的话，进行步骤(2)，不是的话，当前边相邻的P和Q块不处理；

(2)Cb分量当前4×4块边的BS值为对应的Y分量的4×4块边的值，若BS等于2则进行步骤(3)，否则，当前边相邻的P和Q块不处理；

(3)对于第1组8个像素点，用p0，q0的值替换原来p0,0，q0,0的值；P0，q0的值由式(26)，(27)得到，其中△₂可由式(28)得到；

P和Q块的第2,3,4组的8个像素点的处理方法与此类似；

(三)对Cr分量，每一个4×4像素点块的边的处理步骤与Cb分量滤波过程类似；

dp0+dp3+dq0+dq3<β(1)

dp0＝|p_2,0-2p_1,0+p_0,0| (2)

dp3＝|p_2,3-2p_1,3+p_0,3| (3)

dq0＝|q_2,0-2q_1,0+q_0,0|(4)

dq3＝|q_2,3-2q_1,3+q_0,3|(5)

dp0+dq0<β/8,dp3+dq3<β/8(6)

|p_3,0-p_0,0|+|q_0,0-q_3,0|<β/8,|p_3,3-p_0,3|+|q_0,3-q_3,3|<β/8 (7)

|p_0,0-q_0,0|<2.5t_c,|p_0,3-q_0,3|<2.5t_c (8)

p₀＝(p_2,0+2p_1,0+2p_0,0+2q_0,0+q_1,0+4)>>3 (9)

q₀＝(p_1,0+2p_0,0+2q_0,0+2q_1,0+q_2,0+4)>>3(10)

p₁＝(p_2,0+p_1,0+p_0,0+q_0,0+2)>>2(11)

q₁＝(p_0,0+q_0,0+q_1,0+q_2,0+2)>>2(12)

p₂＝(2p_3,0+3p_2,0+p_1,0+p_0,0+q_0,0+4)>>3(13)

q₂＝(p_0,0+q_0,0+q_1,0+3q_2,0+2q_3,0+4)>>3 (14)

|△|<10*t_c (15)

△＝(9*(q_0,0-p_0,0)-3*(q_1,0-p_1,0)+4)>>4(16)

p₀＝Clip1(p_0,0+△₁) (17)

q₀＝Clip1(q_0,0+△₁)(18)

△₁＝Clip3(-t_c,t_c,△)(19)

dp0+dp3<(β+(β>>1))>>3(20)

p₁＝Clip1(p_1,0+△p)(21)

△_p＝Clip3(-(t_c>>1),t_c>>1,(((p_2,0+p_0,0+1)>>1-p_1,0+△)>>1) (22)

dq0+dq3<(β+(β>>1))>>3(23)

△_q＝Clip3(-(t_c>>1),t_c>>1,(((q_2,0+q_0,0+1)>>1-q_1,0+△)>>1)(24)

q₁＝Clip1(q_1,0+△q)(25)

p₀＝Clip1(p_0,0+△₂) (26)

q₀＝Clip1(q_0,0+△₂) (27)

△₂＝Clip3(-t_c,t_c,((((q_0,0-p_0,0+1)<<2+p_1,0+q_1,0+4)>>3)) (28)

表1