[发明专利]一种适用于HEVC标准的去方块滤波器的滤波方法

摘要

本发明属于高清数字视频压缩编解码技术领域，具体为一种适用于HEVC标准的去方块滤波器的滤波方法。设每幅图像包括一个亮度分量Y，应两个色度分量Cb、Cr；在去方块滤波器模块中，基于一个quarter‑LCU单元进行处理；设需要处理的quarter‑LCU的像素点块有垂直边和水平边；本发明方法的滤波顺序为先对垂直边进行滤波，然后对水平边进行滤波；对于各条垂直边，自左至右依次进行滤波，对于每条垂直边两侧的像素点块，自上而下依次进行滤波；对于各条水平边，自上而下依次进行滤波，对于每条水平边两侧的像素点块，自左至右依次进行滤波。本发明可以有效地减小对于外部存储器的读取次数，减小处理时间，提高芯片处理能力，从而高效的实现高清视频的实时编码。

主权项

一种适用于HEVC标准的去方块滤波器的滤波方法，设在原始视频流里，每幅图像包括一个亮度分量，记为Y，每个亮度分量对应两个色度分量，分别记为Cb、Cr；在去方块滤波器模块中，基于一个quarter‑LCU单元进行处理；quarter‑LCU包含Y分量、Cb分量以及Cr分量，Y分量为32×32的像素点块，Cb分量和Cr分量为16×16的像素点块；设当前需要处理的quarter‑LCU的像素点块表示为C，则Y分量当前需要处理的quarter‑LCU的4×4的像素点块共64个，构成一个8×8方阵；Cb和Cr分量当前需要处理的quarter‑LCU的4×4的像素点块分别为16个，构成一个4×4方阵；同时，当前quarter‑LCU左侧相邻的4×4像素点块记为L，当前quarter‑LCU上侧相邻的4×4像素点块记为T，当前quarter‑LCU左上角相邻的4×4像素点块记为LT；每个quarter‑LCU的Y分量分为16个4×4的像素点块的2×2方阵，quarter‑LCU的Cb和Cr分量分别分为4个4×4的像素点块的2×2方阵，其中需要进行滤波的边为：Y、Cb和Cr的2×2方阵左侧的边，即垂直边，Y、Cb和Cr的2×2方阵上方的边，即水平边；其中，水平边延伸至左边像素点块L；每次滤波是以一个4×4的像素点块的边为处理单元，即需要进行滤波的边为4×4像素点块的边，记P块和Q块是该边两侧相邻的4×4像素点块；若当前边为垂直边，则P块和Q块分别为该边的左侧和右侧相邻的4×4像素点块，若当前边为水平边，则P块和Q块分别为该边上侧和下侧相邻的4×4像素点块；其特征在于，进行滤波的具体顺序如下：先对垂直边进行滤波，然后对水平边进行滤波；对于各条垂直边，自左至右依次进行滤波，对于每条垂直边两侧的像素点块，自上而下依次进行滤波；对于各条水平边，自上而下依次进行滤波，对于每条水平边两侧的像素点块，自左至右依次进行滤波；在Y分量中，垂直边自左至右依次记为v1,v2,v3,v4,水平边自上至下依次记为h1,h2,h3,h4；Cb分量中，垂直边自左至右依次记为v5,v6，水平边自上至下依次记为h5,h6；Cr分量中，垂直边自左至右依次记为v7,v8，水平边自上至下依次记为h7,h8；设：左侧方阵为4×4的P块中16个相应位置像素点的值；右侧方阵为4×4的Q块中16个相应位置像素点的值；两个方阵中，第一行的8个像素点为第一组，第二行的8个像素点为第二组，第三行的8个像素点为第三组，第四行的8个像素点为第四组；(一)对Y分量，每一个4×4像素点块的边的处理步骤如下：(1)判断当前边是不是预测单元或者变换单元的边界，是的话，进行步骤(2)，不是的话，当前边相邻的P和Q块不处理；(2)计算当前边的BS值，BS值的取值方式如表1所示；如果BS>0，进行步骤(3)，不是的话，当前边相邻的P和Q块不处理；(3)判定公式(1)是否成立，如果成立，进行步骤(4)，否则，当前边相邻的P和Q块不处理；式(1)中，β为一常数，dp0，dp3，dq0，dq3的值由式(2)，(3)，(4)，(5)得到；(4)判定公式(6)，(7)，(8)是否成立，如果全部成立，进行步骤(5)，对P和Q块进行强滤波，如果有一个公式未成立，进行步骤(6)，对P和Q块进行弱滤波；式(6)中dp0，dq0，dp3，dq3由式(2)，(3)，(4)，(5)得到；tc为一常数；(5)对P和Q块进行强滤波P和Q块的第1组的8个像素点强滤波处理过程为：用p0，q0，p1，q1，p2，q2的值替换原来p0,0，q0,0，p1,0，q1,0，p2,0，q2,0的值，p0，q0，p1，q1，p2，q2的值由式(9)，(10)，(11)，(12)，(13)，(14)得到；P和Q块的第2,3,4组的8个像素点的强滤波处理过程与此类似；(6)对P和Q块进行弱滤波P和Q块的第1组的8个像素点弱滤波处理过程为：①如果式(15)成立，则用p0，q0的值替换原来p0,0，q0,0的值；式(15)中的△的值由式(16)得到，p0，q0的值由式(17)、式(18)得到，Clip1运算代表若括号中的值小于0，则表达式的值等于0，若括号中的值大于255，则表达式的值等于255，否则表达式的值等于原值；△1由式(19)得到，Clip3运算代表若括号中第三个值小于第一个值，则表达式的值等于第一个值，若括号中第三个值大于第二个值，则表达式的值等于第二个值，否则表达式的值等于第三个值；②如果式(15)和(20)同时成立，则用p1的值替换原来p1,0的值；式(20)中的dp0，dp3由式(2)，(3)得到，p1的值由式(21)得到，其中△p由式(22)获得；③如果式(15)和(23)同时成立，则用q1的值替换原来q1,0的值；式(23)中的dq0，dq3由式(4)，(5)得到；q1的值由式(25)得到，其中△q由式(24)获得；P和Q块的第2,3,4组的8个像素点的弱滤波处理方法与此类似；(二)对Cb分量，每一个4×4像素点块的边的处理步骤如下：(1)判断当前边是不是预测单元或者变换单元的边界，是的话，进行步骤(2)，不是的话，当前边相邻的P和Q块不处理；(2)Cb分量当前4×4块边的BS值为对应的Y分量的4×4块边的值，若BS等于2则进行步骤(3)，否则，当前边相邻的P和Q块不处理；(3)对于第1组8个像素点，用p0，q0的值替换原来p0,0，q0,0的值；P0，q0的值由式(26)，(27)得到，其中△2可由式(28)得到；P和Q块的第2,3,4组的8个像素点的处理方法与此类似；(三)对Cr分量，每一个4×4像素点块的边的处理步骤与Cb分量滤波过程类似；dp0+dp3+dq0+dq3<β                          (1)dp0＝|p2,0‑2p1,0+p0,0|                           (2)dp3＝|p2,3‑2p1,3+p0,3|                           (3)dq0＝|q2,0‑2q1,0+q0,0|                            (4)dq3＝|q2,3‑2q1,3+q0,3|                            (5)dp0+dq0<β/8,dp3+dq3<β/8                      (6)|p3,0‑p0,0|+|q0,0‑q3,0|<β/8,|p3,3‑p0,3|+|q0,3‑q3,3|<β/8           (7)|p0,0‑q0,0|<2.5tc,|p0,3‑q0,3|<2.5tc                       (8)p0＝(p2,0+2p1,0+2p0,0+2q0,0+q1,0+4)>>3                   (9)q0＝(p1,0+2p0,0+2q0,0+2q1,0+q2,0+4)>>3                  (10)p1＝(p2,0+p1,0+p0,0+q0,0+2)>>2                      (11)q1＝(p0,0+q0,0+q1,0+q2,0+2)>>2                      (12)p2＝(2p3,0+3p2,0+p1,0+p0,0+q0,0+4)>>3                  (13)q2＝(p0,0+q0,0+q1,0+3q2,0+2q3,0+4)>>3                   (14)|△|<10*tc                                 (15)△＝(9*(q0,0‑p0,0)‑3*(q1,0‑p1,0)+4)>>4                  (16)p0＝Clip1(p0,0+△1)                             (17)q0＝Clip1(q0,0+△1)                              (18)△1＝Clip3(‑tc,tc,△)                              (19)dp0+dp3<(β+(β>>1))>>3                        (20)p1＝Clip1(p1,0+△p)                              (21)△p＝Clip3(‑(tc>>1),tc>>1,(((p2,0+p0,0+1)>>1‑p1,0+△)>>1)         (22)dq0+dq3<(β+(β>>1))>>3                        (23)△q＝Clip3(‑(tc>>1),tc>>1,(((q2,0+q0,0+1)>>1‑q1,0+△)>>1)        (24)q1＝Clip1(q1,0+△q)                              (25)p0＝Clip1(p0,0+△2)                             (26)q0＝Clip1(q0,0+△2)                             (27)△2＝Clip3(‑tc,tc,((((q0,0‑p0,0+1)<<2+p1,0+q1,0+4)>>3))           (28)表1