[发明专利]一种改进的HEVC样点自适应补偿方法

摘要

本发明公开了一种改进的HEVC样点自适应补偿方法，采用BO和EO算法对图像进行SAO滤波。现有的视频编码标准HEVC在环路滤波技术中采用样点自适应补偿算法解决变换量化引起的振铃效应，包括BO和EO，但是BO算法没有完全考虑边带分布情况，仅传递四个连续的边带。本发明利用图像直方图充分分析了边带分布情况，自适应地提取了帧内预测模式纹理信息，针对不同大小的CTB，新增四种BO滤波模式，并改进BO滤波模式判别过程，提出了一种样点自适应补偿改进方法。实验结果表明，与HM10.0相比，该方法提高了编码性能，尤其在色度上比特率增益可达到-7.53%，图像边缘部分主观评价质量提升效果明显。

主权项

一种改进的HEVC样点自适应补偿方法，采用BO和EO算法对图像进行SAO滤波，其特征在于，该方法包括如下步骤：第一步，SAO滤波模式条件判别并分类统计此步骤以CTB为处理单元，遍历CTB中所有像素点，对SAO滤波模式BO和EO滤波条件进行判别，分类统计出像素点个数N，计算相应模式原始帧与重建帧差值和E；在判别EO条件模式时，首先分别选取4种角度模式EO_0、EO_45、EO_90、EO_135方向位置点并提取a、b、c像素值，然后分别统计满足补偿条件1至条件4像素点个数分别为N₁—N₄，最后分别计算出4种角度模式满足条件1至条件4 N₁—N₄个数的像素点原始帧与重建帧对应的差值和E₁—E₄；在判别BO条件模式时，首先统计第1至32边带统计像素个数N₁—N₃₂，然后分别计算出32个边带像素点原始帧与重建帧对应的差值和E₁—E₃₂，最后改进HEVC传统 BO滤波模式判别过程，保留传递4个连续边带的HEVC传统BO模式，并针对较小CTB情况增加BO_D、BO_M模式选择，针对较大CTB增加BO_N、BO_B模式，利用边带分布特征分析选择最优BO滤波模式，提取最优BO滤波模式若干个边带的像素个数N和对应的原始帧与重建帧对应的差值和E；第二步，计算最优非参数融合SAO滤波模式此步骤利用第一步得到的五种SAO滤波模式中像素点个数N和相应模式原始帧与重建帧差值和E，进行率失真优化计算，在五种模式中选择出最优模式作为非参数融合SAO滤波模式；在计算EO滤波模式时，首先遍历四种EO滤波模式，依次提取滤波模式中种类1至4的像素点个数N和对应原始帧与重建帧差值和E，计算补偿初始值然后，将补偿值m取整后为m’，限制于[‑7,7]区间内，并要求种类1、种类2必须大于等于0，种类3、种类4必须小于等于0，得到候选补偿值区间[0,m’]，遍历所有候选补偿值区间内的整数，利用率失真优化函数最小的补偿值作为该EO滤波模式最优补偿值，其中为拉格朗日因子；最后，计算四种EO滤波模式种类1至4补偿模式率失真优化和，选择其中率失真代价最小模式作为最优EO滤波模式；在计算BO滤波模式时，首先根据边带分布特征分析判断最优BO滤波模式，提取需要传递的边带像素个数N和对应原始帧与重建帧差值和E，计算补偿初始值然后，将补偿值m取整后为m’，限制于[‑7,7]区间内，得到候选补偿值区间[0,m’]，m’<0或[m’,0]，m’>0，遍历所有候选补偿值区间内的整数，利用率失真优化函数最小的补偿值作为该边带的最优补偿值，其中为拉格朗日因子；最后，计算BO滤波模式各个边带率失真代价和，与最优EO滤波模式率失真代价相比较，率失真代价较小的模式作为最优非参数融合SAO滤波模式；第三步，计算最优SAO滤波模式首先，将第一步和第二步分别应用于当前CTB亮度分量和两个色度分量SAO滤波过程，得到三组滤波参数，计算出非参数融合SAO滤波模式率失真代价和然后，如果可提取上邻近CTB和左邻近CTB参数融合模式参数，利用其亮度和色度SAO参数进行计算率失真代价和分别为最后，将非融合参数率失真代价对比，确定最优SAO模式。