[发明专利]一种自适应环路滤波的边界处理方法及装置

说明书

技术领域

本发明涉及数字信号处理领域，具体地，涉及一种图像/视频编解码领域中的自适应环路滤波的边界处理方法及装置。

背景技术

自适应环路滤波器(Adaptive Loop Filter,ALF)是视频编解码的重要技术之一。该技术通过编码滤波系数，在解码端对重构图像进行滤波，降低解码图像中的压缩失真，并为后续编解码图像提供高质量的预测参考图像，从而进一步提高压缩效率。ALF的系数一般通过最小化编码重构图像和其对应的未压缩图像间的失真训练得到，该系数即维纳滤波系数。

新型的编码标准技术中，通常包括三类环内滤波技术：去块滤波(De-Blocking,DB)、自适应采样偏移技术(Sample Adaptive Offset,SAO)和自适应环路滤波器(ALF)。其中DB使用预先定义好的系数进行滤波，SAO和ALF利用待编码的原始像素样本训练出滤波系数以减少原始像素样本与失真像素样本之间的均方误差。如图1所示，ALF通常位于整个编码环路的最后一个阶段，对SAO输出得到的像素样本进行处理，降低上一个视频编解码阶段的图像失真。使用ALF对视频/图像编码主要有两点好处：一是减少原始信号与失真信号之间的误差；二是执行滤波之后可以提高后续编码参考图像的质量，进而提高整体编码效率。

现有的ALF技术根据滤波器控制方式可以被划分为三类：基于整帧的ALF、基于区域的ALF和基于四叉树划分的ALF。基于整帧的ALF通常会对于某些图像区块有较大的质量损失，而基于四叉树划分的ALF划分方式较为复杂，编码复杂度大。因此目前通常使用的是基于区域的ALF。基于区域的ALF方法，将图像固定划分为近似等大的16个区域，每个区域计算一组滤波器系数，并根据编码的率失真性能进行区域间的自适应合并，从而降低了算法复杂度。为了充分挖掘ALF性能，可利用时域相邻编码帧间的相关性，将编码顺序前一帧的滤波器系数进行缓存，缓存系数参与当前帧ALF性能的率失真决策，如果前一帧ALF参数对于编码的率失代价更小，则只需编码一个标识位即可，从而降低编码开销和解码复杂度。

如图2所示，在AVS2中自适应环路滤波器滤波形状为7x7十字+3x3方形对称形状，水平方向有7个系数，垂直方向也有7个系数，整套滤波共有17个系数。对当前最大编码单元做自适应环路滤波时，由于当前最大编码单元下方的像素尚未解码，不能做自适应环路滤波，此时需要缓存不能做滤波的像素样本。在硬件实现上额外缓存样本像素行数占用极大的芯片空间，尤其是高清视频序列。为了解决额外缓存边界像素样本行数的问题，引入了虚拟边界的概念，如图3所示，滤波过程中使用滤波中心点像素值代替边界外及其对称位置的像素值，对于图3中所述示例，滤波中心样本像素点的C₀和C₁在虚拟边界下方，则使用中心像素点C₈代替虚拟边界下方的C₀、C₁和其对称位置的像素样本。这种解决方法的局限性在于如果中心点像素距离越界像素较远，中心点像素与越界像素相关性较弱，并且越界像素对称位置的像素并没有越界，同样使用中线点像素代替越界像素不合理。

因此，目前的ALF技术并没有合理的解决滤波过程中边界问题处理，现有的解决方案仍存在一定的局限性。

发明内容

本发明的目的是提供一种自适应环路滤波的边界处理方法及装置，用于解决ALF滤波过程中的边界处理问题。

为了实现上述目的，本发明提供一种自适应环路滤波的边界处理方法，包括：根据序列的当前最大编码单元的上边界和下边界，确定滤波区域；以及确定所述滤波区域的左边界外和右边界外的像素是否可用，且在自适应环路滤波ALF过程中，对于不可用的像素样本，使用所述滤波区域内距离该像素样本最近的像素样本代替。

优选地，还包括：在序列的序列头上添加标志位，该标志位用于控制ALF是否允许跨条带边界滤波。

优选地，所述确定滤波区域，具体包括：对当前最大编码单元的上边界进行判断，基于亮度分量，将当前最大编码单元所在区域C向上移N个样本单位，再基于色度分量，将最大编码单元所在的区域向上移M个样本单位，得到区域D，其中，N和M均小于等于4；若区域D超出图像边界，或区域D超出条带边界且所述标志位不允许ALF跨条带边界滤波，则将超出部分移除，得到区域E，否则区域E等于区域D；对当前最大编码单元的下边界进行判断，若当前最大编码单元的下边界为图像边界，则对于亮度分量的区域E最下方补入N行样本，对于色度分量的区域E的最下方补入M行样本，得到区域F；将区域F作为ALF的滤波区域。