[发明专利]环路滤波方法和环路滤波装置

说明书

本公开提供一种环路滤波方法和环路滤波装置。所述环路滤波方法可包括：基于对重构图像进行环路滤波的多个环路滤波工具，确定多个环路滤波工具的所有可能的滤波顺序，滤波顺序为多个环路滤波工具的工作顺序；确定所有可能的滤波顺序中的每种滤波顺序的滤波性能；基于滤波性能从所有可能的滤波顺序中选择具有最高滤波性能的滤波顺序；按照选择的滤波顺序对重构图像进行滤波。

技术领域

本公开涉及视频编解码领域，尤其涉及一种用于优化滤波顺序的环路滤波方法和环路滤波装置。

背景技术

环路滤波(In-loop Filter)是视频编解码的重要模块之一，该模块的主要目的是提升反变换之后重构图像的主客观质量，以进一步提升编解码效率。环路滤波可包括许多滤波技术，例如，在新一代视频编码标准VVC中，主要包含四个环路滤波技术，分别是去块效应滤波器(Deblocking Filter，DBF)、样值偏移补偿滤波器(Sample Adaptive Offset，SAO)、自适应环路滤波器(Adaptive Loop Filter，ALF)和跨分量的自适应环路滤波器(Cross Component Adaptive Loop Filter，CCALF)，如图1所示。在AVS3标准中，第一阶段包含DBF、SAO和ALF三个环路滤波工具，第二阶段包含DBF、增强样值偏移补偿滤波器(Enhanced Sample Adaptive Offset，ESAO)、跨分量的样值偏移补偿滤波器(CrossComponent Sample Adaptive Offset，CCSAO)以及ALF四个环路滤波工具，其中在第二阶段，第一阶段的SAO被ESAO和CCSAO替换，如图2所示。

在VVC和AVS3标准中，重构图像都是按照如图1和2所示的顺序被各个环路滤波工具依次滤波。这些滤波工具在滤波原理上存在一定的差异。例如，DBF利用基于先验统计规则的滤波方法对像素进行滤波；SAO/ESAO以及CCSAO都是利用像素的局部特征来对像素滤波；ALF和CCALF是基于在线学习的滤波方法，在编码端通过维纳霍普夫方程导出用于对像素滤波的滤波系数。虽然各个滤波工具在滤波原理上存在一定的差异，但在滤波性能上，仍然会存在相互影响的情况。例如，在VVC中，ALF对SAO的滤波性能有很大的影响，诸如当ALF打开时的SAO的性能远小于当ALF关闭时的SAO的性能。

无论是VVC还是AVS3，在环路滤波中，重构图像均按诸如图1或图2所示的固定的滤波顺序被依次滤波。但是当前的这种滤波方式并没有有效地考虑到各个滤波工具之间的相互影响。

发明内容

本公开提供一种用于优化滤波顺序的环路滤波方法和环路滤波装置，以至少解决上述提及的问题。

根据本公开实施例的第一方面，提供一种用于编码端的环路滤波方法，所述环路滤波方法可包括：基于对重构图像进行环路滤波的多个环路滤波工具，确定所述多个环路滤波工具的所有可能的滤波顺序，所述滤波顺序为所述多个环路滤波工具的工作顺序；确定所述所有可能的滤波顺序中的每种滤波顺序的滤波性能；基于所述滤波性能从所述所有可能的滤波顺序中选择具有最高滤波性能的滤波顺序；按照选择的滤波顺序对所述重构图像进行滤波。

可选地，确定所述多个环路滤波工具的所有可能的滤波顺序，可包括：基于所述多个环路滤波工具的数量按照排列组合方式来确定针对所述多个环路滤波工具的各种滤波顺序。

可选地，确定所述所有可能的滤波顺序中的每种滤波顺序的滤波性能，可包括：针对所述所有可能的滤波顺序中的每种滤波顺序，计算按照该滤波顺序对所述重构图像进行环路滤波的率失真代价。

可选地，计算按照该滤波顺序对所述重构图像进行环路滤波的率失真代价，可包括：按照该滤波顺序针对所述多个环路滤波工具中的每种环路滤波工具，计算该环路滤波工具执行滤波所消耗的比特数和被该环路滤波工具滤波后的图像的失真值；基于所述比特数和所述失真值来计算所述率失真代价。