[发明专利]变换子块边界的去块

说明书

一种用于对编码单元的至少一个边界去块的方法。该方法包括：确定编码单元使用子块变换，其中，子块变换在编码单元内生成变换子块边界，从而在编码单元内形成至少一个变换子块；作为确定编码单元使用子块变换的结果，基于编码单元内变换子块的尺寸，确定最大滤波器长度，其中，最大滤波器长度指示在对编码单元的边界去块时要修改的最大样本数量；以及基于所确定的最大滤波器长度，对编码单元的边界去块。(图6)。

技术领域

本公开涉及高效视频编码(HEVC)和通用视频编码(VVC)。

背景技术

视频序列由一系列图像组成，其中每个图像由一个或多个分量组成。每个分量可以被描述为二维矩形样本值阵列。视频序列中的图像可以由三个分量组成；一个亮度分量Y(其中样本值是亮度值)以及两个色度分量Cb和Cr(其中样本值是色度值)。其他示例包括Y’Cb Cr、Yuv和IC_TC_P。在IC_TC_P中，I是“强度亮度”分量。在本公开的上下文中，任何亮度分量将被称为Y’、Y或作为Y的I或简称为亮度。色度分量的尺寸可以在每个尺寸上比亮度分量小一倍。例如，HD图像的亮度分量的尺寸会是1920×1080，色度分量每一个会是960×540的尺寸。分量有时被称为颜色分量。

块是一个二维样本阵列。在视频编码中，每个分量被分割成块，并且已编码的视频比特流是一系列块。在视频编码中，图像可以被分割成覆盖图像的特定区域的单元。每个单元由来自构成该特定区域的所有分量的所有块组成，并且每个块完全属于一个单元。H.264中的宏块和HEVC中的编码单元(CU)是单元的示例。

在HEVC中，每个图片被分区成编码树单元(CTU)。CTU由N×N亮度样本块和两个M×M对应色度块组成。HEVC中的CTU类似于H.264和更早标准中的宏块，但与宏块相比，CTU大小是可配置的。然而，在大多数情况下，HEVC中的CTU大小被设置为64×64亮度样本。每个CTU可以被递归地进行四叉树分割。然后，四叉树的根与CTU相关联。四叉树被分割，直到到达叶，叶被称为编码单元(CU)。HEVC中的CU始终由具有相等高度和宽度的亮度块组成。在比特流中传达如何分割每个CTU。CU还是另外两棵树的根节点，即以预测单元(PU)作为节点的预测树和以变换单元(TU)作为节点的变换树。HEVC中的一些解码过程在CU级别上进行，一些在PU级别上进行，一些在TU级别上进行。PU之间的边界和TU之间的边界由去块滤波器进行滤波以减少TU与PU之间的不连续性。在HEVC中，对于PU存在两种预测类型：帧内预测和帧间预测，其中，帧内预测仅使用来自当前图片的先前解码样本的预测来进行预测，而帧间预测使用来自至少一个先前解码图片的预测。

在HEVC中，去块首先被应用于垂直边界上，然后被应用于水平边界上。边界是TU边界或PU边界。为了实现并行的友好去块，去块在8×8样本网格上被执行。

针对每个边界设置去块滤波器强度参数(bs)。如果bs的值大于0，则去块可以被应用。边界强度越大，则应用越强的滤波。首先，检查如果在块之间的PU边界处的任何块是帧内预测块，则(bs被设置为＝2)，或者如果两个块都使用帧间预测但它们使用不同的参考帧或者具有显著不同的运动矢量，则(bs被设置为＝1)。还检查如果块之间的TU边界在至少一个块中具有非零变换系数(码块标志CBF等于1)，则(bs被设置为＝1)。这第一次检查设置大于0的边界强度(bs)以指示去块应当被应用。边界强度越大，则应用越强的滤波。为了在去块时减少/避免移除自然结构，则针对亮度应用在边界的各侧没有任何自然结构的检查。在HEVC中，使用以下不等式来对边界的各侧使用梯度计算：abs(p0-2*p1+p2)+abs(q0-2*q1+q2)beta，其中beta是基于用于块的量化参数的参数，并且p0、p1、和p2是在块边界的一侧的样本，而q0、q1、和q2是在块边界的另一侧的样本。沿着边界在两个位置处对条件进行检查，并且如果两个条件都满足，那么针对边界的那4个样本部分，对亮度样本进行去块。如果任一相邻块被帧内编码，则色度边界可以总是被滤波。