[发明专利]变换子块边界的去块

权利要求书

1.一种用于对编码单元的至少一个边界去块的方法(600)，所述方法包括：

确定(602)所述编码单元使用子块变换，其中，所述子块变换在所述编码单元内生成变换子块边界，从而在所述编码单元内形成至少一个变换子块；

作为确定所述编码单元使用所述子块变换的结果，基于所述编码单元内所述变换子块的尺寸来确定(604)最大滤波器长度，其中，所述最大滤波器长度指示在对所述编码单元的边界去块时要修改的最大样本数量；以及

基于所确定的最大滤波器长度，对所述编码单元的所述边界去块(606)。

2.根据权利要求1所述的方法，其中，所述子块变换包括子块变换(SBT)和/或帧内子块划分(ISP)。

3.根据权利要求1或2所述的方法，其中，如果所述编码单元使用针对垂直边界的去块的宽度小于16或者针对水平边界的去块的高度小于16的预测子块，则减小所确定的最大滤波器长度。

4.根据权利要求1至3中任一项所述的方法，其中，所述编码单元的所述边界与编码单元边界、变换子块边界、或预测子块边界对齐。

5.根据权利要求1至4中任一项所述的方法，其中，基于所述编码单元内所述变换子块的所述尺寸来确定所述最大滤波器长度包括：

将所述变换子块的所述尺寸与预定尺寸阈值进行比较。

6.根据权利要求1至5中任一项所述的方法，其中，当所述变换子块边界与编码单元边界平行并且距所述变换子块边界至少等于或大于以样本为单位的预定尺寸阈值时，在使用子块变换的所述编码单元内部的所述边界的一侧的所述最大滤波器长度被设置为7。

7.根据权利要求1至5中任一项所述的方法，其中，当所述边界与变换子块边界对齐并且距在使用子块变换的所述编码单元内部的所述边界的一侧的另一个变换或编码单元边界至少等于或大于以样本为单位的预定尺寸阈值时，在该侧的所述最大滤波器长度被设置为7。

8.根据权利要求6或7所述的方法，其中，当所述编码单元使用边界被8个样本或更少样本分隔的预测子块时，所述最大滤波器长度被减小到5。

9.根据权利要求1至5中任一项所述的方法，其中，当所述边界与预测子块边界对齐并且所述预测子块边界距编码单元边界或者变换块或子块边界8个样本时，所述最大滤波器长度被设置为2。

10.根据权利要求5至7中任一项所述的方法，其中，所述预定尺寸阈值被设置为32。

11.根据权利要求1至10中任一项所述的方法，其中，所述边界与编码单元边界或变换子块边界对齐，去块被应用在4×4网格上，针对在所述编码单元内部的所述边界的一侧的所述最大滤波器长度被确定为大于3，并且所述边界的另一侧在大小为4的编码单元或子块变换单元内部，在该侧的所述最大滤波器长度被确定为小于3。

12.根据权利要求1至11中任一项所述的方法，其中，所述最大变换尺寸等于或大于32。

13.根据权利要求1至12中任一项所述的方法，其中，

当所述边界是垂直边界时，所述编码单元内所述变换子块的所述尺寸是所述变换子块的宽度，或者

当所述边界是水平边界时，所述编码单元内所述变换子块的所述尺寸是所述变换子块的高度。

14.一种用于在4×4网格上对编码单元的至少一个边界去块的方法(700)，所述方法包括：

基于变换子块的尺寸或编码单元的尺寸，针对所述边界的每一侧确定(702)最大滤波器长度；以及

基于针对所述边界的各侧的所确定的最大滤波器长度，对所述边界去块(704)。