[发明专利]编码或解码视频数据的方法及装置

说明书

本发明公开了一种编码或解码视频数据的方法及装置，其由集成有自适应性多重变换(adaptive multiple transform,AMT)的视频编码器或视频解码器执行。根据本方法，确定由指定为第一类型或第二类型的两种类型候选项组成的变换集，其中第一类型与第二类型不同。如果当前块使用AMT，则从变换集中选择垂直变换，并从变换集中选择水平变换。在编码器侧发信用于均指示垂直变换选择和水平变换选择的变换索引，或解码器侧解析变换索引。本发明还公开了另一种集成有AMT的方法和装置，其中根据当前运动矢量差的分辨率，确定变换集。本发明进一步提高了编解码性能，降低了集成有AMT系统的复杂度。

优先权声明

本申请主张于2017年05月11日申请的美国临时专利申请第62/504,646号、2017年06月27日申请的美国临时专利申请第62/525,240号，以及2018年01月10日申请的美国临时专利申请第62/615,555号的权利，且上述美国临时专利申请的全文内容以引用方式并入本文中。

技术领域

本发明大体上涉及视频编码技术。本发明尤其涉及提高使用增强型多重变换(Enhanced Multiple Transform，EMT)的视频解编码系统的编解码效率或降低复杂度的技术；其中，EMT又称为自适应多重变换(Adaptive Multiple Transform，AMT)。

背景技术

高效率视频编码(High Efficiency Video Coding，HEVC)标准是在ITU-T的视频编码专家组(Video Coding Experts Group，VCEG)和ISO/IEC的运动图像专家组(MovingPicture Experts Group，MPEG)标准化组织的联合视频项目下开发出来的，这个合作关系特别地被称为视频编码联合协作小组(Joint Collaborative Team on Video Coding，JCT-VC)的伙伴关系。

在HEVC中，将一个切片(slice)分割成多个编码树单元(Coding Tree Unit，CTU)。在主配置文件中，CTU的最小尺寸和最大尺寸由序列参数集(Sequence Parameter Set，SPS)中的语法元素来指定。所允许的CTU尺寸可以是8×8、16×16、32×32，或者64×64。对于每个切片而言，根据光栅扫描顺序来处理该切片内的CTU。

CTU进一步被分割成多个编码单元(Coding Unit，CU)，以适应各种局部特性。表示为编码树的四叉树用于将CTU分割成多个CU。假设CTU尺寸为M×M，其中M为64、32或者16数值中的一个。CTU可以是单个CU，或者被分割成四个具有相同尺寸(即，每个尺寸为M/2×M/2)的更小单元，这些更小单元是编码树的节点。如果这些单元是该编码树的叶节点，则这些单元将变成CU。否则，可以重复四叉树分割处理，直到节点的尺寸达到如SPS中所指定的最小允许的CU尺寸。此表示形成了由编码树(也称为分割树结构)指定的递归结构。

对每个CU指定了一个或多个预测单元(Prediction Unit，PU)。与该CU一起，PU用作共享预测信息的基础代表块(basic representative block)。每个PU内部，应用相同的预测处理，并以PU为基础将相关信息发送给解码器。根据PU分割类型，可以将一个CU分割成一个、二个或四个PU。

在通过根据PU分割类型应用预测处理获取残差块之后，根据类似于CU的编码树的另一四叉树结构，CU可以被分割为变换单元(Transform Unit，TU)。TU是应用整数变换与量化的残差或变换系数的基本代表块。对于每个TU，将具有与该TU相同尺寸的一个整数变换应用至该TU来获取残差系数。以TU为基础的量化之后，将这些系数发送给解码器。