[发明专利]使用经映射变换和扫描模式的视频译码

权利要求书

1.一种编码视频数据的方法，其包括：

确定所述视频数据的预测块；

确定所述预测块的变换块，所述变换块的大小与所确定的预测块的大小不同；

基于帧内预测模式和所述变换块的大小从变换与扫描模式的总共12个不同组合中确定变换与扫描模式组合的子集，所述变换与扫描模式组合的子集包括具有预定义扫描次序的一个或多个扫描模式；

从变换与扫描模式组合的所述子集选择变换与扫描模式组合以用于所确定的变换块，所选择的扫描模式具有所述预定义扫描次序中的一者；

将所选择变换应用于包含残余数据的所述变换块以便产生变换系数的二维阵列，所述残余数据与基于所述帧内预测模式预测所述预测块相关联；以及

根据所选择扫描模式的预定义扫描次序将所述所选择扫描模式应用于变换系数的所述二维阵列以产生变换系数的一维阵列。

2.根据权利要求1所述的方法，其进一步包括：

量化变换系数的所述一维阵列和变换系数的所述二维阵列中的至少一者中的所述变换系数；以及

对变换系数的所述一维阵列进行熵译码。

3.根据权利要求1所述的方法，其进一步包括：

在经编码视频位流中用信号发出索引，其中所述索引指示所述选定变换和扫描模式组合。

4.根据权利要求3所述的方法，其中所述索引由固定数目的位表示，且其中所述索引使用CABAC或CAVLC来进行熵译码。

5.根据权利要求1所述的方法，其进一步包括：

在经编码视频位流中用信号发出索引，其中所述索引指示所述选定变换，且其中确定变换与扫描模式组合的所述子集以使得变换被映射到特定扫描模式。

6.根据权利要求1所述的方法，其进一步包括：

在经编码视频位流中用信号发出索引，其中所述索引指示所述选定变换，且其中变换与扫描模式组合的所述子集中的所述扫描模式中的每一者是基于所述帧内预测模式。

7.根据权利要求1所述的方法，其中所述选定变换是包含在水平方向上在所述残余数据上施加的水平离散余弦变换以及在垂直方向上在所述残余数据上施加的垂直离散余弦变换的可分离变换，且其中包含所述水平离散余弦变换和所述垂直离散余弦变换的所述可分离变换被映射到对角扫描模式。

8.根据权利要求1所述的方法，其中所述选定变换是包含在水平方向上在所述残余数据上施加的经设计变换分量以及在垂直方向上在所述残余数据上施加的离散余弦变换分量的可分离变换，且其中包含在水平方向上施加的所述经设计变换分量和在垂直方向上施加的所述离散余弦变换分量的所述可分离变换被映射到垂直扫描模式。

9.根据权利要求1所述的方法，其中所述选定变换是包含在垂直方向上在所述残余数据上施加的经设计变换分量以及在水平方向上在所述残余数据上施加的离散余弦变换分量的可分离变换，且其中包含在垂直方向上施加的所述经设计变换分量和在水平方向上施加的所述离散余弦变换分量的所述可分离变换被映射到水平扫描模式。

10.根据权利要求1所述的方法，其中所述选定变换是包含在水平方向上在所述残余数据上施加的第一经设计变换分量以及在垂直方向上在所述残余数据上施加的第二经设计变换分量的可分离变换，且其中包含所述第一经设计变换分量和所述第二经设计变换分量的所述可分离变换被映射到水平扫描模式。

11.根据权利要求1所述的方法，其中所述选定变换是包含在水平方向上在所述残余数据上施加的水平离散正弦变换以及在垂直方向上在所述残余数据上施加的垂直离散余弦变换的可分离变换，且其中包含所述水平离散正弦变换和所述垂直离散余弦变换的所述可分离变换被映射到垂直扫描模式。