[发明专利]基于DCT的3D-HEVC快速帧内预测决策方法

权利要求书

1.基于DCT的3D-HEVC快速帧内预测决策方法，其特征在于包括如下步骤：

步骤1.基于3D-HEVC，在进行预测块划分后，首先得到该预测块在35种传统帧内预测模式下的残差信号，再对残差信号进行Hadamard变换计算SATD值，并利用SATD值计算每种传统预测模式的率失真代价；

步骤2.对不同大小的PU块，利用整数DCT公式计算当前预测块的DCT系数矩阵，保存为一个矩阵；

步骤3.若当前预测块尺寸为4*4、8*8大小，则对当前系数块的左上角系数进行判断，首先判断最左边的块系数，再判断上面的块系数，若某个块系数小于阈值则直接判断该预测块具有边缘，并且跳转步骤5，若所有块系数大于阈值，则直接判断该预测块没有边缘，并且跳转步骤5；若当前预测块尺寸为16*16、32*32大小，则对当前系数块的左上角系数进行判断，若某个块系数小于阈值则直接判断该预测块具有边缘，并且跳转步骤5，若所有块系数都大于阈值，则继续判断右下角系数是否为零，跳转步骤4；

步骤4.若当前预测块为16*16大小，则只对当前系数块的右下角系数中的坐标的系数进行判断：若该系数不是零则直接判断该预测块具有边缘，跳转步骤5，若该系数为零则认为该预测块没有边缘，继续下一步计算；若当前预测块为32*32大小，则对当前系数块的右下角系数进行判断：首先判断最右下角的块系数是否为零，再判断另外两个系数块是否为零，若某个块系数不是零则直接判断该预测块具有边缘，跳转步骤5，若所有块都是全零系数块，则认为该预测块没有边缘，继续下一步计算；

步骤5.若预测块没有边缘则不计算该预测块在DMMs下所有模式的率失真代价，反之则计算该预测块在DMMs下所有模式的率失真代价，并将DMMs模式加入预测候选列表；

步骤6.从预测候选列表中选取率失真代价最小的几种模式为预测模式集，并且将当前预测块的已编码相邻块的预测模式补充到预测模式集中，得到最终的预测模式集合；

步骤7.遍历预测模式集合中的所有模式，并对每个预测模式的残差信号进行熵编码，并且计算每个预测模式下的率失真代价RD-Cost；从预测模式集合中的所有模式中选取率失真代价最小的预测模式，即最优的帧内预测模式作为该预测块中亮度块选取的最优模式，并保存最优模式的所有数据；通过得到当前预测块的最优帧内预测模式对当前预测块进行变换、量化；

步骤8.当预测块中亮度块选取的最优模式式选定后，把该最优模式以及传统帧内预测模式种的DC、planars、水平方向、垂直方向模式作为预测块中色度块的候选列表，同样遍历预测模式候选列表，计算预测模式候选列表中每个预测模式的率失真代价，选取率失真代价最小的预测模式，即最优的帧内预测模式作为色度块的最优模式；通过得到的最优帧内预测模式对当前预测块进行变换、量化；

步骤9.继续下一个预测块的帧内预测。

2.根据权利要求1所述的基于DCT的3D-HEVC快速帧内预测决策方法，其特征在于步骤1的具体实现如下：

Hadamard矩阵：

SATD是指将残差信号进行Hadamard变换后再求各元素绝对值之和，设某残差信号方阵为X，则SATD为：

其中，M为方阵的大小，H为归一化的M*M Hadamard矩阵；

率失真代价＝SATD+λ*ModeBits

其中，λ由限定码率ModeBits预测编码单元的量化参数映射关系确定。

3.根据权利要求2所述的基于DCT的3D-HEVC快速帧内预测决策方法，其特征在于步骤2所述的整数DCT公式如下：

H.265/HEVC使用了4种不同尺寸的整数DCT，分别为4*4、8*8、16*16和32*32；所述的H.265/HEVC中4*4、8*8、16*16和32*32整数DCT公式为：

其中：X为该预测块的像素矩阵，E为缩放比例

H₁₆和H₃₂变换矩阵参见H.265/HEVC标准；整数DCT对当前PU块进行DCT转换，生成一个DCT系数矩阵。

4.根据权利要求3所述的基于DCT的3D-HEVC快速帧内预测决策方法，其特征在于步骤3所述的左上角系数判断是否大于阈值varThreshold，具体如下：

thredhold＝max(((pcCU→getQP(0))＞＞3)-1,3)； (1)

varThreshold＝threshold*threshold-8； (2)

其中，pcCU→getQP(0)表示获得当前预测模块的量化参数值；

如果大于阈值，则判断DCT系数矩阵右下角系数是否为0，否则就判断该预测块有边缘。