[发明专利]一种适用于HEVC的全零块检测方法

说明书

本发明提供了一种适用于HEVC的全零块检测方法，涉及视频处理技术领域，本发明计算预测残差子块的按沃尔什序排列的沃尔什变换WT系数矩阵，根据预测残差子块的沃尔什序WT系数矩阵计算与TB同阶的沃尔什序WT系数矩阵，根据沃尔什序WT变换系数或预测残差检测全零块。本发明与基于SAD和SATD的算法相比，直接使用最大变换系数检测全零块，避免了由残差能量分布差异所造成的误检测，从而极大提高了检测效率，本发明不仅能检测UQ中的全零块，也能检测RDOQ中的全零块；对4种尺寸的全零块都有较高的检测效率；编码器的率失真性能损失较小，基本可以忽略；变换/量化运算的整体耗时明显下降，提高了编码的速度。

技术领域

本发明涉及视频处理技术领域，尤其是一种HEVC中的检测方法。

背景技术

新一代视频编码标准HEVC(High Efficiency Video Coding)采用四叉树结构编码预测残差，支持4×4、8×8、16×16和32×32共4种不同大小的变换块(Transform Block，TB)。TB在编码前需要先进行变换/量化操作，而变换/量化是HEVC中复杂度较高的模块之一。在H.264标准推出以后，关于快速变换/量化算法的研究主要集中在全零块检测算法上，因为变换/量化的过程中存在大量的全零块，在变换/量化之前检测出这些全零块就可以跳过变换/量化运算，从而降低变换/量化的复杂度。但由于H.264只支持4×4和8×8两种尺寸的TB，将H.264中的全零块检测算法直接应用于HEVC会面临检测效率过低的问题，因此需要研究适用于HEVC的全零块检测算法。当前HEVC全零块检测算法主要基于残差绝对值和SAD(Sum of Absolute Difference)或WT残差绝对值和SATD(Sum of Absolute TransformedDifference)，这是因为SAD和SATD能够反映预测残差的能量大小，当残差的能量小于某个阈值时，相应的TB通常就是全零块。然而，SAD和SATD并不能反映能量的频域分布，两个SAD或SATD大小相同的TB，其变换系数的大小千差万别。假设其中一个TB的能量均匀分布在所有变换系数中且该TB是全零块，而另一个TB的能量集中分布在一个或几个变换系数中，则该TB极有可能是非全零块。因此，基于SAD或SATD的全零块检测算法，其检测效率严重依赖于视频序列的统计特性，鲁棒性较差。

发明内容

为了克服现有技术的不足，针对基于SAD或SATD的全零块检测算法检测效率较低的问题，本发明提出了一种基于最大变换系数的全零块检测算法。由于最大变换系数在所有变换系数中占据最多的能量，若最大变换系数的量化值为0，则其他变换系数的量化值也为0，相应的TB就是全零块。最大变换系数的位置分布与视频序列的统计特性有关，本发明充分考虑了最大变换系数的位置对全零块的影响，因此对具有不同统计特性的视频序列都有较高的检测效率。

本发明解决其技术问题所采用的技术方案包括以下步骤：

第一步：计算预测残差子块的按沃尔什序排列的沃尔什变换WT(WalshTransform)系数矩阵：将32×32和16×16大小的TB分别划分成16个和4个8×8大小互不重叠的预测残差子块；8×8和4×4大小的TB不进行进一步划分，分别对应一个8×8大小和一个4×4大小的预测残差子块，对于每一个预测残差子块，若率失真优化模块已经计算过该预测残差子块的WT系数矩阵，则从率失真优化模块获取其对应的4×4或8×8沃尔什序WT系数矩阵；若无法从率失真优化模块获取，而父级TB中包含当前预测残差子块的沃尔什序WT系数矩阵，则从父级TB中获取对应的沃尔什序WT系数矩阵；若从父级TB中依然无法得到对应的沃尔什序WT系数矩阵，则分别计算每个预测残差子块的沃尔什序WT系数矩阵；

第二步：根据第一步得到的预测残差子块的沃尔什序WT系数矩阵计算与TB同阶的沃尔什序WT系数矩阵：对于4×4TB和8×8TB，其预测残差子块对应的沃尔什序WT系数矩阵即与TB同阶的沃尔什序WT系数矩阵；对于16×16TB，根据第一步得到的4个预测残差子块的8×8沃尔什序WT系数矩阵计算得到16×16非沃尔什序WT系数矩阵，计算公式如下：