[发明专利]一种利用系数分布特性的哥伦布-莱斯初始参数自适应决策方法

说明书

本发明通过对HEVC视频编码系数分布特性的分析，得出大尺寸变换单元(TU)大幅值系数较多。在一个大尺寸变换单元中，根据已编码4×4系数组(CG)的系数分布特性，自适应决定下一个CG的初始哥伦布‑莱斯参数值。本发明只作用于最终熵编码阶段，是对最佳模式下的变换系数进行处理，不参与预测和率失真优化过程。与标准的HEVC视频编码测试软件HM16.0相比，本发明的方法在保持峰值信噪比不变的基础上，降低了输出码率。

技术领域

本发明涉及图像通信领域中的视频编码码率降低问题，尤其是涉及一种高性能视频编码标准HEVC的帧内、帧间初始编码参数的自适应决策方法。

背景技术

由ISO/IEC运动图像专家组和ITU-T视频编码专家组联合组建的视频编码小组(JCT-VC)，于2013年1月正式发布了新一代视频编码标准—高性能视频编码(HEVC)，相比于H.264/AVC，其压缩性能有了显著的提升。近几年，针对HEVC的研究已经相当成熟。

在任何视频编码技术中,熵编码是必不可少的一部分,HEVC采取的熵编码策略是基于上下文的自适应算术编码(CABAC)，算术编码是一种接近熵极限的最佳编码方式,与其他熵编码方法相比,算术编码能够取得更好的压缩效果,特别是当信源概率分布比较均匀时,它的编码效率要高于哈夫曼编码,在理想情况下算术编码输出码字的信息量可以接近符号的熵率。

目前，针对HEVC的改进主要集中在降低码率和加快编解码速度两个方面。文献[1]中提出了基于块结构和变换系数幅值的CABAC熵编码策略，达到了编码性能的提高和复杂度的降低。文献[2]中提出了相比于CABAC更复杂的上下文树加权建模(CTW)方法，在计算复杂度成本的显著增加前提下，能达到约1％至3％的比特率节约。文献[3]使用虚拟滑动窗口(VSW)概率模型估计，能达到0.3％至0.8％比特率节约。文献[4]提出区域自适应概率模型，利用多个可切换的概率模型，使在每个空间区域的概率模型都能达到最佳。文献[5]针对屏幕内容变换跳过模式编码块系数的分布特点，对系数进行截断，然后进行有限长度的哥伦布-莱斯编码，能达到0.6％到1.13％的比特率节省。本发明结合变换系数幅值的分布特性，对哥伦布-莱斯编码的初始参数提前预测，在不损失PSNR的前提下，达到一定比特率的节约。

发明内容

本发明通过对新一代视频压缩编码标准HEVC熵编码编码系数分布特性的分析，得出大尺寸变换单元(TU)大幅值系数较多。针对这一特点，提出了一种利用编码系数分布特性的哥伦布-莱斯参数的自适应决策方法。达到了一定比特率的下降，PSNR保持不变。

本发明的基本思想是：利用大尺寸变换单元(TU)中已编码4×4子块的变换系数分布特性自适应决定下一个编码子块的初始哥伦布-莱斯参数值。利用前后编码系数组(CG)之间的系数相关性，提前预测编码参数，从而达到降低码率的目的。

本发明只针对HEVC熵编码的变换系数编码做了一定改进，且本发明只作用于最终熵编码阶段，是对确定最佳预测模式和编码模式后的变换系数进行处理，不参与预测和率失真优化过程。具体包括以下过程步骤：

(一)为了区分不同阶段的熵编码过程，设置一个全局布尔变量，并设初始值为false；

(二)在进入函数encodeSlice时，设置全局布尔变量为true，最终熵编码阶段开始；

(三)针对尺寸为32×32的变换单元(TU)进行处理，因此在TU编码开始之前要进行TU尺寸大小判断；

(四)对于尺寸为32×32的TU，利用TU的前一编码系数组(CG)系数幅值均值判断下一CG的初始哥伦布-莱斯参数，在一个TU的生命周期须维护一个中间变量，用于保存前一CG的系数幅值均值，并设置初始值为0；

(五)根据大TU变换系数的分布特性，本发明只针对后5个CG进行处理，在一个CG编码之前须判断该CG的编码序号是否小于5；