[发明专利]一种系数级自适应量化方法

摘要

本发明公开了一种系数级的自适应量化方法，预测残差数据经过变换后得到的变换系数的分布具有一定的特性，这种特性即决定了不同系数的不同重要性，用变换系数扫描方法对变换块中的系数进行扫描，根据这个扫描顺序依次对块内的系数进行区别量化，具体是通过给量化乘数因子赋权重来间接改变量化参数；权重使用高斯函数，连续衰减，还可控制陡度。同时在反量化部分，做相应修改。本发明具体到系数级量化，还具有自适应特性，可使残差充分压缩，是一种较为精细控制量化的系数级自适应量化方法，解决了目前块级量化方法忽略变换单元TU内不同变换系数的贡献大小差异，不能自适应粗量化和细量化的问题。

主权项

1.一种系数级自适应量化方法，其特征在于，包括以下步骤：S101、对残差数据进行正交变换编码得到变换系数；S102、对光栅顺序存储的变换系数进行扫描，用scan[i]记录原来光栅扫描系数索引,但此时已经是一种新的系数索引顺序，其中i是新扫描系数索引，i＝0,1,…N*N‑1,其中N＝4,8,16,32；S103、构造高斯量化权重函数，将S102得到的scan[i]用于此处，对系数索引顺序依次变小的变换系数，赋予衰减的权重值w(scan[i])，同时反量化部分做相应修改；高斯量化权重函数计算如下：高斯函数的表达式为：其中a、b、c是实常数，c控制脉冲陡度，且a大于零，x为变量；根据高斯函数，令a＝1，b＝0，构造高斯量化权重函数：其中i是S102中新扫描系数索引i,c是灵活可控的,w的范围是ω∈(0,1]；S104、权重函数中参量控制脉冲陡度c的计算，需要依据不同序列尺寸2560*1600，1920*1080，1280*720，832*480，416*240，不同TU尺寸中TU的能量集中情况不一样，这一步依据2560*1600，1920*1080视频序列和不同TU尺寸；S105、权重函数中参量c的计算，这一步依据除S104中剩下的尺寸视频序列和不同TU尺寸，小块TU模式能保存更多的图像细节；S106、将得到的权重w(scan[i])应用到HEVC中的量化公式中，改变量化乘数因子QQP％6来间接改变量化参数QP，即实现了新的量化,反量化部分相应修改；S104中权重函数中c的计算推导过程如下：根据预测残差局部特性，TU自适应选择深度和尺寸，大块的TU模式将能量集中，小块的TU模式保存图像细节；这里考虑大尺寸视频，同时考虑量化后一个TU中扫描顺序的最后一个非零系数的位置a_N*N，N为TU的宽度，取值为N＝4,8,16,32，以进一步完善w的值；c的计算为c＝N*N,最后,对于某一个TU尺寸，当i＜＝a_N*N，w使用以上的(2)式计算；当i＜＝2*a_N*N+1，i′＝i‑a_N*N‑1，当i＞2*a_N*N+1，w(scan(i))＝0.8；S105中权重函数中c的计算推导过程如下：当尺寸1280*720，832*480，416*240时候，小尺寸TU相对较多，此时小块TU保存更多的图像细节，根据不同的TU尺寸，小尺寸的给一个细量化，4*4相对8*8较小，16*16相对32*32较小：当TU为4*4时，c的计算为c＝32*32*1.01；当TU为8*8时，c的计算为c＝32*32；当TU为16*16时，c的计算为c＝N*N*1.01；当TU为32*32时，c的计算为c＝N*N。