[发明专利]一种基于内容自适应偏移模型的视频编码硬判决量化方法

摘要

本发明公开了一种基于内容自适应的视频编码死区量化方法，采用内容自适应量化偏移量模型，实现内容自适应量化算法。该模型可以根据视频内容的不同，实现量化偏移量的自适应变化。同时，在率失真性能方面，相较于固定偏移量的死区HDQ算法有显著提高；由于算法采用系数独立的硬判决量化，量化可在系数级进行并行处理，在硬件上易于实现。本发明基于DCT系数独立统计分析，得到较准确的分布参数，利用分布参数及量化参数构建系数自适应的量化偏移量模型。在视频编码量化时，采用基于该模型的自适应死区HDQ量化，实现高效视频编码。

主权项

一种基于内容自适应偏移模型的视频编码硬判决量化方法，包括如下步骤：(1)自适应偏移量建模；(2)数据采集及统计分析得到正反相偏移量；(3)根据正反相偏移量确定最佳偏移量范围；(4)在不同预测模式下，分析最佳偏移量与分布参数以及量化参数的函数关系，构建三者的函数模型；所述步骤(1)的自适应偏移量建模包含数据统计、离线数据分组分析以及启发式建模过程；数据统计包含DCT系数分布参数的计算统计以及合理候选偏移量的统计；数据离线分析主要分析正反偏移量取值范围，确定最佳偏移量范围，并在最佳偏移量范围中选择最佳偏移量；研究偏移量与分布参数以及与量化参数的函数关系，从而采用最小二乘法拟合出最优量化偏移量模型；所述步骤(2)的数据采集及统计分析，包括：a)根据频率分量位置不同，独立对4x4变换块中DCT系数采样并分别统计，即对一帧图像进行4x4DCT变换，变换系数对应不同的频率，将变换系数按照频率划分为16个子带，各个子带单独分析，在DCT系数服从拉普拉斯分布的假设下，得到各个子带的分布参数；b)模拟SDQ算法的行为特征，基于统计分析方法在最大正判概率和最小误判概率的双重约束下，估计最优死区偏移量；步骤b)模拟SDQ算法的行为特征，具体为对比SDQ及HDQ算法的量化结果，若两种量化结果一致，调整HDQ偏移量，得到HDQ与SDQ量化结果一致的偏移量范围(δmin1，δmax1)，该范围上下限按照下式确定：mod是取余操作计算符，u为DCT系数，q为量化步长，δopt为偏移量；收集所有处于范围(δmin,δmax)中的偏移量，该范围称为正向偏移量范围；若两种量化结果不一致，修正HDQ的偏移量，迫使得到与SDQ算法一致的量化结果；修正的偏移量范围(δmin2,δmax2)上下限按照下式确定：该范围为反向偏移量范围；所述正反偏移量范围的交集即为最佳偏移量范围；所述函数模型为δ＝f(Λ,Qp)；其中Qp>17：I帧ρ＝0.50+0.001*(Qp‑17)，μ＝0.1，β＝0.6， γ＝0.6，α＝128， ξ1＝ξ2＝32， a＝35， b＝50；P/B帧ρ＝0.48+0.001*(Qp‑17)，μ＝0.1，β＝0.6， γ＝0.6，α＝128， ξ1＝ξ2＝32， a＝35， b＝50；Λ为分布参数。