[发明专利]一种面向H.264/SVC MGS编码的率失真模式选择方法

摘要

本发明提出一种面向H.264/SVC MGS编码的率失真模式选择方法，该方法考虑了可伸缩编码中的层间相关性，通过分析增强层中宏块的残差预测残差信号与参考层中对应宏块的重建失真信号的关系，并证明了二者的值近似相等，从而得到新的增强层编码的率失真模型和拉格朗日乘子的确定方法，并在中粒度质量可伸缩编码中运用新的拉格朗日乘子。使用本方法的拉格朗日乘子进行率失真优化编码得到的重建图像的PSNR值比使用传统拉格朗日乘子得到的PSNR值更高，并能够在率失真模式选择时得到更准确的编码模式，且本发明方法编码的率失真性能优于基于传统拉格朗日乘子编码的率失真性能。

主权项

一种面向H.264/SVC MGS编码的率失真模式选择方法，其特征在于，该方法具体包括如下步骤：步骤一：首先根据帧间预测残差转换系数近似服从拉普拉斯分布的性质，确定基本层重建误差信号的分布，然后确定增强层中的残差预测残差信号值的概率密度函数fr(Y)： f r ( Y ) = d P r dY ≈ 1 ( 1 - e - μ Q b ) · μ 2 e - μY 0 ≤ Y < Q b 1 ( 1 - e - μ Q b ) · μ 2 e μY - Q b < Y < 0 = 1 ( 1 - e - μ Q b ) · μ 2 e μ | Y | , Y < | Q b | - - - ( 1 ) 其中，常数Y满足条件：0≤Y＜Qb，Qb为基本层中宏块的量化步长，Pr为增强层中宏块的残差预测残差信号进行离散余弦变换后值z的累积分布，μ为标准差；步骤二：根据步骤一得到的增强层中的残差预测残差信号值的概率密度函数，从残差预测残差量化变换系数的信息熵H中获得新的率模型和失真模型，并通过得到的率模型和失真模型获得SVC增强层的拉格朗日乘子λB；所述的新的率模型为：R＝αH+β          (2)其中，R为编码比特率，α和β为线性系数；所述的新的失真模型为： D = 1 1 - e - μ Q b · 1 - e - Δμ Q e 1 - e - μ Q e · ( 2 μ 2 Q e + 2 μ 2 e - μ Q e ) + e - μΔ Q e 1 - e - μ Q b · ( 2 μ 2 - ( δ 2 + 2 μ δ + 2 μ 2 ) e - μδ ) - - - ( 3 ) 其中，D为重建像素对原始像素的失真值，Qe为增强层中宏块的量化步长，Qb＝ΔQe+δ，Δ、δ分别为Qb除以Qe得到的除数和余数；所述的拉格朗日乘子λB为： λ B = ∂ D ∂ Q e / ∂ R ∂ Q e - - - ( 4 ) 步骤三：在中粒度质量可伸缩编码中运用新的拉格朗日乘子λB，具体过程为：首先，使用传统拉格朗日乘子λA对非残差预测模式进行率失真优化编码，得到最小率失真值的模式mod eA；然后，使用步骤二得到的拉格朗日乘子λB来对残差预测模式进行率失真优化编码，选择最小率失真代价的模式，记为mod eB；最后，使用一个权衡后的拉格朗日乘子λ′对mod eA和mod eB重新计算率失真值，将得到的较小的率失真值对应的模式作为最终的编码模式；所述的权衡后的拉格朗日乘子λ′为：λ′＝θλA+(1‑θ)λB         (5)其中，参数θ的取值范围是[0，1]。