[发明专利]一种面向SATD的拉格朗日因子计算方法

摘要

本发明公开了一种面向SATD的拉格朗日因子计算方法，根据高码率条件下熵受限标量量化的编码器的率失真模型推导出基于SSE的拉格朗日因子λ_mode：哈达玛变换具有能量集中的特性，主要将能量集中在二维矩阵的左上角，由于哈达玛变换与DCT具有类似的特性，因此哈达玛变换残差也被描述为高斯分布：在失真测度为SATD的情况下，得率失真模型，进而得到面向SATD的拉格朗日因子λ_pre。本发明方法通过计算参数δ和δ_h来获取拉格朗日因子λ_pre，具有较低的编码复杂度，仅为现有算法的1％；且从率失真理论的角度得到失真测度SATD下的拉格朗日因子λ_pre，具有高的准确度。

主权项

1.一种面向SATD的拉格朗日因子计算方法，其特征在于，具体包括如下步骤：步骤1，根据高码率条件下熵受限标量量化的编码器的率失真模型R(D)：推导出基于SSE的拉格朗日因子λmode：其中R表示码率，D表示失真，δ2表示DCT域残差的方差；步骤2，哈达玛变换具有能量集中的特性，主要将能量集中在二维矩阵的左上角，由于哈达玛变换与DCT具有类似的特性，因此哈达玛变换残差也被描述为高斯分布：其中x表示哈达玛变换后的残差，δh为哈达玛变换后残差的标准差；在失真测度为SATD的情况下，得率失真模型：则得面向SATD的拉格朗日因子λpre：公式(9)中参数δ的计算方法如下：对于M×M大小的残差块系数r，经DCT变换后得变换矩阵T：其中A为DCT矩阵，则：其中[·]u,u表示矩阵中位于(u,u)位置出的系数值，符号R'定义为：参数ρ用于度量水平方向和垂直方向上像素值之间的相关性，其值设置为0.6；参数δp用于表示残差块内像素的标准差，该值可通过平均绝对差值MAD近似：