[发明专利]基于拉格朗日方法的视频编码全局率失真优化方法

摘要

本发明涉及一种基于拉格朗日方法的视频编码全局率失真优化方法，本发明基于标准的视频编码标准，如AVS，H.264以及HEVC等。首先进行基于运动估计的预分析，分析出待编码图像的每一像素的编码失真对其以后编码图像的率失真的影响因子；随后利用该率失真传递因子，在编码时，计算出每个编码块单元的率失真传递因子，对基于拉格朗日优化方法中的率失真优化方法中的率失真代价值计算方案进行调整。基于调整后的率失真代价值进行视频编码参数的选择，以此提高率失真性能。该方法通过解耦编码单元率失真性能的相互依赖关系，通过一次简单的运动估计预分析和一次编码，可以达到接近全局优化的率失真性能。在节省编码复杂度同时，大大提高了编码率失真性能。

主权项

1.一种基于拉格朗日方法的视频编码全局率失真优化方法，其特征在于，具体包括如下步骤：1)选定编码标准，并明确一种帧结构，选帧结构为：直接按照后一帧图像参考前一帧图像的帧结构或者将帧结构与最后编码的帧结构保持一致，最后编码帧结构在H.264/AVC中的IPPP…或IBBPBBP…帧结构以及HEVC中的标准Low Delay和Hierarchical B帧结构中选择，根据帧结构把每一帧分为帧内预测I帧和帧间预测P/B帧；对于I帧，把每一帧图像分成固定大小块，根据编码标准所允许的预测方式进行预测，获得每一个块的预测残差块，求预测残差块的SATD值，再除以块内像素个数，获得每个像素的预测残差SATD值，记为Satd_resi(x,y)，其中SATD表示哈达玛变换后系数的绝对值的和；2)对于P/B帧，把每一帧图像分成固定大小块，对每个块进行运动估计，获得每个块的运动矢量；3)按顺序对一个块采用其运动矢量做运动补偿，求出该块的预测残差块，进而求预测残差块的SATD值，SATD值除以块内像素个数，获得每个像素的预测残差SATD值，记为Satd_resi(x,y)，(x,y)为该像素的坐标；继续采用运动矢量在被参考图像中找到被参考块位置，所求得的Satd_resi(x,y)值即为被参考块内每个被参考像素的被参考SATD值，被参考像素坐标为(x+Δx,y+Δy)，因此被参考像素的被参考SATD值即为Satd_refed(x+Δx,y+Δy)＝Satd_resi(x,y)；4)对所有P/B帧的所有块进行步骤3)操作，可计算出所有被参考帧内所有像素的预测残差Satd_resi(x,y)值；对所有P/B帧的所有块进行步骤3)操作还得到所有被参考像素的被参考次数，记为K(x,y)，以及每次被参考的SATD值，记为Satd_refed_k(x,y)，k代表第k次被参考；Satd_refed_k(x,y)值和Satd_refed(x+Δx,y+Δy)之间通过运动矢量映射赋值，具体如下：令第k次来参考的像素坐标为(x_k,y_k)，运动矢量为MV_k＝(Δx_k,Δy_k)，赋值满足坐标关系：(x_k+Δx_k,y_k+Δy_k)＝(x,y)，因此赋值公式：Satd_refed_k(x,y)＝Satd_refed(x_k+Δx_k,y_k+Δy_k)；以上4步为预分析，接下来进行视频编码，采用如下方法进行模式选择和运估计：5)根据Satd_resi(x,y)，K(x,y)以及每次被参考的Satd_refed_k(x,y)，计算出将要编码块的率失真传递因子β，方法如下：其中M为编码块内像素个数，m为块内像素的坐标索引号，K则为对应第m个像素总共被参考的次数，m_k为块内第m个像素被第k次参考的索引号，(x,y)为块内第m个像素的坐标；6)在编码率失真优化的模式选择和运动估计环节，率失真代价值计算公式如下：其中O^*为视频编码的优化编码参数集，δ_i(O_i)和r(O_i)分别表示由编码参数集O_i所产生的失真和码率，λ为拉格朗日因子，运动估计过程中的δ_i(O_i)为残差图像的绝对差和，而拉格朗日因子则是以上λ的开根号值。