[发明专利]一种容错性视频转码中的率失真优化方法

摘要

本发明公开了一种容错性视频转码中的率失真优化方法，包括在帧层对片长度的优化和在宏块层对宏块模式的优化，本发明在帧层对片长度的选择进行率失真优化时，充分考虑片间预测的影响，并推导出具体的拉格朗日乘子公式，从而提高帧层算法的精确性；在宏块层对模式的选择进行率失真优化时，充分利用转码输入视频流的当前帧信息和转码输出视频流的前一帧信息，预测最优模式，从而降低宏块层算法的复杂度。

主权项

1.一种容错性视频转码中的率失真优化方法，其特征在于包括以下步骤：(1)在对当前帧进行转码前，根据当前帧中宏块转码前的量化步长，计算当前帧转码前的信源失真；(2)根据当前帧转码前的信源失真、方差、码率和转码后的码率，计算当前帧转码后的信源失真；(3)根据转码输入流中的运动矢量计算当前帧的掩盖失真和扩散失真；(4)根据当前帧转码前的方差和转码后的信源失真、码率，计算拉格朗日乘子；(5)根据当前帧转码后的信源失真、码率，当前帧的掩盖失真、扩散失真、帧长度，前一帧转码后实际码率与目标码率之间的差值、帧长度，片头的比特数，信道的突发错误长度、误码率，计算当前帧的最优片长度；(6)在对当前宏块进行转码前，根据其转码前的模式进行如下判断：如果转码前的模式为帧内模式，那么转码后的最优模式仍然为帧内模式；如果转码前的模式为帧间模式，那么转码后的最优模式需要进一步选择；(7)根据当前宏块转码前的码率、方差和当前宏块信源率失真模型参数，计算当前宏块转码前的信源失真；(8)根据当前帧宏块转码前后的量化步长，当前宏块转码前的码率、方差，当前宏块信源率失真模型参数，计算当前宏块转码后为帧间模式时的信源失真和码率；(9)根据转码输入流中的运动矢量计算当前宏块转码后为帧间模式时的扩散失真；(10)根据当前宏块量化步长计算得到当前宏块的拉格朗日乘子；(11)根据当前宏块转码后为帧间模式时的信源失真、扩散失真、码率和当前宏块的拉格朗日乘子，计算当前宏块转码后为帧间模式时的率失真函数值；(12)根据当前宏块中子块的非零系数比，子块及其在前一帧中对应子块的量化步长，对应子块在帧内模式时的信源失真、方差，计算当前宏块转码后为帧内模式时的信源失真和码率的最大值以及最小值；(13)根据当前宏块转码后为帧内模式时的信源失真和码率的最大值以及最小值，计算当前宏块转码后为帧内模式时的率失真函数值的最大值和最小值；(14)如果当前宏块转码后为帧间模式时的率失真函数值大于为帧内模式时率失真函数值的最大值，则当前宏块转码后的最优模式为帧内模式；否则，如果当前宏块转码后为帧间模式时的率失真函数值小于为帧内模式时率失真函数值的最小值，则当前宏块转码后的最优模式为帧间模式；否则，转入步骤(15)；(15)对当前宏块进行帧内模式编码，得到帧内模式时信源失真和码率的实际值，然后根据信源失真和码率的实际值，计算帧内模式时率失真函数值的实际值：(16)如果当前宏块转码后为帧间模式时的率失真函数值大于为帧内模式时率失真函数值的实际值，则当前宏块转码后的最优模式为帧内模式；否则，当前宏块转码后的最优模式为帧间模式。