[发明专利]一种提升H.264中P帧质量的编码方法

说明书

本发明公开了一种提升H.264中P帧质量的编码方法。它通过分析当前宏块用SKIP模式重建的边缘像素值和相邻块已重建的边缘像素值之间的差值是否偏大，如果该值偏大且当前宏块的原始边缘像素值和相邻块已重建的边缘像素值之间的差值不大，则认为当前宏块若采用SKIP模式可能会产生块效应，并进一步调整模式选择，改善编码质量。本发明的有益效果是：通过分析当前宏块的原始边缘像素值、SKIP模式重建的边缘像素值以及相邻块已重建的边缘像素值，判断可能出现的编码失真结果并调整模式选择，减少可能会造成块效应的SKIP模式，使低码率下的视频质量有较大的提升。

技术领域

本发明涉及视频编码相关技术领域，尤其是指一种提升H.264中P帧质量的编码方法。

背景技术

H.264是国际标准化组织(ISO)和国际电信联盟(ITU)共同提出的高度压缩数字视频编解码标准，其特点是压缩效率高、容错能力强、编码延时低，目前该编码标准已经广泛应用于视频监控系统、网络视频直播、多媒体信息存储等方面。

视频图像数据有极强的相关性，一帧图像内部有很多邻近像素的数据是相似或相同的，这就是空域冗余，而视频中邻近帧之间的数据也存在很多相似或重复，这就是时域冗余，编码压缩就是将数据中的这些冗余信息去掉，帧内编码技术可以去除空域冗余，而帧间编码技术则可以去除时域冗余。

帧间编码利用邻近帧之间存在的相关性，将当前帧图像分成若干个宏块，并设法搜索出每个宏块在邻近帧中对应的匹配块，来预测当前帧中宏块的像素值，每一个像素值通常用Y、U、V三个分量表示。为了提高对当前宏块预测的准确性和编码压缩率，H.264编码器采用拉格朗日率失真优化的方法进行模式选择，以P帧为例，它依次求取SKIP模式、INTER模式(INTER16x16、INTER16x8、INTER8x16、INTER8x8、INTER8x4、INTER4x8、INTER4x4)模式、INTRA (INTRA 16x16、INTRA 8x8、INTRA 4x4)模式的率失真代价RDcost，选择出具有最小RDcost的模式来作为最优预测模式，上述RDcost的计算为：

RDcost＝λ·R+SSD

其中λ为拉格朗日因子，R代表编码码率，SSD代表编码失真。基于拉格朗日率失真优化的模式选择方法能够分析出各个模式产生的比特数和编码失真，从而选择出最优的模式。

在上述的各个模式中，SKIP模式采用空间预测的运动矢量来获取匹配块，从而获得当前宏块的像素预测值，它不编码像素残差和运动矢量残差，主要特点是编码码率小但是失真大；INTER模式通过运动估计搜索出较为精确的运动矢量来获取匹配块，且能够编码像素残差和运动矢量残差，通常它的编码失真比SKIP要小；INTRA模式采用帧内预测的方式来预测当前宏块像素值，特点是消耗的码率多但是编码失真小，当无法找到匹配块时采用INTRA模式能够较好的重建当前宏块的像素值。

x264是一个开源的H.264视频编码器，它采用了场景变换检测、自适应B帧选择、帧间并行编码、指令集优化、宏块模式快速决策等技术，使H.264编码器能更好的满足快速、实时的编码。在对P帧进行宏块模式快速决策时，它首先通过空间预测求取SKIP模式的运动矢量SKIP_MV，然后分析INTER16x16模式，并判断是否满足SKIP模式的条件，如果满足则提前确定当前宏块为SKIP模式，否则继续求取INTERSub16x16(INTER16x8、INTER8x16、INTER8x8)模式、INTERSub8x8(INTER8x4、INTER4x8、INTER4x4)模式和INTRA(INTRA 16x16、INTRA 8x8、INTRA 4x4)模式的率失真代价RDcost，并选择具有最小RDcost的模式作为最优预测模式。但是，该模式选择策略在低码率的视频编码中，因为INTER16x16变换量化和运动估计的失真较大，进一步影响了SKIP模式决策的合理性，且由于SKIP模式不传递编码残差，它重建后的宏块与相邻宏块之间可能出现较大的差别，造成块效应并使主观质量下降。

发明内容