[发明专利]一种可分级视频编码空间增强层的快速模式选择方法

摘要

本发明公开了一种可分级视频编码空间增强层的快速模式选择方法，主要是用于H.264可分级视频编码（SVC）标准的新型的空间增强层快速模式选择方法。本发明为H.264可分级视频编码（SVC）标准提出了一种新型的空间增强层快速模式选择方法。为了提高编码效率，H.264/SVC在H.264/AVC的基础上增加了三种层间预测技术。然而，这大大增加了SVC模式选择算法的复杂度，影响了SVC标准的实用性。本发明提出的算法充分利用了空间增强层宏块和相应基本层宏块之间的相关性、层间量化参数的相关性、以及相邻宏块编码代价的相关性，在保持编码效率的同时，有效的降低模式选择算法的运算复杂度，为SVC编码器的优化提供了理论参考价值和实际应用意义。

主权项

一种可分级视频编码空间增强层的快速模式选择方法，其特征在于：包括利用层间模式的相关性加速模式选择，利用层间量化参数的相关性加速模式选择，以及利用相邻宏块编码代价的相关性加速模式选择三部分；其中，利用层间模式的相关性加速模式选择当基本层中的宏块采用帧内编码模式时，将帧内模式候选集减少为IntraBL和Intra4×4模式，当基本层中的宏块采用帧间编码模式时，如果基本层选用大尺寸宏块模式作为最佳编码模式时，说明图像在此区域是背景区域或者是运动不剧烈的区域，其增强层相应宏块编码时优先选用相同模式或相近模式进行编码；当基本层采用Inter8×8宏块为最佳模式进行编码时，说明此区域是纹理细节较多或者运动较剧烈的区域，增强层相应宏块也选用Inter8×8模式为最佳模式；本算法始终保留DIRECT模式和BLSkip模式两种模式为候选编码模式；只有当基本层选用Inter8×8模式时，增强层才选择Inter8×8模式为候选模式；利用层间量化参数的相关性加速模式选择令QP_BL和QP_EL分别代表基本层和增强层的量化参数，dQP则表示本层和增强层的量化参数之差：$dQP\stackrel{\·}{=}{\mathrm{QP}}_{EL}-{\mathrm{QP}}_{BL}$dQP对空间增强层宏块编码模式有所影响，首先将所有的宏块编码模式分为三个子集，即粗略类、精细类和跳过类，采用不同dQP使用JSVM的全遍历模式选择方法对不同序列进行编码，并统计所有宏块的最优模式落在不同子集内的概率；编码模式应根据不同dQP采用不同的顺序进行计算；利用相邻宏块编码代价的相关性加速模式选择在采用RDO方法对图像进行编码的过程中，若令当前编码宏块的左侧、上侧和左上侧的宏块的RD代价分别为RD_A、RD_B和RD_C，则可以定义一个RD代价的阈值函数TH_RD，如下式所示：${\mathrm{TH}}_{RD}\stackrel{\·}{=}(1+\mathrm{\α})\·median({\mathrm{RD}}_A,{\mathrm{RD}}_B,{\mathrm{RD}}_C)$式中median(·)为中值运算符，α的取值范围为0～1，适当的α取值能够在计算复杂度和压缩效率之间取得折中；若当前宏块在采用某一模式编码的RD代价小于阈值TH_RD，则可认为当前的模式已经足够精确，因此无需再求取后续模式的RD代价计算；若采用大的TH_RD，RDO循环能够很快跳出从而加速模式选择；若采用小的TH_RD，最终的模式选择结果会更精确但是复杂度会提高；当遍历计算可用模式时，若当前模式的结果满足提前终止条件，即其率失真代价小于TH_RD，则跳出遍历流程，当前模式即为当前宏块的最终模式；若所有可用模式都不满足提前终止条件，则遍历结束后，最小率失真代价对应的模式为当前宏块的最终模式。