[发明专利]一种用于空间可分级视频编码的编码模式选择方法

权利要求书

1.一种用于空间可分级视频编码的编码模式选择方法，其特征在于，预先按照所有编码模式中像素信息编码的精细程度由低到高的顺序，将所有编码模式划分为跳过skip、粗略coarse和精细fine三个子集，在编码空间增强层的当前宏块时，该方法包括：

根据所述空间增强层与参考层的层间量化参数差dQP，为所有编码模式设置对应的遍历优先级；其中，coarse集中编码模式对应的遍历优先级高于fine集中编码模式对应的遍历优先级，且所述dQP越大，skip集中编码模式对应的遍历优先级越高；

按照遍历优先级由高到低的顺序，遍历所有可用编码模式，确定当前遍历的编码模式的率失真代价，并判断该率失真代价是否小于预先根据所述当前宏块的相邻宏块的率失真代价所设置的阈值，若是，则将当前遍历的编码模式作为所述当前宏块的编码模式，停止遍历；否则，遍历下一可用编码模式；

若所有可用编码模式的率失真代价均不小于所述阈值，则选择率失真代价最小的编码模式作为所述当前宏块的编码模式；

所述层间量化参数差dQP为空间增强层量化参数减去参考层量化参数的差。

2.根据权利要求1所述的方法，其特征在于，当所述层间量化参数差小于-5时，coarse集中编码模式对应的遍历优先级最高，fine集中编码模式对应的遍历优先级次高，skip集中编码模式对应的遍历优先级最低；

当所述层间量化参数差不小于-5、且不大于5时，coarse集中编码模式对应的遍历优先级最高，skip集中编码模式对应的遍历优先级次高，fine集中编码模式对应的遍历优先级最低；

当所述层间量化参数差大于5时，skip集中编码模式对应的遍历优先级最高，coarse集中编码模式对应的遍历优先级次高，fine集中编码模式对应的遍历优先级最低。

3.根据权利要求1所述的方法，其特征在于，在遍历所有可用编码模式前，该方法进一步包括：利用参考层中与当前宏块对应宏块的类型和划分大小信息，映射出所述当前宏块的模式预测Mode_{BL_pred}；若所述Mode_{BL_pred}属于fine集，则将coarse和skip集中的编码模式设置为不可用的编码模式。

4.根据权利要求1、2或3所述的方法，其特征在于，在遍历所有可用编码模式前，该方法进一步包括：利用参考层量化参数判断是否使用残差层间预测，并根据判断结果确定不可用的编码模式。

5.根据权利要求4所述的方法，其特征在于，在当前宏块位于P帧内时，若参考层量化参数小于等于20，则将编码模式Direct、16×16、16×8、8×16、8×8和BL_Skip设置为不可用的编码模式；

在当前宏块位于B帧内时，若参考层量化参数小于等于20，则将编码模式Direct、16×16、16×8、8×16、8×8和BL_Skip设置为不可用的编码模式；若参考层量化参数大于等于40，则确定不使用残差层间预测，将编码模式Direct_res、16×16_res、16×8_res、8×16_res、8×8_res和BL_Skip_res设置为不可用的编码模式；

所述编码模式Direct_res、16×16_res、16×8_res、8×16_res、8×8_res和BL_Skip_res分别为与编码模式Direct、16×16、16×8、8×16、8×8和BL_Skip对应的残差层间预测的编码模式。

6.根据权利要求1所述的方法，其特征在于，预先根据所述当前宏块的相邻宏块的率失真代价所设置的阈值为：TH_RD＝(1+α)·median[RDa，RDb，RDc]，其中，RDa、RDb和RDc分别为当前宏块的左边、上边和左上角相邻宏块的率失真代价，median[]表示求中值计算，参数α为根据计算复杂度和编码压缩效率确定的常量。

7.根据权利要求6所述的方法，其特征在于，对于4cif的序列α取值为0.35，对于cif的序列α取值为0.25。