[发明专利]帧内色度预测模式快速选择

权利要求书

1.一种用于对视频编码比特流中的色度分量进行帧内预测模式选择的方法，包括：

确定当前CU的纹理复杂度值，其中，用于色度分量的帧内预测模式选择的所述当前CU的纹理复杂度值是针对所述当前CU的亮度分量的纹理复杂度值，其中，所述当前CU的所述纹理复杂度值是基于水平纹理复杂度、垂直纹理复杂度、45度对角线复杂度和135度对角线复杂度的组合来确定的；

所述当前CU的纹理复杂度值计算如下：

其中，W为CU的宽度，H为CU的高度，G_HOR、G_VER、G₄₅和G₁₃₅分别表示所述水平纹理复杂度、所述垂直纹理复杂度、所述45度对角线复杂度和所述135度对角线复杂度；

所述水平纹理复杂度、所述垂直纹理复杂度、所述45度对角线复杂度和所述135度对角线复杂度计算如下：

G_k＝S_k*A,(k＝HOR,VER,45,135)；

其中，S_k为纹理算子，A为3x3的像素矩阵，P(i,j)为位于(i,j)处的亮度像素值；

基于所述纹理复杂度值，从包含多种帧内色度预测候选模式的帧内色度预测候选模式集合中确定一子集，其中，所述帧内色度预测候选模式集合包括8种帧内色度预测候选模式：DM模式、LM模式、LM-L模式、LM-A模式、DC模式、平面模式、垂直模式和水平模式；

针对所确定的子集中的各个帧内色度预测候选模式计算率失真代价RD-cost；以及

根据所计算的RD-cost来选择最佳帧内色度预测模式以用于所述色度分量的帧内预测。

2.如权利要求1所述的方法，其中，基于所述纹理复杂度值，从包含多种帧内色度预测候选模式的帧内色度预测候选模式集合中确定一子集进一步包括：

当所述纹理复杂度值大于第一阈值时，确定所述帧内色度预测候选模式集合中的第一子集作为所述子集；或者

当所述纹理复杂度值小于第二阈值时，确定所述帧内色度预测候选模式集合中的第二子集作为所述子集，所述第二子集不同于所述第一子集；或者

当所述纹理复杂度大于等于所述第二阈值并小于等于所述第一阈值时，将所述子集确定为是所述帧内色度预测候选模式集合本身。

3.如权利要求1或2所述的方法，其中，当所述纹理复杂度值大于第一阈值时，所述当前CU的纹理复杂；而当所述纹理复杂度值小于第二阈值时，所述当前CU的纹理简单。

4.如权利要求1或2所述的方法，其中，基于所述纹理复杂度值，从包含多种帧内色度预测候选模式的帧内色度预测候选模式集合中确定一子集进一步包括：

当所述纹理复杂度值大于第一阈值时，所述子集包括DM模式、水平模式和垂直模式；或者

当所述纹理复杂度值小于第二阈值时，所述子集包括DM模式、LM模式、LM-L模式、LM-A模式、DC模式以及平面模式；或者

当所述纹理复杂度大于等于所述第二阈值并小于等于所述第一阈值时，所述子集包括DM模式、LM模式、LM-L模式、LM-A模式、DC模式、平面模式、垂直模式和水平模式。