[发明专利]一种3D视频深度图像帧内楔形分割模式选择方法及系统

权利要求书

1.一种3D视频深度图像帧内楔形分割模式选择方法，其特征在于，包括以下步骤：

步骤1：计算当前块的35种HEVC帧内预测模式的哈达玛变换系数绝对值和；根据所述哈达玛变换系数绝对值和选择一定数目的帧内预测模式加入到候选帧内预测模式列表；

步骤2：选取当前块的左侧和上侧邻近块的帧内预测模式，得到最大可能模式，将所述最大可能模式中的帧内预测模式加入到候选帧内预测模式列表；

步骤3：在深度图像当前块中，选取最优的显示楔形分割模式并加入到候选帧内预测模式列表；

步骤4：选取当前块左侧和上侧邻近块的帧内预测模式，组成最大可能模式，判断该最大可能模式中的帧内预测模式是否为帧内角度预测模式，

如果最大可能模式中的帧内预测模式都不是帧内角度预测模式，则继续步骤5；

如果最大可能模式中的帧内预测模式中包含有帧内角度预测模式，则在纹理图像对应块中，判断纹理块和深度块是否存在结构失配，如果存在结构失配，则继续步骤5；如果不存在结构失配，则计算最优隐式楔形分割模式并加入到候选帧内预测模式集；

步骤5：将contour分割模式和边界链式分割模式加入到候选帧内预测模式列表；

步骤6：选择上述候选帧内预测模式列表中率失真最小的帧内预测模式作为当前块最优的帧内预测模式。

2.如权利要求1所述的3D视频深度图像帧内楔形分割模式选择方法，其特征在于，所述步骤3中选取最优显示楔形分割模式的方法包含以下步骤：

步骤2.1：定义四种块分割方式，包括：45度斜对角分割方式、135斜对角分割方式、垂直等分割方式、水平等分割方式；四种块分割方式对应的八种分割区域：左上部、右下部；右上部、左下部；左半部、右半部；上半部、下半部；其中，左上部、右上部、左半部、上半部为其对应的分割方式的第一区域；右下部、左下部、右半部、下半部为其对应的分割方式的第二区域；在楔形分割模式集中选取出每个分割区域各自对应的楔形分割模式组成每个分割区域各自对应的楔形分割模式子集，将楔形分割模式集中剩余的楔形分割模式组成非区域分割模式子集；将当前分割方式初始化为45度斜对角分割方式；

步骤2.2：获取当前分割方式的最优楔形分割模式或最优的楔形分割模式子集，具体过程为：

计算选定的块分割方式对应的两个分割区域的像素值方差Var_{_p1}和Var_{_p2}；

如果Var_{_p1}和Var_{_p2}都小于或等于预设门限值，则将当前的块分割方式作为最优的楔形分割模式，并加入到候选帧内预测模式列表；

如果Var_{_p1}大于预设门限值而Var_{_p2}小于或等于预设门限值，则将当前分割方式中第二区域相对应的楔形分割子集作为最优的楔形分割模式子集，然后继续步骤2.3；

如果Var_{_p2}大于预设门限值而Var_{_p1}小于或等于预设门限值，则将当前分割方式第一区域相对应的楔形分割子集作为最优的楔形分割模式子集，然后继续步骤2.3；

如果Var_{_p1}和Var_{_p2}都大于预设门限值，则将135度斜对角分割方式作为下一个块分割方式并重复本步骤2.2，如果Var_{_p1}和Var_{_p2}都大于预设门限值，则将垂直等分割方式作为下一个块分割方式并重复本步骤2.2，如果Var_{_p1}和Var_{_p2}都大于预设门限值，则将水平等分割方式作为下一个块分割方式并重复本步骤2.2；

如果在45度斜对角分割方式、135斜对角分割方式、垂直等分割方式、水平等分割方式中即没有获得最优的楔形分割模式也没有获得最优的楔形分割模式子集，则将非区域楔形分割模式子集设为最优的楔形分割模式子集，然后继续步骤2.3；

步骤2.3：在步骤2.2获得的最优楔形分割模式子集中，对每个楔形分割模式进行率失真代价的计算，选择率失真代价最小的楔形分割模式作为最优的显示楔形分割模式，并加入到候选帧内预测模式列表。