[发明专利]360度视频帧内预测快速决策方法、装置、编解码器和介质

权利要求书

1.一种在HEVC中的基于纹理特征的360度视频帧内预测快速决策的方法，包括如下步骤：

(1)初始化当前编码单元CU，计算该CU的图像垂直纹理复杂度VMAD，并使用与垂直纹理复杂度相关的阈值Vα和Vβ对该CU进行判断，若计算值小于Vα，当前CU不再划分，则计算当前CU不划分的代价并跳转至步骤(4)，若计算值大于Vβ，当前CU划分，则跳转至步骤(3)，若计算值在Vα和Vβ之间，则继续到步骤(2)；

(2)计算当前CU水平纹理复杂度HMAD的结果并使用跟水平纹理复杂度相关的阈值Hα和Hβ对该CU进行判断，若计算值小于Hα，则当前CU不划分，计算当前CU不划分的代价并跳转至步骤(4)，若计算值大于Hβ，则当前CU划分并跳转至步骤(3)，若计算值在Hα和Hβ之间，则计算划分代价以确定是否继续进一步划分，若当前CU不需要进一步划分，则计算当前CU不划分的代价并跳转到步骤(4)；

(3)判断当前CU的尺寸是否为最小尺寸，若果不是，则跳转回步骤(1)；

(4)如果当前CU的尺寸是最小划分尺寸或者之前的判断结果为不划分当前CU，则根据计算的代价大小来选择当前CU的最佳划分方式；

(5)判断当前CU的预测模式的纹理方向性，比较垂直纹理复杂度和水平纹理复杂度的值的大小，若垂直纹理复杂度大于水平纹理复杂度，则预测模式为垂直模式，跳转至步骤(6)，若垂直纹理复杂度小于水平纹理复杂度，则预测模式为水平模式，跳转至步骤(7)；

(6)计算垂直模式中的代表模式的率失真代价，取率失真代价最小的模式C2，跳转至步骤(8)；

(7)计算水平模式中的代表模式的率失真代价，取率失真代价最小的模式C2，并跳转至步骤(8)；

(8)计算步骤(6)或(7)中率失真代价最小模式C2的邻近4个模式的率失真代价，率失真代价最小的两个模式为最优候选模式。

2.如权利要求1所述的方法，步骤(1)进一步包括：

垂直遍历当前CU每列的所有像素点，计算每列的垂直纹理复杂度VMAD，并求出当前CU的平均垂直纹理复杂度meanVMAD，并与和垂直纹理复杂度相关的阈值Vα和Vβ进行比较。

3.如权利要求1所述的方法，步骤(2)进一步包括：

水平遍历当前CU每行的所有像素点，计算每行的水平纹理复杂度HMAD，并求出当前CU的平均水平纹理复杂度meanHMAD，并与跟水平纹理复杂度相关的阈值Hα和Hβ进行比较。

4.如权利要求1所述的方法，步骤(5)进一步包括：

垂直纹理复杂度和水平纹理复杂度的值采用步骤(1)和步骤(2)计算得出的平均纹理复杂度，比较两者的值，复杂度较小的模式为更优的模式。

5.如权利要求1所述的方法，步骤(6)进一步包括：

垂直模式中的代表模式为18，22，26，30，34，计算这5种模式的率失真代价，并计算planer和DC模式，选取率失真代价最小的模式。

6.如权利要求1所述的方法，步骤(7)进一步包括：

水平模式中的代表模式为2，6，10，14，18，计算这5种模式的率失真代价，并计算planer和DC模式，选取率失真代价最小的模式。

7.如权利要求1所述的方法，步骤(8)进一步包括：

若planer和DC模式的率失真代价最小，则这两种模式为最优候选模式；否则，计算步骤(6)或(7)中率失真代价最小的模式C2邻近4个模式：C2-2，C2-1，C2+1，C2+2，最优候选模式为其中率失真代价最小的两个模式。

8.如权利要求1所述的方法，用于判断当前CU划分的与垂直纹理复杂度和水平纹理复杂度相关的两种阈值通过统计进行设定，以采样方式对360度视频的第一帧视频图像的划分结果和图像纹理复杂度及相关数据进行统计，得到CU划分的最优阈值。