[发明专利]一种基于VVC的帧内预测模式的优化方法及系统

权利要求书

1.一种基于VVC的帧内预测模式的优化方法，其特征在于，包括以下步骤：

根据IBC模式选取当前CU的MV，并根据当前CU的MV和当前CU的坐标确定参考块的坐标；

获取所述参考块的每个像素位置所在CU的方向模式，得到所述参考块的帧内方向模式集DirsSet；

将67个帧内预测模式划分为多个模式范围，确定所述DirsSet中的模式所属的模式范围，根据所述DirsSet所属的模式范围确定当前CU的候选模式范围并生成候选模式列表；

从所述候选模式列表内选取出RDCost最小的模式作为最优模式：

执行lfnstIdx＝0且mtsFlag＝0时，若所述候选模式列表中包含有所述DirsSet内的模式，则从包含的模式以及包含的模式之前的所有模式中选出RDCost最小的第一最优模式；其中，所述lfnstIdx用于表征当前CU进行低频不可分离变换的次数，所述mtsFlag用于表征当前CU是否启用多变换选择；

执行lfnstIdx＝0且mtsFlag＝1时，若所述候选模式列表中包含有所述第一最优模式，则从所述第一最优模式以及所述第一最优模式之前的所有模式中选出RDCost最小的第二最优模式；

执行lfnstIdx＝1且mtsFlag＝0时，若所述候选模式列表中包含所述第二最优模式，则从所述第二最优模式以及所述第二最优模式之前的所有模式中选出RDCost最小的第三最优模式；

执行lfnstIdx＝1且mtsFlag＝1时，若所述候选模式列表中包含所述第三最优模式，则从所述第三最优模式以及所述第三最优模式之前的所有模式中选出RDCost最小的第四最优模式；

执行lfnstIdx＝2且mtsFlag＝0时，若所述候选模式列表中包含所述第四最优模式，则从所述第四最优模式以及所述第四最优模式之前的所有模式中选出RDCost最小的第五最优模式；

执行lfnstIdx＝2且mtsFlag＝1时，若所述候选模式列表中包含所述第五最优模式，则从所述第五最优模式以及所述第五最优模式之前的所有模式中选出RDCost最小的第六最优模式。

2.根据权利要求1所述的一种基于VVC的帧内预测模式的优化方法，其特征在于，所述从所述候选模式列表内选取出RDCost最小的模式作为最优模式之前，还包括步骤，执行MIP模式跳过操作：

求取所述参考块mipFlag等于0的概率P(mipFlag)，其中，mipFlag用于表征所述参考块是否使用MIP，若所述参考块未使用MIP，则mipFlag等于0；

若P(mipFlag)A，则跳过MIP模式，其中，A为阈值；

若P(mipFlag)＝A，则计算所述候选模式列表中各个模式的SATDCost，选取SATDCost最小值作为阈值minCost，计算MIP模式的SATDCost，若所述MIP模式的SATDCost大于thr*minCost，则跳过MIP模式，其中，thr为阈值，SATDCost表示失真代价。

3.根据权利要求2所述的一种基于VVC的帧内预测模式的优化方法，其特征在于：A取值为0.8。