[发明专利]分级自适应的HEVC帧内预测模式快速决策方法

权利要求书

1.一种分级自适应的HEVC帧内预测模式快速决策方法，其中，所述方法是针对当前帧中的每个预测块(PU)执行预测模式决策的方法，其特征在于，包括以下步骤： 

步骤1)采用角度均匀间隔的12个一级候选模式进行粗选计算(RMD)，确定最优预测方向所在的大方向区间； 

步骤2)依据RMD计算得到的HCost代价对候选模式按升序进行排列；检查HCost代价最小的两个模式中是否存在Planar模式；如果存在Planar模式，则转入步骤3；否则转入步骤4； 

步骤3)如果HCost代价最小的两个模式中存在Planar模式，则增加3个二级候选模式进行RMD粗选计算，分别为DC模式、较佳预测角度Mode_HCost 0的左右2个相邻预测模式；并依据HCost代价对所有进行过RMD计算的候选模式按升序进行排列；进入步骤5； 

步骤4)如果HCost代价最小的两个模式中不存在Planar模式，则增加4个二级候选模式进行RMD粗选计算，分别为Mode_HCost 0的左右2个相邻预测模式和Mode_HCost 1的左右2个相邻预测模式；并依据HCost代价对所有进行过RMD计算的候选模式按升序进行排列；进入步骤5； 

步骤5)初次确定RMD预测模式筛选结果，筛选出HCost代价最小的前N种预测模式作为粗选模式子集；具体而言，针对16×16、32×32和64×64的PU尺寸，N＝3；针对4×4和8×8的PU尺寸，N＝2+二级候选模式数目； 

步骤6)采用代价自适应的提前排除法，排除部分可能性较小的候选模式；具体而言，比较粗选模式子集中各个预测模式的HCost代价大小，若其代价HCost_mode＞1.2×HCost₀，则将其排除出粗选模式子集；确定筛选后的RMD粗选模式子集； 

步骤7)使用最有可能模式(MPM)方法，将当前预测块的左侧块和上方块的最佳模式作为两个最有可能模式加入粗选模式子集； 

步骤8)使用率失真(RDO)方法确定最优预测模式，具体而言，对所述粗选子集中的预测模式计算率失真代价RDCost，代价最小的模式即为最终的最优预测模式。 

2.如权利要求1所述的方法，其特征在于，其中所述角度均匀间隔的12个一级候选模式是指HEVC规定的模式0、3、6、9、12、15、18、21、24、27、30、33等帧内预测模式。 

3.如权利要求1所述的方法，其特征在于，其中所述二级候选模式是根据步骤1和步骤2的计算结果，进行动态选择，主要包括DC模式、Mode_HCost 0的左右2个相邻预测模式以及Mode_HCost 1的左右2个相邻预测模式。 

4.如权利要求1所述的方法，其特征在于，其中所述提前排除法基于以下： 

HCost_mode＞1.2×HCost₀

其中，HCost₀为RMD模式粗选得到的最小代价；由于进行RMD粗选时，将依据HCost代价对候选模式按升序进行排列，故RMD模式粗选得到的最小代价用HCost₀表示；与其相对应的RMD粗选得到的最小代价模式用Mode_HCost 0表示。 

5.如权利要求1所述的方法，其中，所述RMD粗选计算的HCost代价基于以下： 

HCost＝HSATD_mode+λ·bits_mode

其中，mode为HEVC规定的35种帧内预测模式之一，HSATD表示残差信号哈达玛变换系数绝对和，bits表示模式比特数的消耗值，λ表示拉格朗日常量。