[发明专利]一种基于感知的帧内编码单元尺寸快速决策的编码方法

权利要求书

1.一种基于感知的帧内编码单元尺寸快速决策的编码方法，所述编码单元尺寸快速决策包括：基于梯度幅度相似度偏差GMSD的编码单元尺寸决策和基于恰可察觉失真JND的编码单元尺寸决策；所述编码方法包括如下步骤：

1)采用帧内编码方法进行视频编码，基于GMSD的CU尺寸进行快速决策；执行如下操作：

11)采用GMSD模型计算当前CU与其时空相邻CU的感知相关性，表示为式(1)：

其中，N是当前CU中的像素数；i表示像素位置；GMS是梯度幅度相似度，表示为式(2)：

其中，m_r是当前编码单元的梯度，m_d是相邻编码单元的梯度，c是提供数值稳定性的正常数；

通过式(3)计算得到梯度幅度相似度均值GMSM：

12)确定与当前CU具有最大感知相似性的相邻CU，用于评估当前CU的划分标志；

13)评估当前CU的划分标志：通过设置GMSD的阈值TH，实现快速CU尺寸决策；

2)使用改进的像素域JND估计模型进行基于JND的CU尺寸快速决策；

21)计算得到用于反映感知纹理一致性的JND方差；表示为式(4)：

JND(x,y)＝L_A(x,y)+V_M(x,y)-0.3·min{L_A(x,y),V_M(x,y)} (4)

其中，JND(x,y)为恰可察觉失真；x和y代表像素位置，L_A是亮度适应因子，V_M是视觉掩蔽；

22)根据JND方差划分CU的深度；

23)定义反映CU的感知特性的CU级的感知失真因子P_F；表示为式(5):

P_F(d,k,i)＝log₂(V_J(d,k,i)) (5)

其中，d是CU的深度，k和i是当前CU及其子CU的索引，V_J是其JND方差；

24)计算在当前CU中的子CU的P_F的最大差异D_P，表示感知差异；

25)设置D_P的上限阈值和下限阈值分别为TH₁和TL₁，对CU进行进一步的快速尺寸决策；

执行如下操作：

251)在遍历CU划分之前计算D_P，通过比较D_P与TH₁和TL₁，将CU分类为感知纹理均匀、丰富或不能确定：

252)如果CU的D_P小于TL₁，表示CU的感知特征分布分类为均匀，则划分过程提前终止；

253)如果D_P超过TH₁，表示CU的感知特征分布分类为丰富，并再直接划分为更小的CU，可跳过当前CU的编码过程；

254)否则，当前CU进行默认的编码过程而不进行任何修改；

通过上述步骤，实现基于GMSD的CU尺寸决策模型和基于JND的CU尺寸决策模型进行视频编码。

2.如权利要求1所述基于感知的帧内编码单元尺寸快速决策的编码方法，其特征是，步骤13)评估当前CU的划分标志，具体执行如下操作：

131)在遍历当前CU划分之前计算相邻CU与当前CU的感知相关性GMSD，选择最小值表示为GMSD_min，并将其与TH进行比较；

132)如果GMSD_min小于等于TH，表示CU在感知上与对应于GMSD_min的相邻CU相似，则从相邻CU获得当前CU的划分标志；

133)如果GMSD_min大于TH，则当前CU进行进一步决策。

3.如权利要求1所述基于感知的帧内编码单元尺寸快速决策的编码方法，其特征是，当前CU的子CU为四个；具体是将当前CU经过四叉树划分得到的四个大小相同的CU。

4.如权利要求3所述基于感知的帧内编码单元尺寸快速决策的编码方法，其特征是，步骤24)具体计算在当前CU中的四个子CU的P_F的最大差异D_P，表示为式(6)：

其中，m和n分别是子CU的索引。