[发明专利]AVS3视频编码方法及编码器

说明书

本发明公开了一种AVS3视频编码方法及编码器，其中AVS3视频编码方法包括以下步骤：开始CTU的某一CU深度的CU模式选择；根据当前CU尺寸和形状筛选出NO_SPLIT、SPLIT_QT、SPLIT_EQT_H、SPLIT_EQT_V、SPLIT_BT_H和SPLIT_BT_V这6种CU模式中的n个可用CU模式，求出各个可用CU模式的亮度方差值的平均值，求取{A_1，A_2，…，A_n}的方差并记为At，如果At大于阈值TH1，则选择{A_1，A_2，…，A_n}中最小值所对应的CU模式作为当前CU深度的最优CU模式，结束当前CU深度的CU模式选择；否则根据拉格朗日率失真的CU模式选择方法在{M_1，M_2，…，M_n}模式中选择出RDCost最小的模式作为当前CU深度的最优CU模式，结束当前CU深度的CU模式选择。

技术领域

本发明属于视频编码技术领域，具体涉及一种AVS3视频编码方法及编码器。

背景技术

AVS3是我国第三代数字视频编码标准，它规定了适应多种比特率、分辨率和质量要求的高效视频压缩方法的解码过程，在相同的压缩效率下，其编码速度远远超过H.266/VVC，非常适合于8K超高清电视实时直播的应用。

AVS3编码器将每帧图像划分为若干个相同尺寸的CTU(Coding Tree Unit，编码树单元)，每个CTU又根据各区域的纹理和运动等信息按照四叉树(QT)或扩展四叉树(EQT)或二叉树(BT)，逐层向下划分，此时CU深度依次增加，形成更小的CU(Coding Unit，编码单元)，如图1所示。在编码某一CU深度时，根据当前CU尺寸和形状筛选出NO_SPLIT、SPLIT_QT、SPLIT_EQT_H、SPLIT_EQT_V、SPLIT_BT_H和SPLIT_BT_V这6种CU模式中的可用模式，再求出每个可用模式的RDCost(Rate Distortion Cost，率失真代价)，选择出具有最小RDcost的CU模式作为该层的最优CU模式，上述RDcost的计算为：

RDcost＝λ·R+SSD

其中λ为拉格朗日因子，R代表码率，SSD代表编码失真，该方法称之为基于拉格朗日率失真的CU模式选择方法，它能够选择出码率消耗少而且编码失真小的CU模式，如图2为将一个CTU分割为若干个CU的结果。

基于拉格朗日率失真的CU模式选择方法虽然选择出码率较小且客观编码失真较小的CU模式，但不能选择出最符合人眼主观感受的CU模式，如果它选择出来的CU模式的某一个分块内同时包含平坦区域和纹理区域，在DCT变换时并不能很好地去除高频分量，重建时高频信息会传递到平坦区域，使平坦区域看起来有明显的噪声，称之为局部平坦块噪声。

发明内容

本发明要解决的技术问题是提供一种AVS3视频编码方法及编码器，用于通过求取各CU模式的子块的亮度方差值，筛选出平坦区域和纹理区域尽可能分离的CU模式，从而选择出纹理区域高频信息对平坦区域的影响较小的CU模式，减少局部平坦块噪声。

为解决上述技术问题，本发明采用如下的技术方案：

本发明一方面提供一种AVS3视频编码方法，包括以下步骤：

开始CTU的某一CU深度的CU模式选择；

根据当前CU尺寸和形状筛选出NO_SPLIT、SPLIT_QT、SPLIT_EQT_H、SPLIT_EQT_V、SPLIT_BT_H和SPLIT_BT_V这6种CU模式中的n个可用CU模式，标记为{M_1，M_2，…，M_n}，其中n＜＝6，求出各个可用CU模式的亮度方差值的平均值，分别标记为{A_1，A_2，…，A_n}，其中