[发明专利]一种基于HEVC视频编码的TU树状结构抉择算法

权利要求书

1.一种基于HEVC视频编码的TU树状结构抉择算法，其特征在于，包括以下步骤：

（a）对TU的残差residual进行变换，得到量化前的系数C0；

（b）对步骤（a）中得到的C0进行量化，得到系数C1；

（c）采用固定的二进制 Bin与bits的压缩比，得到比特数估计值bits_estimate；

（d）对步骤（b）中得到的C1进行反量化，得到系数C2；

（e）计算该TU的失真值distortion：distortion=Sum(C2-C0)^2；

（f）计算该TU残差编码后的率失真代价rdcost= distortion+Lambda*bits_estimate，其中，Lambda是根据qp与帧类型而定的常数；

（g）计算该TU残差在全部不编码的情况下的率失真代价rdcost_zero：rdcost_zero=Sum(residual)^2；

（h）将步骤（g）得到的rdcost_zero与步骤（f）得到的rdcost进行比较，数值较小的作为该TU的最优代价TU_cost：TU_cost=MIN(rdcost_zero, rdcost)。

2.根据权利要求1所述的一种基于HEVC视频编码的TU树状结构抉择算法，其特征在于，所述步骤（c）的具体过程为：

（c1）按照HEVC残差CABAC的二进制化过程，得到该TU残差二进制化过后的BIN的总数；

（c2）将BIN/（1.2~1.4）作为该TU残差部分的比特数估计值bits_estimate。

3.根据权利要求2所述的一种基于HEVC视频编码的TU树状结构抉择算法，其特征在于，所述步骤（c2）中，将BIN/1.3作为该TU残差部分的比特数估计值bits_estimate。

4.根据权利要求1所述的一种基于HEVC视频编码的TU树状结构抉择算法，其特征在于，所述步骤（h）的具体过程为：

（h1）当TU块为8x8块时，比较TU_cost_8x8和4个TU_cost_4x4的和，决定该8x8块是否分割.

如果TU_cost_8x8较小，则该8x8块不分割，否则，该8x8块分割；

该8x8块的最终最优代价TU_best_cost_8x8 = MIN(TU_cost_8x8, sum(TU_cost_4x4))，其中，TU_cost_8x8表示8x8块的最优代价，TU_cost_4x4表示4x4块的最优代价；

（h2）当TU块为16x16块时，比较TU_cost_16x16和4个TU_best_cost_8x8的和，决定该16x16块是否分割；

如果TU_cost_16x16较小，则该16x16块不分割，否则，该16x16块分割；

该16x16块的最终最优代价 TU_best_cost_16x16 =MIN(TU_cost_16x16, sum(TU_best_cost_8x8))，其中TU_cost_16x16表示16x16块的最优代价，TU_best_cost_8x8表示8x8块的最终最优代价；

（h3）当TU块为32x32块时，比较TU_cost_32x32和4个TU_best_cost_16x16的和，决定该32x32块是否分割.

如果TU_cost_32x32较小，则该32x32块不分割，否则，该32x32块分割；

该32x32块的最终最优代价 TU_best_cost_32x32 =MIN(TU_cost_32x32, sum(TU_best_cost_16x16))，其中，TU_best_cost_32x32表示32x32块的最优代价，TU_best_cost_16x16表示16x16块的最终最优代价。