[发明专利]一种基于HEVC视频编码的TU树状结构抉择算法

说明书

本发明公开了一种基于HEVC视频编码的TU树状结构抉择算法，包括以下步骤：（a）对TU的残差进行变换，得到量化前的系数C0；（b）对步骤（a）中得到的C0进行量化，得到系数C1；（c）采用固定的二进制Bin与bits的压缩比，得到比特数估计值；（d）对步骤（b）中得到的C1进行反量化，得到系数C2；（e）计算该TU的失真值；（f）计算该TU残差编码后的率失真代价；（g）计算该TU残差在全部不编码的情况下的率失真代价；（h）将步骤（g）与步骤（f）得到的率失真代价进行比较，数值较小的作为该TU的最优代价。本发明采用上述算法，能够降低计算的复杂程度，减少硬件开销，提高硬件性能。

技术领域

本发明涉及视频编码领域，具体涉及一种基于HEVC视频编码的TU树状结构抉择算法。

背景技术

HEVC视频编码中，TU树状结构是HEVC视频标准新提出的一种提高编码效率的编码工具，TU大小有4x4,8x8,16x16,32x32,对于提高编码效率有很大作用，但其抉择算法要求极高的计算复杂度，使得硬件的开销较大，增加了硬件成本。

比如，HM是JCTVC组织的HEVC参考编码器与算法实现。其采用的TU抉择过程如下:

对所有可能的TU块(64个4x4块, 16个8x8块, 4个16x16块, 1个32x32块)，做如下运算过程：

1. 变换（Transform）-量化(Quant) -反量化(Dequant)-反变换(InverseTransform) -重构(Reconstruct).

2. 计算该TU块的失真，Distortion = SUM(原始像素– 重构像素)^2

3. 对量化后的系数做简化的CABAC，然后算出较为准确的残差编码的比特数Bits

4. 该TU的Rdcost = Distortion + Lambda * Bits， (Lambda是基于qp和帧类型而定的常数)。

5. 对所有的TU块的Rdcost做遍历比较，选出最小的TU_Rdcost组合，得到TU树结构。

上述算法中，反变换(Inverse Transform) 和重构(Reconstruct)的计算复杂度较高，导致硬件的开销较大，硬件Pipeline的级数较多，因此，硬件的整体性能不高。

发明内容

本发明的目的在于提供一种基于HEVC视频编码的TU树状结构抉择算法，解决目前的TU树状结构抉择算法的计算复杂度很高，导致硬件成本增加以及硬件性能不高的问题。

本发明为实现上述目的，采用以下技术方案实现：

一种基于HEVC视频编码的TU树状结构抉择算法，包括以下步骤：

（a）对TU的残差residual进行变换，得到量化前的系数C0；

（b）对步骤（a）中得到的C0进行量化，得到系数C1；

（c）采用固定的二进制 Bin与bits的压缩比，得到比特数估计值bits_estimate；

（d）对步骤（b）中得到的C1进行反量化，得到系数C2；

（e）计算该TU的失真值distortion：distortion=Sum(C2-C0)^2；

（f）计算该TU残差编码后的率失真代价rdcost= distortion+Lambda*bits_estimate，其中，Lambda是根据qp与帧类型而定的常数；

（g）计算该TU残差在全部不编码的情况下的率失真代价rdcost_zero：rdcost_zero= Sum(residual)^2；