[发明专利]一种基于HEVC视频编码的TU树状结构抉择算法

摘要

本发明公开了一种基于HEVC视频编码的TU树状结构抉择算法，包括以下步骤：（a）对TU的残差进行变换，得到量化前的系数C0；（b）对步骤（a）中得到的C0进行量化，得到系数C1；（c）采用固定的二进制Bin与bits的压缩比，得到比特数估计值；（d）对步骤（b）中得到的C1进行反量化，得到系数C2；（e）计算该TU的失真值；（f）计算该TU残差编码后的率失真代价；（g）计算该TU残差在全部不编码的情况下的率失真代价；（h）将步骤（g）与步骤（f）得到的率失真代价进行比较，数值较小的作为该TU的最优代价。本发明采用上述算法，能够降低计算的复杂程度，减少硬件开销，提高硬件性能。

主权项

一种基于HEVC视频编码的TU树状结构抉择算法，其特征在于，包括以下步骤：（a）对TU的残差residual进行变换，得到量化前的系数C0；（b）对步骤（a）中得到的C0进行量化，得到系数C1；（c）采用固定的二进制 Bin与bits的压缩比，得到比特数估计值bits_estimate；（d）对步骤（b）中得到的C1进行反量化，得到系数C2；（e）计算该TU的失真值distortion：distortion=Sum(C2‑C0)^2；（f）计算该TU残差编码后的率失真代价rdcost= distortion+Lambda*bits_estimate，其中，Lambda是根据qp与帧类型而定的常数；（g）计算该TU残差在全部不编码的情况下的率失真代价rdcost_zero：rdcost_zero= Sum(residual)^2；（h）将步骤（g）得到的rdcost_zero与步骤（f）得到的rdcost进行比较，数值较小的作为该TU的最优代价TU_cost：TU_cost=MIN(rdcost_zero, rdcost)。