[发明专利]一种多用途编码中帧内编码的多变换选择加速方法

摘要

本发明实施例提供了一种多用途编码中帧内编码的多变换选择加速方法，该方法分为两个阶段：第一阶段为“快速跳过”，第二阶段为“快速终止”，其中，第一阶段旨在对是否需要进行MTS进行预判，如果预判CU不需要进行MTS则快速跳过MTS的率失真优化，否则进入第二阶段，在第二阶段，在执行MTS时考虑提前终止某些帧内预测模式的候选变换的率失真计算，尽可能地降低了变换过程的执行时间，解决了现有技术中VVC标准编码器VTM编码时间长的问题，缩短了编码时间，扩大了应用性。

主权项

1.一种多用途编码中帧内编码的多变换选择加速方法，其特征在于，步骤包括：S1：在当前CU做完DCT‑II变换后，判断所述当前CU是否为最后一个子CU，若是，则进行步骤S2；S2：判断步骤S1所述的CU及其子CU是否满足公式：若否，则进行步骤S3；若是，则进行步骤S5，其中，RD_p和RD_i(1≤i≤N)分别代表父CU及其第i个子CU的率失真代价，N为子CU的个数，α为可调因子，用于校正误差；S3：统计CU相邻块中各MTS候选被选中的频率，根据CU相邻块中各个MTS候选被选中的频率对MTS候选列表L按频率由高到低进行排序；S4：将MTS候选列表L的第j个候选变换设为cand_j，j的初始值为0，设定预测模式列表为S，长度为N，N为大于0的整数，mode_i为S中的第i个预测模式，i的初始值为0，将isSkip(mode_i)作为是否跳过mode_i的率失真计算标志位，isSkip(mode_i)的初始值均为0，将RD_min作为各个模式在各个候选变换下的率失真代价最小值，RD(mode_i,cand_j)为mode_i在cand_j变换下进行编码计算得到的率失真代价，若j>3，则进行步骤S5；S5：结束MTS过程。