[发明专利]一种HEVC快速帧间预测方法

摘要

本发明公开了一种HEVC快速帧间预测方法，首先统计出两组健壮的阈值使其能满足不同深度级的编码单元(CU)以及不同量化参数(QP)；当当前CU的SKIP模式的率失真代价小于给定阈值时，该CU的最优预测模式为SKIP模式；当当前CU的最优预测模式的率失真代价小于另一给定阈值时，该CU停止执行进一步的分割。本发明可精确地终止编码单元不必要的深度计算以及跳过不必要的预测模式计算，能够极大地降低HEVC的帧间编码复杂度，有助于实现HEVC编码器的实时应用。

主权项

一种HEVC快速帧间预测方法，其特征在于，首先将编码单元记为CU，将量化参数记为QP；然后分别统计出深度级为0、1和2的CU在不同QP下不进行进一步分割时该CU的最优预测模式的率失真代价需要满足的阈值条件，得到分别对应0、1、2深度级的三组阈值如下：Thr64＝2270×e0.8907×QP    (1)Thr32＝722.2×e0.1096×QP   (2)Thr16＝228.5×e0.1136×QP   (3)其中，e是数学常数，为自然对数的底数；之后，分别统计出深度级为0、1、2和3的CU在不同QP下只进行SKIP模式的率失真优化计算时其SKIP模式的率失真代价需要满足的阈值条件，得到分别对应0、1、2、3深度级的四组阈值如下：thr64×64＝102.6×e0.1636×QP   (4)thr32×32＝9.685×e0.1888×QP   (5)thr16×16＝1.945×e0.2174×QP   (6)thr8×8＝1.218×e0.212×QP     (7)其中，e是数学常数，为自然对数的底数；CU的0、1、2、3深度级又分别对应64×64、32×32、16×16、8×8的CU尺寸；则该快速帧间预测方法包括如下步骤：1)读取一个最大尺寸的CU；转到步骤2)；2)对当前CU的SKIP模式进行率失真优化计算，得到其率失真代价，记为SKIP_cost，然后判断当前CU的深度；若是0，转到步骤3)；若是1，转到步骤4)；若是2，转到步骤5)；否则转到步骤6)；3)由式(4)根据其预先设定的QP值计算出thr64×64，并判断当前的SKIP_cost是否小于该thr64×64；若是，转到步骤11)；否则转到步骤7)；4)由式(5)根据其预先设定的QP值计算出thr32×32，并判断当前的SKIP_cost是否小于该thr32×32；若是，转到步骤11)；否则转到步骤7)；5)由式(6)根据其预先设定的QP值计算出thr16×16，并判断当前的SKIP_cost是否小于该thr16×16；若是，转到步骤11)；否则转到步骤7)；6)由式(7)根据其预先设定的QP值计算出thr8×8，并判断当前的SKIP_cost是否小于该thr8×8；若是，转到步骤11)；否则转到步骤7)；7)对当前CU的帧间2N×2N预测模式进行率失真优化计算，得到其率失真代价；然后判断当前CU、当前CU相邻左侧的CU、当前CU相邻上方的CU这三种CU的运动矢量是否全都为0；若是，转到步骤11)；否则，转到步骤8)；8)分别对当前CU的帧间N×2N预测模式和帧间2N×N预测模式进行率失真优化计算，得到它们的率失真代价；然后判断当前CU在2N×2N预测模式下的运动矢量是否为0；若是，转到步骤10)，否则转到步骤9)；9)若当前CU的深度不为3，则分别对当前CU的所有帧间AMP预测模式进行率失真优化计算，得到当前CU所有帧间AMP预测模式的各率失真代价，然后转到步骤10)；若当前CU的深度为3，则直接转到步骤10)；10)分别对当前CU的所有帧内预测模式进行率失真优化计算，得到当前CU的所有帧内预测模式的各率失真代价；然后转到步骤11)；11)比较当前CU已计算的所有预测模式的各率失真代价，将其中最小的率失真代价记为RDcost_best，并将该最小率失真代价所对应的预测模式记录为当前CU的最优预测模式；然后判断当前CU的深度；若是0，转到步骤12)；若是1，转到步骤13)；若是2，转到步骤14)；否则读取下一个最大尺寸的CU，并转到步骤2)；12)由式(1)根据其预先设定的QP值计算出Thr64，然后判断当前的RDcost_best是否小于该Thr64；若是，转到步骤15)；否则转到步骤16)；13)由式(2)根据其预先设定的QP值计算出Thr32，然后判断当前的RDcost_best是否小于该Thr32；若是，转到步骤15)；否则转到步骤16)；14)由式(3)根据其预先设定的QP值计算出Thr16，然后判断当前的RDcost_best是否小于该Thr16；若是，转到步骤15)；否则转到步骤16)；15)终止当前CU的进一步分割，提取下一个最大尺寸的CU，然后转到步骤2)；16)将当前CU分割成4个尺寸相同的子CU，对每个子CU分别转到步骤2)进行相应的处理。