[发明专利]一种针对视频编码的帧间快速模式决策方法

说明书

一种针对视频编码的帧间快速模式决策方法，其特征在于，包括，步骤一、开始编码一个CU，计算CU模式复杂度参数MC，并判断模式MC是否等于0；步骤二、如果在步骤一判断MC等于0，再进一步判断CU的大小是否为8x8；步骤三、如果在步骤二判断CU的大小是8x8，则当前CU计算PSKIP和P2Nx2N两种模式，如果在步骤二判断CU的大小不是8x8，则当前CU只计算PSKIP模式；步骤四、如果在步骤一判断MC不等于0，则当前CU保持默认，计算全部模式，即PSKIP、P2Nx2N、P2NxN、PNx2N、PHOR_UP、PHOR_DOWN、PVER_LEFT和PVER_RIGHT；本发明从ME和MD两个层面对编码器进行了复杂度的优化，能够在保证编码效果的同时，尽可能多的跳过不必要的计算，从而最终达到降低计算量和提升编码器可实时性的目的。

技术领域

本发明是一种针对视频编码的帧间快速模式决策方法，涉及视频编解码技术领域。

背景技术

传统的视频编解码帧间MD技术是通过遍历每个CU的全部帧间PM，然后计算这些被遍历PM的率失真代价，获得最小率失真代价的PM则被认为是当前CU的最优模式。这种做法虽然能带来很好的编码效果，但需要付出巨大的计算代价，巨大的计算代价也降低了视频编码技术的可实时行。

造成计算代价过高的原因主要有两个方面，第一方面是在MD阶段，编码器需要遍历不同的PM，而每种PM都要经过一系列运算。第二方面是在ME阶段，编码器需要对每种PM进行ME，而ME过程包括IME和FME，这些操作过程相对复杂，造成了计算代价偏高的结果。

现有技术一：针对第一方面，现存方法主要通过在MD之前跳过出现概率很低的PM来减少计算量。因为在MD的最后阶段，仅需选取所有被遍历PM中率失真代价最小的那一种作为最优模式，所以如果能够在MD之前提前判断出每种PM最终被选为最优模式的概率，从而跳过一些概率很低的PM，便能在保证编码效果的同时大幅度减少计算量。其缺点是：仅从MD层面进行了编码复杂度的优化，对于那些未被跳过的PM在ME阶段，仍需执行IME与FME两个过程，未达到最优的优化效果。

现有技术二：针对第二方面，现存方法通过ME优化技术，减少搜索过程中被搜索点数目或者跳过ME过程中的IME或FME，来减少计算量的引入。其缺点是：仅从ME层面进行了编码复杂度的优化，虽然减少了搜索点数目或是跳过了FME过程，但每种PM均参与模式决策过程，也未达到最优的优化效果。

发明内容

本发明的目的是提供一种针对视频编码的帧间快速模式决策方法，以解决编码器在进行帧间模式决策与分像素运动估计时，通过选择性跳过一些不必要步骤，达到节省编码时间和提升编码器可实时性。

一种针对视频编码的帧间快速模式决策方法，其特征在于，包括，

步骤一、开始编码一个CU，计算CU模式复杂度参数MC，并判断模式MC是否等于0；

步骤二、如果在步骤一判断MC等于0，再进一步判断CU的大小是否为8x8；

步骤三、如果在步骤二判断CU的大小是8x8，则当前CU计算PSKIP和P2Nx2N两种模式，如果在步骤二判断CU的大小不是8x8，则当前CU只计算PSKIP模式；

步骤四、如果在步骤一判断MC不等于0，则当前CU保持默认，计算全部模式，即PSKIP、P2Nx2N、P2NxN、PNx2N、PHOR_UP、PHOR_DOWN、PVER_LEFT和PVER_RIGHT；

步骤五、parentPU执行IME和FME，分别产生运动矢量PIMV和PFMV；

步骤六、判断PIMV是否等于PFMV；

步骤七、如果在步骤六判断PIMV等于PFMV，则此parentPU的全部childPU只执行IME，跳过FME；