[发明专利]一种基于率失真优化的GPU中视频编码快速搜索方法

说明书

本发明涉及一种基于率失真优化的GPU中视频编码快速搜索方法，包括64×64PU搜索步骤、其他PU搜索步骤及分数像素搜索步骤，在64×64PU搜索及其他PU搜索中，针对不同大小的PU提出了基于率失真优化的两步搜索，首先获取最佳匹配位置，然后利用率失真代价计算方法将MV、PMV及SAD对应的率失真代价计算出来，存进Shared Memory，再用迭代算法计算出最小的代价，将最小代价及其对应的SAD及MV都存入Global Memory中。与现有技术相比，本发明降低了计算复杂度，大大减小了计算时间。

技术领域

本发明涉及GPU视频编码技术领域，尤其是涉及一种基于率失真优化的GPU中视频编码快速搜索方法。

背景技术

为提高计算性能，HEVC(High Efficiency Video Coding)视频编码可以在异构平台并行架构基础上执行，并基于多核CPU和GPU框架。其中，HEVC视频编码器在GPU中执行运动估计时一般采用全搜索方法进行搜索，全搜索方法虽然能够找到最佳的划分模式，但是需要遍历所有的划分，计算复杂度很高，使运动估计过程消耗时间比较长。另一种搜索方法是TZSearch算法，TZSearch算法采用的是菱形搜索方式，其过程为：

(1)确定起始搜索点；

(2)以步长1开始，按菱形模板在搜索范围内进行搜索，其中步长以2的整数次幂的形式递增，选出率失真代价最小的点作为该步骤的搜索结果；

(3)若步骤2选出的最优点对应的步长为1，则需要在该点周围进行二点搜索，目的是补充搜索最优点周围尚未搜索的点；

(4)若步骤2得到的最优点对应的步长大于某个阈值，则以该最优点为中心，在一定范围内做全搜索(搜索范围内的所有点)，选择率失真代价最小的做为该步骤的最优点；

(5)以步骤4得到的最优点为起始点，重复步骤2～4，细化搜索。当相邻两次细化搜索得到的最优点一致时停止细化搜索。此时得到的MV(MotionVector，运动向量)即为最终MV。

按照TZSearch快速搜索算法的原理，GPU中也会设计菱形搜索算法以降低计算复杂度，但是这种方法无法获取PMV(Motion Vector Prediction，预测运动向量)，因为PMV是从相邻的CTU(CodingTreeUnit，编码树单元，大小为64×64)的运动预测得到的运动向量，而在GPU运动估计中相邻的CTU处理是同时并行处理的，无法从相邻CTU获取相应的PMV，因此无法使用率失真优化技术选择最佳的CTU划分模式，导致率失真性能下降，为此找出PMV是在GPU中解决率失真优化问题的关键。

因CPU具有很强的通用性来处理各种不同的数据类型，同时逻辑判断又会引入大量的分支跳转和中断的处理，这些都使得CPU的内部结构异常复杂。而GPU面对的是类型高度统一、相互无依赖的大规模数据和不需要被打断的纯净的计算环境，这也使得GPU不能像CPU那样具有高效的逻辑判断性能，所以在GPU中很难实现TZSearch一样具有大量逻辑判断的搜索算法，即使能实现也会花费大量的时间，这与降低计算复杂度提升编码速度的初衷是相违背的，所以GPU中的快速搜索算法不能完全采用TZSearch快速算法，需进行改善。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种基于率失真优化的GPU中视频编码快速搜索方法。

本发明可以通过以下技术方案来实现：

一种基于率失真优化的GPU中视频编码快速搜索方法该方法包括64×64PU搜索步骤、其他PU搜索步骤及分数像素搜索步骤。

(一)64×64PU搜索步骤包括：

1.1)、计算一帧高清视频中所有8×8块在32×32范围内的所有SAD，并将其存取Global Memory中，并对计算的所有SAD进行比较，找出率失真性能最小SAD及最佳MV，具体步骤包括：