[发明专利]一种基于率失真优化的GPU中视频编码快速搜索方法

权利要求书

1.一种基于率失真优化的GPU中视频编码快速搜索方法，其特征在于，该方法包括64×64PU搜索步骤、其他PU搜索步骤及分数像素搜索步骤，其中，

所述的64×64PU搜索步骤包括：

1a)、计算一帧高清视频中所有8×8块在32×32范围内的所有SAD，并将其存取GlobalMemory中，并对计算的所有SAD进行比较，找出率失真性能最小SAD及最佳MV；

1b)、以步骤1a)取得的最小SAD的位置为中心点进行169点全搜索，并以步骤1a)获得的最佳MV作为PMV；

所述的其他PU搜索步骤包括：

2a)、在GPU运动估计中，子PU选取母PU的最佳MV作为PMV，并以母PU取得最佳MV位置为起始点获取各种可能PU的PMV，母PU包含子PU，即母PU可进一步划分为若干子PU；

2b)、以步骤2a)的得出的最佳匹配位置为中心点，在9×9的范围内进行全搜索；

所述的分数像素搜索包括：

3a)、对分数像素图像进行二分之一插值，并将创建的每个线程块完成三个二分之一像素插值，将插值完成的图像保存到Global Memory中；

3b)、对步骤3a)插值后的图像进行四分之一插值，并存于Global Memory中；

3c)、在每种PU块的整数最佳匹配位置进行分数像素位置的SAD计算，采用全搜索的方式计算各个分数像素位置的率失真代价并比较，选出最佳值，完成视频帧的快速搜索；

步骤2a)具体包括下列步骤：

1)计算64×32PU的SAD来寻找最佳64×32PU；

2)取64×64PU的最佳MV64×64作为64×32PU的预测向量，通过计算率失真代价并进行率失真代价比较，获取最小的率失真代价及对应的MV和SAD，然后根据MV确定最佳匹配位置。

2.根据权利要求1所述的一种基于率失真优化的GPU中视频编码快速搜索方法，其特征在于，率失真代价J的计算表达式为：

J＝SAD+λ*R(MVD)

式中，MVD为当前块的真实运动向量和预测运动向量的差值，R为编码MVD所用bit，λ为拉格朗日乘子。

3.根据权利要求2所述的一种基于率失真优化的GPU中视频编码快速搜索方法，其特征在于，步骤1a)具体包括下列步骤：

1)创建一个32条流水线的线程块，利用前五条流水线计算三个SAD，并利用其余每个流水线计算两个SAD；

2)将得到的32个SAD存入Shared Memory，创建包含16条流水线的线程块与32个SAD对比，并将16个SAD存入Shared Memory，依次迭代5次直至计算结束；

3)将得到的最小值SAD对应的MV保存到Global Memory中。

4.根据权利要求3所述的一种基于率失真优化的GPU中视频编码快速搜索方法，其特征在于，步骤1b)具体包括下列步骤：

1)将提前计算的MVBT存入GPU的Constant Memory，若需要计算率失真代价，根据相应的MV查表获取运动向量的比；

2)创建具有169条流水线的线程块，并计算MV、PMV及SAD对应的率失真代价，存入Shared Memory；

3)将最小代价及其对应的SAD、MV存入Global Memory中。

5.根据权利要求1所述的一种基于率失真优化的GPU中视频编码快速搜索方法，其特征在于，步骤2b)具体内容为：

以步骤2a)获取的最佳匹配位置为中心，并将获取的MV作为本步骤的PMV，进行周围81点方形全搜索，找出率失真代价最低的块及其对应SAD和MV64×32，存入Global Memory中。

6.根据权利要求1所述的一种基于率失真优化的GPU中视频编码快速搜索方法，64×32PU的SAD由64×32PU对应的32个8×8SAD相加计算得到。