[发明专利]一种基于CUDA的H.264并行编码器的实现方法

权利要求书

1.一种基于CUDA的H.264并行编码器的实现方法，其特征在于，该方法包括以下步骤：

(1)对H.264编码器结构进行调整，包括对编码器功能模块进行帧级分隔，以及对该编码器在CPU和GPU上的任务进行划分；

(2)所述编码器的各个功能模块在CUDA上并行化运行，即在模块级对H.264编码器的功能模块分别进行帧间预测、帧内预测编码、熵编码、去块滤波4个过程；

功能模块的帧级分隔包括如下步骤：

(1.1)按照编码器核心函数的功能，将核心函数中的各个功能函数分隔成独立的循环体，使每个功能函数在帧一级进行独立循环；

(1.2)将编码器中的大型数据结构按照其生命周期划分成多个简单数据结构，并且根据其实际的生命周期进行本地化；

所述步骤1.2具体包括：

将所述大型数据结构分成局部变量、伪全局变量和真全局变量三种类型；所述伪全局变量是指虽然是全局变量，但是作用范围可以拆分成多个实际生命周期的变量；

(a)如果所述大型数据结构是局部变量，则其不作变化；

(b)如果所述大型数据结构是伪全局变量，则通过重命名的方法，将该伪全局变量按照其实际生命周期划分成不同的变量；

(c)如果所述大型数据结构是真全局变量，则考察该真全局变量的数据结构中，是否有部分变量是伪全局变量或局部变量，如果有，则将这些变量从该真全局变量中分离出去，对分离出去的伪全局变量再进行如上述步骤b的处理；

帧内预测编码过程中，采用一次读取多次处理的方式加载数据，即每个线程块向对应的共享存储器中加载处理多个宏块需要的数据，CUDA的kernel函数内部通过一层循环对这些数据进行预测编码，当此次读取的数据处理结束之后将重建数据写回，然后再加载新的数据进行处理；相应的kernel的组织为两重循环结构，外层循环控制变量对应加载的次数，内存循环控制变量对应每次加载的数据需处理的次数；

kernel内部以宏块为单位进行处理，所述宏块包括多个子宏块，帧内预测编码包括三个阶段：

第一阶段：每个子宏块交由帧内预测线程块中的一个线程进行帧内预测处理；

第二阶段：由DCT线程块中的一个线程对一个子宏块中的一行或一列像素进行DCT处理；

第三阶段：由量化线程块中的一个线程对一个像素进行量化处理。

2.根据权利要求1所述的方法，其特征在于，CPU和GPU的任务划分包括：

(2.1)由CPU完成视频文件的输入并对视频文件进行预处理；

(2.2)CPU将视频文件中的原始帧和参考帧传送给GPU，由GPU进行后续的编码操作；

(2.3)GPU进行帧间预测；

(2.4)GPU执行帧内预测编码；

(2.5)GPU进行并行化熵编码；

(2.6)GPU进行去块滤波。

3.根据权利要求2所述的方法，其特征在于，所述帧间预测采用多分辨率多窗口(MRMW)算法。

4.根据权利要求2-3任意一项所述的方法，其特征在于，在并行化熵编码过程中，每个CUDA线程块处理8个连续的宏块，每一个线程处理一个子宏块的熵编码。

5.根据权利要求2-3任意一项所述的方法，其特征在于，所述去块滤波以帧为单位，包括边界强度的计算和滤波。

6.根据权利要求2-3任意一项所述的方法，其特征在于，所述预处理包括对视频分量YUV的分离以及编码器基本参数设置。