[发明专利]CPU与GPU间的数据传输方法及计算机设备

说明书

本申请涉及数据处理技术领域，公开了一种CPU与GPU间的数据传输方法及计算机设备，方法包括：获取CPU需要传输的第一数据集合，第一数据集合包括若干具有同一类名的类数据；对第一数据集合中的类数据进行属性合并，获得第二数据集合；基于第二数据集合中的属性值排列顺序，依次建立第一数据集合中对应属性值在CPU中内存地址与GPU内存地址的地址映射关系；基于地址映射关系，将第一数据集合传输至GPU进行存储。本申请解决了现有CPU与GPU的数据传输过程中，由于传输后的数据存储方式不变，导致GPU存在读取数据效率低的问题。

技术领域

本申请涉及数据处理技术领域，具体是指一种CPU与GPU间的数据传输方法及计算机设备。

背景技术

对于复杂神经网络来讲，使用中央处理器CPU进行计算并不高效，由于神经网络是高度并行的，采用适合并行计算的图形处理器GPU来处理并行计算任务可以有效提高神经网络计算效率。随着人工智能的不断发展，对擅长于大规模并行运算的GPU的硬件要求也越来越高，正常工作流程下GPU仍需在CPU的指令操控下去完成计算任务，因此CPU与GPU之间常常会进行数据传输。

此外，面向对象的编程作为主流的编程设计方法，其具有可读性高、易扩展、方便建模等优点，程序设计人员常常使用面向对象的编程方法来设计GPU程序，这些数据需要从CPU传输到GPU，才能利用GPU的并行计算能力实现大规模并行计算。具体的，一个典型的GPU程序实现流程为：首先在GPU上为数据分配内存空间，然后计算数据CPU的内存地址和GPU分配地址的映射关系，将CPU内存上的数据复制到GPU内存，GPU各个计算单元中的线程束向GPU内存提交访问事务获取数据并进行计算，计算完毕后将结果从GPU内存回传到CPU内存中。

其中，在现有CPU与GPU的数据传输过程中，数据在CPU和GPU的存储方式是不变的，即数据在GPU中的存储结构和在CPU中的存储结构是相同的，都是以类数据的形式进行传输和存储。但是由于CPU和GPU对于内存数据的存取方式的不同，现有数据传输存储方式不利于GPU读取数据，同时还会使GPU内存带宽受到了很大限制，对GPU缓存也造成了大量的浪费。

发明内容

基于以上技术问题，本申请提供了一种CPU与GPU间的数据传输方法及计算机设备，解决了现有CPU与GPU的数据传输过程中，由于传输后的数据存储方式不变，导致GPU存在读取数据效率低的问题。

为解决以上技术问题，本申请采用的技术方案如下：

一种CPU与GPU间的数据传输方法，包括：

获取CPU需要传输的第一数据集合，第一数据集合包括若干具有同一类名的类数据；

对第一数据集合中的类数据进行属性合并，获得第二数据集合；

基于第二数据集合中的属性值排列顺序，依次建立第一数据集合中对应属性值在CPU中内存地址与GPU内存地址的地址映射关系；

基于地址映射关系，将第一数据集合传输至GPU进行存储。

进一步的，对第一数据集合中的类数据进行属性合并，获得第二数据集合包括：

获取类数据的属性列表，属性列表包括类数据具有的若干属性名称；

依次提取属性列表中的属性名称，并基于属性名称，依次提取第一数据集合中相应属性名称的属性值；

将提取出的属性值按序排列，获得第二数据集合。

进一步的，GPU按照第二数据集合中的属性值排列顺序，将第一数据集合中的属性值依序存储在GPU内存的存储空间中。

进一步的，在基于第二数据集合中的属性值排列顺序，依次建立第一数据集合中对应属性值在CPU中内存地址与GPU内存地址的地址映射关系之前，还包括：