[发明专利]内存分配方法、系统、装置和计算机可读介质

说明书

提供内存分配方法、系统、装置和计算机可读介质。方法包括如下步骤：响应于多个线程的各自的内存分配请求，将所述多个线程分组为多个线程束，其中，所述线程的内存分配请求包括所述线程的请求的内存量；计算多个线程束中的相应线程束中的各个线程的请求的内存量的总和，作为所述相应线程束的请求的内存量；选择所述相应线程束中的一个线程来请求分配所述相应线程束的内存空间，所述相应线程束的内存空间的量是所述相应线程束的请求的内存量；为所述相应线程束分配内存空间；根据所述相应线程束中的各个线程的请求的内存量，将被分配的所述相应线程束的内存空间划分给各个线程。

技术领域

本申请涉及处理器领域，且更具体地涉及内存分配方法、系统、装置和计算机可读介质。

背景技术

现代处理器架构利用各种执行模型，例如（Single Instruction Multiple Data，SIMD）和单指令多线程（Single Instruction Multiple Threads，SIMT）。在图形处理单元（Graphic Processing Unit，GPU）中，为了有效地管理和执行多个单线程，多处理器通常采用单指令多线程SIMT架构。

在单指令多线程SIMT中，多个线程对不同的数据集执行相同的指令。每当图形处理单元GPU需要执行特定指令时，都会从内存中获取数据和指令，然后对其进行解码和执行。在这种情况下，需要使用同一条指令执行的所有数据集（达到一定限制）将使用处理器可用的各种线程同时预取并同时执行。相比于单指令多数据流SIMD，单指令多线程SIMT的好处是无需开发者费力把数据凑成合适的矢量长度，并且单指令多线程SIMT允许每个线程有不同的分支，且减少了指令预取带来的等待时间。

在线程执行的过程中，线程会请求处理器内核分配内存。当前，在处理器内核中存在许多不同的内存分配机制。例如每个线程采用malloc()函数来进行内存请求和分配，其参数包括请求分配的内存大小。但已有的内存分配方法仍然不够高性能和高速，存在改进的需求。

仍需要高性能、高速的内存分配机制。

发明内容

为解决现有技术中存在的一个或多个问题，提供本申请的各个方面。

根据本申请的一个方面，提供一种内存分配方法，包括如下步骤：响应于多个线程的各自的内存分配请求，将所述多个线程分组为多个线程束，其中，所述线程的内存分配请求包括所述线程的请求的内存量；计算多个线程束中的相应线程束中的各个线程的请求的内存量的总和，作为所述相应线程束的请求的内存量；选择所述相应线程束中的一个线程来请求分配所述相应线程束的内存空间，所述相应线程束的内存空间的量是所述相应线程束的请求的内存量；为所述相应线程束分配内存空间；根据所述相应线程束中的各个线程的请求的内存量，将被分配的所述相应线程束的内存空间划分给各个线程。

根据本申请的另一个方面，提供一种内存分配系统，包括如下装置：线程束分组装置，被配置为响应于多个线程的各自的内存分配请求，将所述多个线程分组为多个线程束，其中，所述线程的内存分配请求包括所述线程的请求的内存量；线程束请求装置，被配置为计算多个线程束中的相应线程束中的各个线程的请求的内存量的总和，作为所述相应线程束的请求的内存量，并选择所述相应线程束中的一个线程来请求分配所述相应线程束的内存空间，所述相应线程束的内存空间的量是所述相应线程束的请求的内存量；内存分配装置，被配置为为所述相应线程束分配内存空间；线程束内存划分装置，被配置为根据所述相应线程束中的各个线程的请求的内存量，将被分配的所述相应线程束的内存空间划分给各个线程。

根据本申请的另一个方面，提供一种内存分配装置，包括：处理器；存储器，存储了计算器可执行指令，其被处理器运行时进行根据本申请的实施例的各个方法。

根据本申请的另一个方面，提供一种计算机可读介质，存储有计算机可读指令，其中当所述计算机可读指令由处理器运行时，进行根据本申请的实施例的各个方法。