[发明专利]针对硬件加速器的软硬件交互方法、装置和存储介质

说明书

本发明提供一种针对时间序列加速器的软硬件交互方法、装置和存储介质，所述交互方法包括：主线程步骤，用于建立多个子线程，生成编译器调用指令，并生成相应队列；按所述多个子线程分别执行基于时间序列加速器的软硬件交互流程分解出的多个流水线的任务，所述多个流水线包括：第一流水线，发送数据至指定硬件；第二流水线，发送指令和结果相关信息给所述指定硬件；第三流水线，发送硬件计算指令；以及第四流水线，从指定硬件读取结果数据；其中，多个子线程以并行的方式执行所述四个流水线的任务。本发明实施例的方法，能够提高硬件资源的利用率。

技术领域

本发明涉及计算机系统领域，更具体而言，涉及一种针对时间序列加速器的软硬件高效交互方法、装置和存储介质。

背景技术

在大数据时代下，随着物联网、云计算和互联网等技术的发展，在各类应用场景下产生的大量数据，正在以惊人的规模持续增长和积累。而随着晶体管工艺的提升，量子隧穿效应将成为无法避免的限制，“摩尔定律“即将失效，人类社会也正在步入“后摩尔时代”。专用计算架构成为“后摩尔时代”的重要机遇所在。专用芯片作为协处理器迎来了“黄金”时代。专用芯片基本上都是采用类似于单指令多数据流(SIMD：Single InstructionMultiple Data)设计架构，如图形处理器(GPU：Graphics Processing Unit)，张量处理器(TPU：Tensor Processing Unit)等，这些专用芯片可用作时间序列加速器来加速数据处理。

数据传输效率是体现性能的关键。现阶段在使用这些专用芯片作为硬件加速器处理数据时，需要进行数据的搬运，经历数据的传输、计算、结果读回三个步骤，也就是说，在主机加速器的交互中，从主机端搬运数据到协处理器端(硬件加速器)，等待协处理器端对接收的数据计算完成，然后再从协处理器端读取计算完成的结果数据。此过程为一个串行的过程，导致数据传输效率受限，系统等待时间比较长，影响了任务处理的吞吐量，从而影响了硬件资源的利用率。

如何减少系统的等待时间和提高硬件资源利用率，是一个有待解决的问题。

发明内容

鉴于此，本发明实施例提供了一种针对加速器的软硬件交互方法、装置和存储介质，以消除或改善现有技术中存在的一个或更多个缺陷。

本发明的技术方案如下：

根据本发明的一方面，提供了一种针对时间序列加速器的软硬件交互方法、装置和存储介质，该方法包括以下步骤：

主线程步骤，用于建立多个子线程，生成编译器调用指令，并生成数据ID队列、指令和结果ID队列以及结果ID队列；

按所述多个子线程分别执行基于时间序列加速器的软硬件交互流程分解出的多个流水线的任务，所述多个流水线包括：第一流水线，发送数据至指定硬件；第二流水线，发送指令和结果相关信息给所述指定硬件；第三流水线，发送硬件计算指令；以及第四流水线，从指定硬件读取结果数据；

其中，执行所述第一流水线的子线程由编译器调用指令唤醒，按照所述数据ID队列进行数据向指定硬件的发送，并在发送完毕后唤醒下一子线程；

执行所述第二流水线的子线程基于所述指令和结果ID队列向所述指定硬件发送指令和结果相关信息；

执行所述第三流水线的子线程基于前一子线程的唤醒向指定硬件发送开启计算指令；

执行所述第四流水线的子线程基于前一子线程的唤醒来根据所述结果ID队列读取结果数据。

可选地，所述多个子线程包括第一子线程、第二子线程和第三子线程，其中，第一子线程用于执行第一流水线的任务，第二子线程用于执行所述第二流水线和第三流水线的任务，第三子线程用于执行第四流水线的任务。

可选地，所述主线程步骤还包括：在建立了多个子线程后初始化多个预建立的数据结构，所述多个数据结构用于保存所述软硬件交互流程中被访问的不同类别的数据。