[发明专利]数据处理装置、人工智能芯片及电子设备

说明书

本申请实施例公开了数据处理装置、人工智能芯片及电子设备。数据处理装置的一具体实施方式包括：输入存储器，存储待处理数据；数据搬运部件，读取并解析外部处理指令以获取读数据地址、写数据地址以及操作命令，根据读数据地址读取待处理数据，根据操作命令对待处理数据进行处理，得到处理后的输出数据及写数据地址，并发出写数据请求；多路仲裁部件，响应于接收到至少一个数据搬运部件的写数据请求，从接收到的输出数据和写数据地址中选通其中一个数据搬运部件的输出数据及对应的写数据地址输出，并发送写使能信号；输出存储器，响应于接收到写使能信号，将从多路仲裁部件接收到的输出数据写入对应的写数据地址。该实施方式提升了数据处理效率。

技术领域

本申请实施例涉及计算机技术领域，具体涉及数据处理装置、人工智能芯片及电子设备。

背景技术

随着人工智能技术被应用在越来越多的领域，人工智能技术所处理的问题越来越复杂，其中涉及到的张量数据的计算的体量越来越大。目前人工智能技术中，采用通用处理器如CPU(Central Processing Unit，中央处理单元)、GPU(Graphic Processing Unit，图形处理单元)、DSP(Digital Signal Processing，数字信号处理)芯片，或基于ASIC(Application Specific Integrated Circuit，供专门应用的集成电路)、FPGA(Field-Programming Gate Array，现场可编程门阵列)等专用硬件设备来执行深度学习中的多维度张量的数据搬运和数据转置操作。

在基于通用处理器的数据处理中，数据访存通路较复杂，涉及外部存储器的访问和存储，访问带宽受到限制。基于ASIC、FPGA等专用硬件设备的数据处理方法，通常只定制地实现了特定维度的数据搬运和数据转置操作，灵活性有待提升。

发明内容

本申请实施例提出了数据处理装置、人工智能芯片及电子设备。

第一方面，本申请实施例提供了一种数据处理装置，包括：至少一个输入存储器，输入存储器存储待处理数据；至少一个数据搬运部件，数据搬运部件读取外部处理指令，解析处理指令以获取读数据地址、写数据地址以及操作命令，并根据读数据地址从输入存储器读取待处理数据，根据操作命令对待处理数据进行处理，得到多路处理后的输出数据及对应的写数据地址，并发出写数据请求；至少一个多路仲裁部件，多路仲裁部件响应于接收到至少一个数据搬运部件的写数据请求，接收数据搬运部件的输出数据及对应的写数据地址，从接收到的输出数据和写数据地址中选通其中一个数据搬运部件的输出数据及对应的写数据地址进行输出，并发送写使能信号；以及至少一个输出存储器，输出存储器响应于接收到多路仲裁部件发出的写使能信号，从多路仲裁部件接收输出数据及对应的写数据地址，并将接收到的输出数据写入对应的写数据地址。

在一些实施例中，数据搬运部件包括：前端译码部件，前端译码部件解析读取的处理指令，并执行如下解析操作：从处理指令中提取出读数据地址、写数据地址以及操作命令，向输入存储器发出读数据请求，将输入存储器响应于接收到读数据请求而发送的待处理数据缓存至数据队列中，将提取出的操作命令缓存至命令队列中；至少一个处理部件，每个处理部件根据命令队列的操作命令对数据队列中的待处理数据进行处理，得到一路输出数据。

在一些实施例中，前端译码部件执行的解析操作还包括：确定操作命令为数据搬运命令或数据转置命令，若操作命令是数据搬运命令，前端译码部件将输入存储器发送的待处理数据广播至各处理部件；若操作命令是数据转置命令，前端译码部件将输入存储器发送的待处理数据发送至对应的至少一个处理部件，其中，各处理部件预先配置了对应的读数据地址偏移。

在一些实施例中，前端译码部件在解析处理指令之后，判断读取的处理指令为单步执行指令或者批处理指令；若处理指令为单步执行指令，执行解析操作；若处理指令为批处理指令，重复执行预设数量次解析操作，在每次执行解析操作后按照预设的地址偏移步长调整读数据地址和写数据地址。