[发明专利]一种具有局部实时可重构流水级的运算装置

说明书

本申请提供了一种具有局部实时可重构流水级的运算装置，涉及芯片技术领域，本申请的具有局部实时可重构流水级的运算装置，通过控制单元解析运算指令得到计算指令，并确定计算指令间的逻辑关系，由运算单元内部的运算路由单元根据逻辑关系构建运算流水级，实现适用于深度学习的局部实时运算流水级重构，再由运算单元根据构建的运算流水级对运算数据进行运算。通过本申请的技术方案，提高了深度学习中数学运算的运算速度，降低了运算系统的访存消耗和时延开销，减小了运算系统对于硬件性能的需求，有利于降低运算系统的制造成本。

技术领域

本申请涉及芯片技术领域，具体而言，涉及一种具有局部实时可重构流水级的运算装置。

背景技术

人工智能处理器中，为了提高运算效率，采用流水级的方式进行运算，每一级对应于一种运算方式，如加法运算、乘法运算以及非线性运算。而现有技术中，这种流水级的运算方式是不可重构的，也就是说流水级之间的运算顺序是固定的。对于逻辑关系复杂的运算公式，需要多条计算指令，如在计算(x+y)²时，需要两条计算指令，一条计算x+y，另一条计算x+y和值的平方。运算时每执行一条计算指令都需要访问运算系统内存，导致运算系统访存消耗、时延开销以及运算系统对于硬件性能的需求都比较高，使得运算系统的制造成本较高，不利于人工智能的普及。

发明内容

本申请旨在至少解决现有技术中或相关技术中存在的技术问题之一。

针对上述问题，本申请提出了一种运算装置，有利于减少深度学习中运算指令的数量，降低了运算系统的访存消耗和时延开销，减小了运算系统对于硬件性能的需求。

为了实现上述目的，本发明的第一方面技术方案提供了一种运算装置，包括：运算路由单元和运算模块；运算路由单元用于根据运算指令，构建运算流水级；运算模块用于根据运算指令、运算流水级和预设运算逻辑，计算运算数据。

在上述任一项技术方案中，进一步地，还包括：控制单元；控制单元用于解析运算指令，获取运算指令中的计算指令，并确定计算指令之间的逻辑关系；运算路由单元还用于根据逻辑关系，构建运算流水级。

在上述任一项技术方案中，进一步地，控制单元包括：逻辑关系处理单元；逻辑关系处理单元用于根据运算数据的存储地址，判断基于运算数据的计算指令之间是否存在逻辑关系。

在上述任一项技术方案中，进一步地，控制单元包括：指令缓存单元、指令处理单元和存储队列单元；指令处理单元用于根据运算指令，获取计算指令；指令缓存单元用于存储运算指令；存储队列单元用于当判定计算指令之间存在逻辑关系时，存储运算指令；逻辑关系处理单元还用于根据逻辑关系，调取存储队列单元中的相关计算指令，其中，相关运算指令为存在逻辑关系的计算指令。

在上述任一项技术方案中，进一步地，运算路由单元为交叉开关矩阵。

在上述任一项技术方案中，进一步地，还包括：存储单元；存储单元设置于运算装置的内部，存储单元用于存储运算指令和运算数据。

在上述任一项技术方案中，进一步地，还包括：直接内存访问单元；直接内存访问单元设置于存储单元和运算单元之间，直接内存访问单元用于发送运算数据至运算单元。

在上述任一项技术方案中，进一步地，存储单元具体包括：数据I/O接口，缓存单元以及寄存器；数据I/O接口设置于存储单元的输入端，数据I/O接口用于接收运算指令和运算数据；缓存单元的输入端连接于数据I/O接口的第一输出端，缓存单元的输出端连接于存储单元的第一输出端，缓存单元用于存储运算指令；寄存器的输入端连接于数据I/O接口的第二输出端，寄存器的输出端连接于存储单元的第二输出端，寄存器用于存储运算数据。

在上述任一项技术方案中，进一步地，数据I/O接口可以为I/O引脚。

本发明的第二方面技术方案提供了一种运算服务器，包括本发明第一方面技术方案中的运算装置。