[发明专利]一种适用于边缘AI计算的指令数据结构及其设计方法

说明书

本发明公开了一种适用于边缘AI计算的指令数据结构及其设计方法，属于智能计算技术领域。本发明的适用于边缘AI计算的指令数据结构，指令与数据进行融合，指令与数据的融合格式包括指令标志字段、指令编码、数据标志字段、数据载荷和指令完成标识。该发明的适用于边缘AI计算的指令数据结构设计合理，并且能够降低数据宽度需求，从而达到提升系统能耗的目的，具有很好的推广应用价值。

技术领域

本发明涉及智能计算技术领域，具体提供一种适用于边缘AI计算的指令数据结构及其设计方法。

背景技术

卷积神经网络算法是在人工智能领域中应用最为广泛的算法，广泛应用于安防、自动驾驶、计算机视觉等领域。CNN本质上是一个多层感知机，其成功的原因关键在于它所采用的局部连接和共享权值的方式，一方面减少了的权值的数量使得网络易于优化，另一方面降低了过拟合的风险。CNN是神经网络中的一种，它的权值共享网络结构使之更类似于生物神经网络，降低了网络模型的复杂度，减少了权值的数量。该优点在网络的输入是多维图像时表现的更为明显，使图像可以直接作为网络的输入，避免了传统识别算法中复杂的特征提取和数据重建过程。

各类应用所需智能算法对计算平台的运算能力要求越来越高。以图像类算法为例，性能较好的模型权重参数规模在65M以上，模型的单次前向推理操作数超过了10G Ops，诸如VGG-19模型，操作数已经达到40G Ops。经过计算，单处理器的理想性能应该满足4-8TOPS。因此，如何提高神经网络的数据传输效率和计算效率，成为AI领域的关键问题。

发明内容

本发明的技术任务是针对上述存在的问题，提供一种设计合理，并且能够降低数据宽度需求，从而达到提升系统能耗的目的的适用于边缘AI计算的指令数据结构。

本发明进一步的技术任务是提供一种适用于边缘AI计算的指令数据结构的设计方法。

为实现上述目的，本发明提供了如下技术方案：

一种适用于边缘AI计算的指令数据结构，指令与数据进行融合，指令与数据的融合格式包括指令标志字段、指令编码、数据标志字段、数据载荷和指令完成标识。

作为优选，所述指令标志字段和数据标志字段为固定长度的字段，长度均为2字节。

作为优选，所述指令编码包括指令类标识、指令参数、保留或对齐位，其中指令参数最多包含4个参数，保留或对齐位将指令编码进行128bit对齐。

作为优选，所述数据荷载包括数据类标识、待计算数据和数据载荷校验。

作为优选，所述指令完成标识包括起始位、指令或数据校验和完成标志。

一种适用于边缘AI计算的指令数据结构的设计方法，该方法将指令与数据融合一体，使得指令的载入与数据的载入通过相同的通路，其中，指令与数据进行融合，指令与数据的融合格式包括指令标志字段、指令编码、数据标志字段、数据载荷和指令完成标识。

作为优选，所述指令标志字段和数据标志字段为固定长度的字段，长度均为2字节，指令编码包括指令类标识、指令参数、保留或对齐位，其中指令参数最多包含4个参数，保留或对齐位将指令编码进行128bit对齐。

作为优选，所述数据荷载包括数据类标识、待计算数据和数据载荷校验；指令完成标识包括起始位、指令或数据校验和完成标志。

与现有技术相比，本发明的适用于边缘AI计算的指令数据结构具有以下突出的有益效果：所述适用于边缘AI计算的指令数据结构将指令与数据采用合理的格式融合一体，使得指令的载入与数据的载入通过相同的通路，降低数据带宽需求，从而达到提升系统能耗的目的，具有良好的推广应用价值。

附图说明

图1是本发明所述适用于边缘AI计算的指令数据结构的指令数据结构示意图；