[发明专利]一种神经网络运算的加速方法、终端和存储介质

说明书

一种神经网络运算的加速方法、终端和存储介质，使用减法算子、ReLU算子和乘法算子等神经网络中的常用算子来实现AON神经网络中不常用的Equal算子和Select算子执行的操作，在实现等价运算的同时，避免了资源的闲置和浪费，具有速度快，能耗少的优点。

技术领域

本公开涉及但不限于人工智能(Artificial Intelligence，简称AI)技术，更具体地，涉及一种神经网络运算的加速方法、终端和存储介质。

背景技术

图1所示是传统的在线模式(Always-On，简称AON)神经网络的拓扑，如图所示，该AON神经网络包括Logistic算子11(文中也称为逻辑斯蒂算子)、MaxPool2D算子13(即最大池化算子)、Equal算子15(文中也称为比较算子)和Select算子17(文中也称为选择算子)。Logistic算子11用于实现Logistic函数(即Sigmoid函数)，Logistic函数是一种S型函数，常被用作神经网络的激活函数，将变量映射到0,1之间。MaxPool2D算子13执行的操作是将输入的图像划分为若干个矩形区域，对每个子域输出最大值。Equal算子15执行的操作是对输入的两个元素序列中相同位置的元素进行逐元素比较，如果相同，返回1，如果不同，返回0。Select算子17执行的操作是将输入的一个元素序列中与输入的另一个元素序列中元素1的位置相同的元素输出。

图2示出了图1的AON神经网络一个示例性运算的示意图，图中在各个算子上示出了该算子执行相应操作后输出的结果。Logistic算子11输出的结果送入MaxPool2D算子13执行最大池化操作。Logistic算子11和MaxPool2D算子13输出的结果均送入Equal算子。如果Logistic算子11输出的元素序列中某一位置的元素x和MaxPool2D算子13输出的元素序列中相同位置的元素y相等，Equal算子15输出的元素序列中该位置的元素为1，否则该位置的元素为0。Logistic算子11和Equal算子15输出的结果均送入Select算子17，当Equal算子15输出的元素序列中某一位置的元素为1时，Select算子17就会将Logistic算子11输出的元素序列中相同位置的元素输出，否则不输出该位置的元素。其目的是筛选出Logistic算子11输出的结果中某一区域内的最大值。

上述传统的AON神经网络的拓扑和算子，在性能上还有待提高。

发明内容

以下是对本文详细描述的主题的概述。本概述并非是为了限制权利要求的保护范围。

本公开实施例提供了一种神经网络运算的加速方法，应用于神经网络加速器，所述神经网络加速器支持logistics算子、最大池化算子、减法算子、ReLU算子和乘法算子，所述方法包括：

通过所述logistics算子处理输入元素序列，生成第一结果元素序列R_a；通过所述最大池化算子处理所述第一结果，生成第二结果元素序列R_b；

通过所述减法算子逐元素地执行1-(R_b-R_a)操作，输出第三结果元素序列；

通过所述ReLU算子对所述第三结果元素序列逐元素地执行ReLU操作，输出第四结果元素序列；以及

通过所述乘法算子对所述第一结果元素序列和第四结果元素序列执行逐元素相乘操作，输出第五结果元素序列。

本公开实施例还提供了一种神经网络运算的加速方法，应用于神经网络加速器，所述神经网络加速器支持logistics算子、最大池化算子、量化算子、加法算子、ReLU算子、乘法算子，所述方法包括：

通过所述logistics算子处理输入元素序列，生成第一结果元素序列Ra；通过所述最大池化算子处理所述第一结果，生成第二结果元素序列Rb；