[发明专利]用于在多个处理节点之间分布人工神经网络的网关

说明书

涉及用于在多个处理节点之间分布人工神经网络的网关的方法、系统和设备。在一种方法中，服务器用作智能人工智能AI网关。所述服务器接收关于所监测处理装置中的每一个的相应操作状态的数据。所述所监测处理装置对人工神经网络ANN执行处理。所述所监测处理装置各自对所述ANN中的神经元的一部分执行处理。所述部分是响应于监测每个处理装置上的处理负载而分布的(例如，以更好地在所有所述处理装置之间利用处理能力)。

技术领域

本文中所公开的至少一些实施例大体上涉及神经网络处理装置，且更具体地但不限于在多个处理节点之间分布人工神经网络。

背景技术

自主驾驶技术领域的最近发展允许计算系统至少在一些状况下操作机动车辆的控制元件而无需车辆的操作人员的辅助。

例如，传感器(例如，相机和雷达)可以安装在机动车辆上以检测在车道上行驶的车辆的周围环境的状况。在具有或不具有来自车辆的操作人员的任何输入的情况下，安装在车辆上的计算系统分析传感器输入以标识状况并生成用于车辆的方向和/或速度的自主调整的控制信号或命令。

在一些布置中，当计算系统识别出其中计算系统可能无法继续以安全方式操作车辆的情境时，计算系统向车辆的操作人员发出警报并且请求操作人员接管对车辆的控制并进行手动驾驶，而不是让计算系统自主驾驶车辆。

自主驾驶和/或高级驾驶辅助系统(ADAS)可以使用用于标识在传感器输入中捕获的事件和/或对象的人工神经网络(ANN)。传感器输入的实例包含来自数码相机、光达、雷达、超声声纳等的图像。

一般来说，人工神经网络(ANN)使用神经元网络来处理到所述网络的输入，并且生成来自所述网络的输出。例如，网络中的每个神经元接收一组输入。到神经元的一些输入可以是网络中的某些神经元的输出；并且到神经元的一些输入可以是提供到神经网络的输入。所述网络中的神经元之间的输入/输出关系表示所述网络中的神经元连接性。

例如，每个神经元可以分别针对其输入具有偏置、激活函数和一组突触权重。激活函数可以呈阶跃函数、线性函数、对数S型(log-sigmoid)函数等形式。网络中的不同神经元可以具有不同激活函数。一般来说，ANN的输入与输出之间的关系是由ANN模型定义的，所述ANN模型包含表示所述网络中的神经元的连接性的数据，以及每个神经元的偏置、激活函数和突触权重。

例如，可以基于相机输入生成到ANN网络的输入；并且来自ANN网络的输出可以是对事件或对象等项目的标识。

发明内容

本公开的方面提供一种系统，其包括：至少一个处理装置；以及至少一个存储器，其包含指令，所述指令经配置以指示所述至少一个处理装置：接收关于所监测处理装置中的每一个的相应操作状态的数据，其中所述所监测处理装置对人工神经网络(ANN)中的神经元执行处理，并且其中所述所监测处理装置包含对所述ANN的第一神经元执行处理的第一处理装置；基于所接收数据确定所述ANN中的所述神经元的新分布，其中所述新分布指示第二处理装置将对所述第一神经元执行处理；并且响应于确定所述新分布，将通信发送到所述第二处理装置以将对所述第一神经元的处理从所述第一处理装置转移到所述第二处理装置。

本发明的另一方面提供一种方法，其包括：由第一处理装置监测对人工神经网络(ANN)中的神经元执行处理的处理装置，其中所监测处理装置包含对所述ANN的第一神经元执行处理的第二处理装置；接收关于所述所监测处理装置中的每一个的相应操作状态的数据；基于所接收数据确定所述ANN中的所述神经元的新分布，其中所述新分布指示第三处理装置将对所述第一神经元执行处理；以及基于所述新分布，将对所述第一神经元的处理从所述第二处理装置转移到所述第三处理装置。