[发明专利]用于在多个处理节点之间分布人工神经网络的网关

权利要求书

1.一种系统，其包括：

至少一个处理装置；以及

至少一个存储器，其包含指令，所述指令经配置以指示所述至少一个处理装置：

接收关于所监测处理装置中的每一个的相应操作状态的数据，其中所述所监测处理装置对人工神经网络ANN中的神经元执行处理，并且其中所述所监测处理装置包含对所述ANN的第一神经元执行处理的第一处理装置；

基于所接收数据确定所述ANN中的所述神经元的新分布，其中所述新分布指示第二处理装置将对所述第一神经元执行处理；并且

响应于确定所述新分布，将通信发送到所述第二处理装置以将对所述第一神经元的处理从所述第一处理装置转移到所述第二处理装置。

2.根据权利要求1所述的系统，其中所述ANN用于处理从至少一个感测装置接收到的数据。

3.根据权利要求2所述的系统，其中所述新分布对应于所述至少一个感测装置的操作环境的变化。

4.根据权利要求2所述的系统，其中车辆包含所述至少一个感测装置和所述第二处理装置，并且其中所述第二处理装置控制所述车辆的至少一个功能。

5.根据权利要求1所述的系统，其中：

所述ANN是第一ANN；

所述所接收数据被输入到第二ANN；

所述第二ANN的处理由所述至少一个处理装置执行；并且

所述确定所述新分布包括基于来自所述第二ANN的输出预测所述新分布。

6.根据权利要求1所述的系统，其中所发送通信包括所述第一神经元的神经元连接或神经元权重中的至少一个。

7.根据权利要求1所述的系统，其中所述指令进一步经配置以指示所述至少一个处理装置将关于对所述第一神经元的处理从所述第一处理装置转移到所述第二处理装置的通信发送到所述第一处理装置。

8.根据权利要求1所述的系统，其中所述指令进一步经配置以指示所述至少一个处理装置：

添加新处理装置以对所述ANN执行处理；并且

响应于确定所述新分布，将通信发送到所述新处理装置以将对所述ANN的第二神经元的处理转移到所述新处理装置。

9.根据权利要求1所述的系统，其中至少一个数据源提供用作到所述ANN的输入的数据，并且其中所述新分布是基于所述所监测处理装置与所述至少一个数据源的接近度而确定的。

10.根据权利要求1所述的系统，其中所述至少一个处理装置包括神经网络加速器、现场可编程门阵列FPGA、中央处理单元CPU或图形处理单元GPU中的至少一个。

11.一种方法，其包括：

由第一处理装置监测对人工神经网络ANN中的神经元执行处理的处理装置，其中所监测处理装置包含对所述ANN的第一神经元执行处理的第二处理装置；

接收关于所述所监测处理装置中的每一个的相应操作状态的数据；

基于所接收数据确定所述ANN中的所述神经元的新分布，其中所述新分布指示第三处理装置将对所述第一神经元执行处理；以及

基于所述新分布，将对所述第一神经元的处理从所述第二处理装置转移到所述第三处理装置。

12.根据权利要求11所述的方法，其中所述新分布包括所述第一神经元的神经元连接或神经元权重中的至少一个。

13.根据权利要求12所述的方法，其中所述转移处理包括：

更新配置文件以包含神经元连接或神经元权重中的所述至少一个；以及

将经更新配置文件发送到所述第一处理装置和所述第二处理装置。