[发明专利]权重数据传输的方法、众核系统、电子设备、介质

说明书

本公开提供一种权重数据传输的方法，其包括：响应于稀疏的当前神经元的发放，从片外存储器获取当前神经元的第一权重数据，使当前神经元的各后继神经元所在的目标处理核获取当前神经元与其中各后继神经元间的全部非零连接权重值；响应于非稀疏的当前神经元的发放，从处理核内获取当前神经元的第二权重数据，使当前神经元的各后继神经元所在的目标处理核获取当前神经元与其中各后继神经元间的全部非零连接权重值；稀疏的神经元为发放率低于预设标准的神经元，非稀疏的神经元为发放率高于或等于预设标准的神经元；神经元的权重数据至少包括该神经元与各后继神经元间的全部非零连接权重值。本公开还提供一种众核系统、电子设备、计算机可读介质。

技术领域

本公开涉及神经网络技术领域，特别涉及权重数据传输的方法、众核系统、电子设备、计算机可读介质。

背景技术

神经网络是一种模仿生物神经系统构建的模型，可处理多种任务，如图像识别、图像处理、语音识别等。神经网络中有大量神经元，不同神经元之间有大量连接，而每个连接有相应的连接权重值。

神经网络可通过具有多个处理核的众核系统实现，每个处理核中配置一些神经元。由于神经网络中连接权重值的数据量很大，故要占据众核系统中很大的存储空间(片上存储空间)。

发明内容

本公开提供一种权重数据传输的方法、众核系统、电子设备、计算机可读介质。

第一方面，本公开实施例提供一种权重数据传输的方法，用于众核系统，所述众核系统包括多个处理核，所述多个处理核中配置多个构成神经网络的神经元，所述方法包括：

响应于稀疏的当前神经元的发放，从片外存储器获取当前神经元的第一权重数据，使当前神经元的各后继神经元所在的目标处理核获取当前神经元与其中各后继神经元间的全部非零连接权重值；

响应于非稀疏的当前神经元的发放，从处理核内获取当前神经元的第二权重数据，使当前神经元的各后继神经元所在的目标处理核获取当前神经元与其中各后继神经元间的全部非零连接权重值；

其中，所述稀疏的神经元为发放率低于预设标准的神经元，非稀疏的神经元为发放率高于或等于预设标准的神经元；神经元的权重数据至少包括该神经元与各后继神经元间的全部非零连接权重值。

在一些实施例中，神经元的第一权重数据包括索引信息、权重信息、位置信息，所述索引信息表征该神经元与各后继神经元间的连接权重值是否为零，所述权重信息包括该神经元与各后继神经元间的全部非零连接权重值，所述位置信息表征该神经元的各后继神经元所在的后继处理核；

所述从片外存储器获取当前神经元的第一权重数据，使当前神经元的各后继神经元所在的目标处理核获取当前神经元与其中各后继神经元间的全部非零连接权重值包括：从片外存储器获取当前神经元的第一权重数据；根据所述第一权重数据，确定当前神经元的各后继神经元所在的目标处理核，以及当前神经元与各后继神经元间的全部非零连接权重值；将当前神经元与各后继神经元间的非零连接权重值，分别传输至相应后继神经元所在的目标处理核。

在一些实施例中，神经元的第一权重数据中，所述索引信息包括与该神经元的后继处理核一一对应的索引段；所述索引段表征该神经元与对应后继处理核中配置的各后继神经元间的连接权重值是否为零；所述权重信息包括与该神经元的后继处理核一一对应的权重段；所述权重段包括该神经元与对应后继处理核中配置的各后继神经元间的全部非零连接权重值；所述位置信息表征所述索引段、权重段与后继处理核的对应关系；

所述根据所述第一权重数据，确定当前神经元的各后继神经元所在的目标处理核，以及当前神经元与各后继神经元间的全部非零连接权重值包括：根据所述位置信息，确定索引段、权重段对应的后继处理核；

所述将当前神经元与各后继神经元间的非零连接权重值，分别传输至相应后继神经元所在的目标处理核包括：将每个所述后继处理核对应的索引段、权重段，传输至相应后继处理核。