[发明专利]神经网络系统中的数据传输技术及神经网络系统

说明书

一种神经网络系统中的数据传输技术及神经网络系统。该神经网络系统包括第一计算节点以及连接所述第一计算节点的第一传输节点。在接收到所述神经网络系统中的第二传输节点发送的第一数据包后，所述第一传输节点解析所述第一数据包以获得所述第一数据包中的第一位置信息以及第一子数据块。所述第一传输节点根据所述第一位置信息将所述第一子数据块以及所述第一传输节点中缓存的其他子数据块汇聚成第一数据块后，将所述第一数据块发送给所述第一计算节点。从而第一计算节点基于配置的权重值对所述第一数据块进行神经网络计算。

技术领域

本申请涉及计算机技术领域，尤其涉及一种神经网络系统中的传输技术及神经网络系统。

背景技术

深度学习(deep learning，DL)是人工智能一个重要分支，深度学习是为了模仿人脑构造的一种神经网络，可以达到比传统的浅层学习方式更好的识别效果。近年来，深度神经网络在图像识别，语音识别等领域取得了广泛的成功。由于神经网络处理的数据量很大，因此如何提高神经网络的处理速度成为神经网络的重要方向。

基于流处理的神经网络中，一个节点处理完数据后，就将处理结果发送给其他节点进行处理。这种流水线式的处理方式能够使得多个节点并发处理同一条数据流，提高处理效率。在流处理过程中，数据需要在多个节点间传输。数据传输通常包括单播和多播两种方式。单播传输是指将数据包传递给单一目的地址。多播传输是指将数据包同时传输给多个目的地址。具体的，在以多播的形式将数据包传输给多个目的地址时，数据包在链路上只传递一次，只有在链路分叉时，数据包才会被复制分别传输给不同的节点，因此，多播传输的方式，减少了网络中重复的数据包的数量，提升了传输效率。然而，由于在神经网络系统中，数据传输量及计算量都比较大，因此如何减少神经网络系统中计算节点的负担，有效提高芯片接口的传输效率，成为急需解决的一个问题。

发明内容

本申请提供的一种神经网络系统中的数据传输技术及神经网络系统，能够减轻神经网络设备中计算节点的负担，有效提高神经网络芯片接口的传输效率。

第一方面，本发明实施例提供了一种神经网络系统。该设备至少包括第一计算节点以及连接所述第一计算节点的第一传输节点。在接收到第二传输节点发送的第一数据包后，所述第一传输节点解析所述第一数据包以获得所述第一数据包中的第一位置信息以及第一子数据块，并且，所述第一传输节点根据所述第一位置信息将所述第一子数据块以及所述第一传输节点中缓存的其他子数据块组成第一数据块，并将所述第一数据块发送给所述第一计算节点。所述第一计算节点基于配置的权重值对所述第一数据块进行神经网络计算。

本发明实施例所述的神经网络系统中，传输节点能够对数据包进行解析，并将数据包中的子数据块与已缓存的其他子数据块进行汇聚后，再将汇聚后的数据块发送给计算节点(如tile或芯片)进行处理。根据本发明实施例提供的神经网络系统，不需要计算节点对接收的数据包进行解析和汇聚，从而能够在计算量和传输量非常大的神经网络系统中，减轻了计算节点的处理负担，提高神经网络系统中数据处理速度。

结合第一方面，在第一种可能的实现方式中，所述第一数据包还包括第一索引信息，所述第一传输节点还用于根据所述第一索引信息以及设置的第二级路由表获得所述第一数据包的路由信息。从而，所述第一传输节点可以根据所述第一数据包的路由信息将所述第一数据块发送给所述第一计算节点。