[发明专利]深度学习处理器的监控方法和监控装置

说明书

本发明涉及一种深度学习处理器的监控方法和监控装置，能够有效的对深度学习处理器的运行进行监控，捕获任意工作状态下的异常状况，并使深度学习处理器及时的恢复正常状态。包括：初始化标准数据并存储该标准数据所对应的标准计算结果，向深度学习处理器发送所述标准数据，接收深度学习处理器返回的计算结果，将接收到的计算结果与所存储的标准计算结果进行比较，根据所述比较的结果来判断深度学习处理器的状态，当比较的结果一致时，判断所述深度学习处理器的状态正常，当比较的结果不一致时，判断所述深度学习处理器发生异常。

技术领域

本发明涉及人工神经网络技术领域，尤其是该领域中的深度学习处理器的监控方法和监控装置。

背景技术

伴随着半导体技术的发展，硬件的计算能力得到了迅速的增强，各种大数据的处理时间逐渐减少。在此基础上，人工神经网络技术也得到了进一步发展。尤其是深度学习这样以计算密集为特点的人工神经网络，逐渐的在计算机视觉、图像和视频识别、自然语言处理等领域得到大范围的应用。

与此同时，深度学习这类人工神经网络的规模在不断增长，目前公开的比较先进的神经网络的链接已经达到数亿个。由此，当前计算系统中采用的通用处理器(CPU)或者图形处理器(GPU)来实现人工神经网络的计算将面临着以下挑战：随着晶体管电路逐渐接近极限，摩尔定律将会走到尽头，性能的提升不再显著。单纯提升计算性能已经逐渐无法满足日益增长的人工神经网络的计算需求。而由此诞生的深度学习处理器成为一种可行的解决方案，并显现出极大的潜力。

深度学习处理器是针对于压缩后的人工神经网络的运算特点进行设计的一种专用计算设备，其作为一种外围计算设备接入到当前的计算系统中，压缩后的人工神经网络以初始化参数的形式配置到深度学习处理器中，这样，深度学习处理器就可以对输入的数据按照配置的神经网络进行计算，并快速高效的得到最终的计算结果。

深度学习处理器作为一种电路计算设备，自然需要保障其计算结果的准确无误。但由于电子系统中存在各种各样的干扰，除了在硬件设计上进行保障外，还需要通过良好的监控机制进一步增强其稳定性。但是，如前面所述的，深度学习处理器是针对于压缩后的人工神经网络的运算特点进行设计的专用计算设备，其处理的数据前后具有关联，无法利用以往的在数据中增加校验位的方法来检验深度学习处理器的计算结构是否准确。因此，在深度学习处理器运行时想要对其进行良好的监控存在困难。但是，如果不能对其进行良好的监控，则无法及时准确的发现深度学习处理器的异常，而导致整个计算系统的计算结果不准确。

发明内容

针对以上的问题，本申请的发明人设计了一种深度学习处理器的监控方法和监控装置，能够在深度学习处理器运行时对其进行良好的监控，从而保证其计算结果准确无误。

为了实现上述发明目的，本发明提供一种深度学习处理器的监控方法，其特征在于，包括以下步骤：初始化标准数据并存储该标准数据所对应的标准计算结果，向深度学习处理器发送所述标准数据，接收深度学习处理器返回的计算结果，将接收到的计算结果与所存储的标准计算结果进行比较，根据所述比较的结果来判断深度学习处理器的状态，当比较的结果一致时，判断所述深度学习处理器的状态正常，当比较的结果不一致时，判断所述深度学习处理器发生异常。

此外，优选深度学习处理器的监控方法还包括以下步骤：判断所述深度学习处理器的运行状态，根据所述深度学习处理器的运行状态来确定发送标准数据的方式。

此外，优选当判断所述深度学习处理器处于等待状态时，按照一定的时间间隔，向深度学习处理器周期性的发送所述标准数据，当判断所述深度学习处理器处于计算状态时，对计算任务进行分隔，在计算任务的间隔中向深度学习处理器发送所述标准数据。

此外，优选所述标准数据随机产生、或者针对特定的输入输出组织而生成，对应的标准计算结果由与配置在深度学习处理器上相同的神经网络计算而预先得到。