[发明专利]芯片在环代理训练方法及设备、芯片及电子设备

说明书

本发明公开了一种芯片在环代理训练方法及设备、芯片及电子设备。为解决部署SNN网络至芯片时存在的各种误差问题，本发明将芯片纳入SNN网络训练过程，消除了量化误差。本发明以芯片在环训练、训练设备中的ANN网络和芯片中的SNN网络共享网络配置数据为技术手段，解决了将SNN网络部署至芯片时存在的转换误差、量化误差等技术问题，获得了部署至芯片中的SNN网络也能获得高推理精度的技术效果。本发明适于类脑芯片、AIoT、脉冲神经网络训练领域。

技术领域

本发明涉及一种芯片在环代理训练方法及设备、芯片及电子设备，具体涉及一种将人工神经网络（ANN）作为代理（proxy）且芯片在环（chip in loop）的脉冲神经网络（SNN）训练方法及设备、芯片及电子设备。

背景技术

在后人工智能时代，如何低功耗地实现边缘智能是学术届、商业届普遍关注的重要课题，而仿生的脉冲神经网络（Spiking Neural Networks, SNN）则是最有希望的研究方向之一。如何高效地训练（也称学习）出高精度脉冲神经网络则又是该领域极其重要的研究内容。

目前现有技术中训练SNN的方法，主要包括以下几类：

1）ANN转SNN：即训练一个ANN（Artificial Neural Networks），然后将其转换为SNN。该训练过程忽视了SNN自身所有的时域特性。参考图1，但是该过程存在ANN转SNN的转换误差，以及部署SNN至芯片（神经形态芯片、类脑芯片）后，还存在量化误差。参考图2，ANN转SNN的基本理念是在使用ReLU函数的ANN网络中，连续的激活函数值可以由SNN中的频率编码下的平均脉冲发放率近似。

2）在SNN中直接应用反向传播。由于SNN中的脉冲神经元的激活是离散的、不可导的，这是直接应用反向传播最大的挑战，目前主要解决方案为代理梯度等，比如现有技术1。

3）延迟（latency）学习：定义神经元活动为其脉冲发放事件的函数，神经元最多触发一次，较强的输出对应较短的脉冲延迟。

4）串联（tandem）学习：由SNN和ANN通过权值共享分层耦合组成，在前向传递时，每一层ANN接收其输入作为前一层SNN的脉冲计数，因此，在后向传递时，每一层ANN根据这些输入脉冲计数计算其输出相对于共享权值的梯度。

现有技术1：CN114565079A；

现有技术2： Kheradpisheh S R, Mirsadeghi M, Masquelier T. Spikingneural networks trained via proxy[J]. arXiv preprint arXiv:2109.13208, 2021-Dec-5.

现有技术2则披露了一种新颖的代理学习/训练方案。不同于串联学习，代理训练中的前向过程两个网络之间相互无干扰地独立运行。参考图3，其展示了代理训练方案的示意图。图中y¹, y², …, y^L以及s¹, s², …, s^L分别是前向过程中卷积ANN（CANN）层和卷积SNN（CSNN）层中第1, 2, …, L层的输出，而两个相同结构的网络之间则共享权重，CANN的输出被CSNN的输出取代。换言之，通过权重共享的两个异构、等价的网络，对相同输入执行推理，但以SNN的推理输出计算网络损失，借助反向传播，以此网络损失来训练ANN网络，并更新共享权重。该方案看起来极为简单，但其获得的SNN网络精度十分优异。本发明在此以引用的方式，将现有技术2纳入本申请中。

申请人发现虽然现有技术2所训练出来的SNN网络精度优异，但是真正将所训练出来的SNN部署至芯片，由于前述量化误差的存在，芯片上仍难以获得等同精度表现。

鉴于此，申请人提出一种能消除量化误差的、高精度的芯片在环代理训练方法及设备、芯片及电子设备。

发明内容