[发明专利]一种基于正负分离的实数域光学神经网络的模式识别方法

说明书

本发明属于人工智能技术领域，具体的说是涉及一种基于正负分离的实数域光学神经网络的模式识别方法。本发明提供了一种基于正负分离的实数域光学神经网络的模式识别方法，可以还原光电转换时丢失的输出正负信息，从而实现实数域矩阵向量乘法计算，同时本发明还提出了对应光学神经网络的硬件实现方式。本发明的有益效果是：(1)采用正负分离方法，还原在光电转换阶段丢失的光学神经网络输出信号的正负信息，实现实数域权重矩阵的光学神经网络。(2)提供了光学神经网络中ReLU\Leaky ReLUs激活函数的实现方法。

技术领域

本发明属于人工智能技术领域，具体的说是涉及一种基于正负分离的实数域光学神经网络的模式识别方法。

背景技术

人工智能、神经网络需要大量计算资源，需要硬件加速器，在电学领域ASIC和GPU等已被广泛应用，但是集成电路工艺遇到瓶颈。光学有高并行、低功耗、高速等特性，是未来发展趋势。

神经网络由矩阵向量乘法计算与非线性计算两个部分组成，光计算由于人工智能和神经网络的发展，国际上已经有部分研究机构和公司已经开始研究光学的方法实现神经网络。例如，加州大学的科学家在Science上发表了论文【X,Lin et al.,Science.361,6406,1004-1008(2018)】，采用3D打印技术制造衍射光学元件堆叠层，利用层间衍射的方法实现矩阵向量乘法，设备体积大，不可重配置。麻省理工学院的科学家在Nature上发表了论文【Shen,Y et al.,Nature Photonics.11,441–446(2017)】，构建了56个MZI级联网络，利用光的干涉特性实现并行光计算。但现有光学神经网络多仅利用光电探测器进行信号的功率探测，只能实现非负计算。同时，相位探测硬件复杂，实现困难。

另外，非线性激活是神经网络必不可少的部分，因为缺少非线性激活的深度神经网络实际上可以等效为单层神经网络。Sigmoid、Tanh和ReLU等函数是神经网络中最常用的非线性激活函数。目前在光神经网络应用中非线性激活方法有通过光电探测器光电转换后在传统硅电数字处理电路中进行非线性计算。已有研究【Shen,Y et al.,NaturePhotonics.11,441–446(2017)】采用非线性光学材料，例如非饱和吸收材料，但是不可重构的。另外，斯坦福大学的科学家提出【Williamson,I et al.,IEEE Journal of SelectedTopics in Quantum Electronics.26,1-12(2020)】利用一小部分输入光信号转换为模拟电信号的电光硬件平台，使得光学神经网络的非线性激活函数可以通过调整电偏置进行重新配置，但是缺少相位探测而只能实现奇函数的非线性激活，无法进行例如ReLU、ELUs等常用激活函数操作。

发明内容

针对上述问题，本发明提出了一种改进的基于马赫-曾德尔干涉仪(Mach–Zehnderinterferometer，MZI)的光学神经网络——正负分离的光学神经网络的模式识别方法，是一种可以实现实数域权重和ReLU\Leaky ReLUs的光学神经网络模式识别方法。

本发明的技术方案是：

一种基于正负分离的实数域光学神经网络的模式识别方法，包括以下步骤：

S1、样本共有N种模式P＝{p₁,p₂,..,p_N}，每个样本具有M个参数X＝{x₁,x₂,...,x_M}，选取K个样本作为训练集{s₁,s₂,...,s_K}，假设样本s_i属于p_j模式，定义样本S_i的标签为T＝{t₁,t₂,..,t_N}，其中t_n|_n＝j＝1，t_n|_n≠j＝0；