[发明专利]光学处理系统

说明书

一种光学处理系统包括至少一个空间光调制器SLM，其被配置为同时显示第一输入数据模式(a)和至少一个数据聚焦模式，所述至少一个数据聚焦模式是第二输入数据模式(b)的傅立叶域表示(B)，所述光学处理系统还包括检测器，用于检测已经被所述输入数据模式和聚焦数据模式连续光学处理的光，从而产生第一和第二输入数据模式的光学卷积，所述光学卷积用于使用在神经网络中。

技术领域

本发明总体上涉及机器学习卷积神经网络。特别地，本发明涉及使用基于光学相关性的处理系统来加速卷积神经网络。

背景技术

卷积神经网络(CNN或ConvNet)是众所周知的，已经成为图像分析中杰出的机器学习技术。它们是深度前馈型人工神经网络，实现了图像识别和分类的最先进性能。ConvNet的生命期通常分为训练和推理。但是，训练大型卷积网络非常耗时——即使使用最先进的图形处理单元(GPU)，也可能需要数周的时间。在训练和推理阶段，某些更复杂的ConvNet可能需要更长的时间来运行。

在ConvNet中，卷积层代表着计算负荷中非常显著的部分——通常为多数部分。此外，增加卷积的分辨率(resolution)(增加输入大小或内核大小)会带来更大的计算负担。这驱使网络配置避免构建大量高分辨率的卷积层，或者促使网络配置修改卷积层以减少计算负担。

已经尝试了使用例如在GPU或FPGA架构上实现的各种算法，以数字方式加速ConvNet的训练和推理。但是，非常需要进一步的加速。

本发明的实施例试图针对该问题提供解决方案。

发明内容

在第一独立方面，提供了一种光学处理系统，其包括至少一个空间光调制器SLM，至少一个空间光调制器SLM被配置为同时显示第一输入数据模式(a)和作为第二输入数据模式(b)的傅立叶域表示(B)的至少一个数据聚焦模式，光学处理系统还包括检测器，用于检测已被所述输入数据模式和聚焦数据模式连续光学处理过的光，从而产生第一和第二输入数据模式的光学卷积，光学卷积在神经网络中使用。

光学处理系统包括4f光学相关器，其中输入数据模式(A)在相关器的输入平面中，并且数据聚焦模式在傅立叶平面中。数据聚焦模式可以包括卷积核或滤波器。SLM对入射光具有动态调制效果。如PCT/GB2013/051778中所述，SLM可以是例如平行层，或者它们可以在同一平面中。在这样的4f光学相关器中，来自光学输入的光入射到所述显示的模式上并被连续地光学处理，从而在光被检测器捕获之前，每个输入数据模式和聚焦模式形成连续的光路。

数据聚焦模式被选择为第二输入数据模式(b)的傅立叶域表示(B)。也就是说，从第二输入数据模式计算出滤波器，以产生ConvNet所需的卷积。例如，可以以数字方式计算数据聚焦模式。

神经网络可以是卷积神经网络(ConvNet)，其中光学卷积适于神经网络的卷积层。通常，第二输入数据模式称为“核”，第一输入数据模式与该核进行卷积。

重要的是，与已知的数字实现方式相比，光学相关器是一种更适合评估(2D)卷积的平台。光学方法提供了比此类方法改进的性能。

在一些实施例中，第一输入数据模式(a)包括多个(N个)分块输入数据模式——或“特征图”——多个图块输入数据模式中的每一个对应于被处理的一“批”图像中的成员，并且其中对于多个图块输入数据模式中的每一个并行地产生多个卷积。在一些实施例中，第二输入数据模式包括多个(M个)分块核数据模式，多个分块核数据模式中的每一个对应于一组滤波核(b)中的不同成员，并且其中对于由所述分块输入数据模式和分块核数据模式形成的每对(N×M)并行地产生多个卷积。