[发明专利]一种非线性光学卷积神经网络的图像识别方法在审

专利信息
申请号: 202011456497.X 申请日: 2020-12-11
公开(公告)号: CN112699917A 公开(公告)日: 2021-04-23
发明(设计)人: 于明鑫;祝连庆;董明利;张东亮;庄炜;张旭;夏嘉斌 申请(专利权)人: 北京信息科技大学
主分类号: G06K9/62 分类号: G06K9/62;G06N3/04;G06N3/067;G06N3/08
代理公司: 北京律恒立业知识产权代理事务所(特殊普通合伙) 11416 代理人: 庞立岩;顾珊
地址: 100085 北京市海淀区清*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 非线性 光学 卷积 神经网络 图像 识别 方法
【说明书】:

发明涉及一种非线性光学卷积神经网络的图像识别方法。针对现有单层光学卷积神经网络对非线性数据特征提取能力不足和分类性能弱的缺点,设计出一种基于Swish激活函数的非线性光学卷积神经网络方法用于图像识别。首先,建立一层光学卷积神经网络模型,包括光学卷积核结构、数量、计算方法和光学特征图;然后,将生成的光学卷积特征图送入Swish激活单元,形成非线性映射;最后,建立多层非线性光学卷积神经网络模型,采用Adam算法对模型参数进行优化。本方法在MNIST手写数字图像数据集上进行实验,结果表明,相比于现有的单层光学卷积神经网络,本发明所提供的方法具有更强的非线性数据可分能力,分类精度高,且计算简便。

技术领域

本发明属于光学和深度学习领域,特别涉及一种非线性光学卷积神经网络的图像识别方法。

背景技术

卷积神经网络是深度学习最活跃的方法之一,已经在各种应用中取得了成功,如计算机视觉、语言处理、图像语义分析等。但是,由于卷积神经网络层数和连接数量不断的增多,导致计算成本也不断的加大,在应用方面受到了一定的限制。尽管深度卷积神经网络训练过程可以在服务器端完成,然后,将优化后的模型和参数部署至设备端完成推理工作,但是,模型在推理过程中仍需要大量的功耗和存储空间用于存储优化后的网络参数。因此,近几年,国内外很多公司、高校和研究机构采用硬件方式实现卷积神经网络结构,包括IMB的TureNorth芯片、Movidius的视觉处理单元(VPU)和谷歌张量处理单元(TPU)等。尽管这些方法提高了卷积神经网络的推理效率,但是,仍然消耗较多功耗和计算量。

光计算因其高带宽、高互联性和高并行处理能力,获得了国内外很多科研工作者的关注。其中,斯坦福大学常博士创新地提出利用光计算方式设计了单层光学卷积神经网络模型用于图像识别,为未来光子芯片研制提供理论支撑。该成果以论文的形式发表于Scientific Reports期刊。然而,目前的单层光学卷积神经网络模型中并没有实现非线性,难以对非线性数据进行建模。另外,由于该网络模型仅包含一层卷积层,其网络无法有效的提取足够多的数据特征,致使分类正确率降低。因此,鉴于现有技术中存在的缺陷,本发明采用Swish激活函数作为卷积神经网络的非线性函数,构建多层非线性光学卷积神经网络模型用于图像识别任务。

发明内容

本发明的目的在于克服现有技术的缺点,提供一种非线性光学卷积神经网络的图像识别方法,本发明通过将Swish激活函数加入到光学卷积神经网络中,并采用交叉熵作为目标函数,创造性的构建了多层非线性光学卷积神经网络模型,实质并显著地提高了图像识别准确率,增加装置的适用性。

为解决上述技术问题,本发明采用的技术方案是:一种非线性光学卷积神经网络的图像识别方法,所述方法包括以下步骤:步骤a、设计光学卷积核结构、光学卷积特征图和计算方法;步骤b、构建一层光学卷积神经网络模型,给出所述光学卷积核结构和所述光学卷积特征图的卷积计算公式;步骤c、利用Swish非线性激活函数对所述光学卷积特征图进行非线性映射;步骤d、构建多层所述光学卷积神经网络模型,并用Adam算法进行优化;步骤e、在MNIST数据库上训练与测试模型,获得测试结果。

优选的,步骤a中,所述光学卷积核采用平铺方式,其卷积核数量为16个,光学卷积通过点扩散函数计算,公式为:

其中,*表示二维卷积,PSF表示点扩散函数,Γ表示偏移量,Δx和Δy分别表示在垂直和水平方向上移动的距离,目的是卷积核与图像不发生重叠,Wi对应第i个卷积核,Iout表示对应卷积核输出的光学卷积特征图,其为平铺方式,

优选的,步骤c中,激活函数Swish表示为:其中,β=0.1。

优选地,步骤d中,运用所述Adam算法进行优化时,非线性光学卷积神经网络损失函数表示为:其中,为目标值,为估计值,约束条件为:W>0,即点扩散函数不能有负值。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京信息科技大学,未经北京信息科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011456497.X/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top