[发明专利]神经网络模型建立方法、装置及计算机可读存储介质在审
申请号: | 201811633991.1 | 申请日: | 2018-12-29 |
公开(公告)号: | CN111382764A | 公开(公告)日: | 2020-07-07 |
发明(设计)人: | 程立双 | 申请(专利权)人: | 北大方正集团有限公司;北京北大方正电子有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06K9/66;G06N3/04 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 罗英;刘芳 |
地址: | 100871 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 模型 建立 方法 装置 计算机 可读 存储 介质 | ||
本发明提供一种神经网络模型建立方法、装置及计算机可读存储介质,方法包括:在数据输入层的下一层设置特征提取层,所述特征提取层用于对输入的待识别图像进行特征提取;将一个1*h的卷积核与一个h*1的卷积核相结合作为膨胀层的核心部分,其中,h为正奇数,将所述膨胀层与压榨层串联作为Fire块;建立各相邻Fire块之间的关联关系,获得调整后的待训练模型;通过预设的待训练数据对所述待训练模型进行训练,获得训练后的神经网络模型。该神经网络模型能够在保证识别精度的基础上,降低模型的内存大小,因此其能够方便自由存储嵌入存储介质中。
技术领域
本发明涉及数据处理领域,尤其涉及一种神经网络模型建立方法、装置及计算机可读存储介质。
背景技术
随着大数据时代的到来以及计算机硬件的不断更新迭代,图像识别的算法得到突飞猛进的发展。图像识别广泛应用到手写汉字识别、人脸识别、指纹识别、人工机器人等领域。图像识别有很多算法,主要包括传统的机器学习算法和深度学习。深度学习也叫做深层卷积神经网络学习,除了人工修正训练文件的一些配置参数外,网络中的所有参数都是通过训练数据并从数据中学习所得。而且卷积神经网络由于自身拥有局部感知域、权值共享、池化防过拟合等优点,所以在训练过程中能提取图像的深层抽象特征进行学习,并且整个训练过程无需人为干涉,最终的训练模型除了鲁棒性很强外,识别精度非常高。因此,目前人工智能企业都专注于将深度学习训练的网络模型应用到图像识别领域。
常见的卷积神经网络模型有ResNet网络,其实目前公认识别精度最高的卷积神经网络。此外,SqueezeNet网络也是一种常见的卷积神经网络模型,其实目前公认的轻量级卷积神经网络,其在具有较小的内存的基础上,还能够达到较高的识别精度。
但是,上述两种卷积神经网络模型均具有不同的缺点,ResNet网络虽然识别精度很高,但其具有较大的内存,因此模型不能自由存储到FPGA中或嵌入式部署到集成芯片里,以实际应用举例来说,ResNet网络内存大小一般为500MB,但是FPGA只能够具有10MB的内存,因此无法将ResNet网络存储至FPGA中,而且当从云端更新到客户端时需要较大的数据传输量。SqueezeNet网络虽然内存较小,但是精确度低于ResNet网络,因此,如何在实现高识别精度的基础上,降低卷积神经网络的内存以便于存储嵌入即成为了亟待解决的技术问题。
发明内容
本发明提供一种神经网络模型建立方法、装置及计算机可读存储介质,用于解决现有的卷积神经网络模型无法兼顾识别精度与模型内存的技术问题。
本发明的第一个方面是提供一种神经网络模型建立方法,包括:
在数据输入层的下一层设置特征提取层,所述特征提取层用于对输入的待识别图像进行特征提取;
将一个1*h的卷积核与一个h*1的卷积核相结合作为膨胀层的核心部分,其中,h为正奇数,将所述膨胀层与压榨层串联作为Fire块;
建立各相邻Fire块之间的关联关系,获得调整后的待训练模型;
通过预设的待训练数据对所述待训练模型进行训练,获得训练后的神经网络模型。
本发明的另一个方面是提供一种神经网络模型建立装置,包括:
特征提取层建立模块,用于在数据输入层的下一层设置特征提取层,所述特征提取层用于对输入的待识别图像进行特征提取;
膨胀层建立模块,用于将一个1*h的卷积核与一个h*1的卷积核相结合作为膨胀层的核心部分,其中,h为正奇数,将所述膨胀层与压榨层串联作为Fire块;
关联关系建立模块,用于建立各相邻Fire块之间的关联关系,获得调整后的待训练模型;
训练模块,用于通过预设的待训练数据对所述待训练模型进行训练,获得训练后的神经网络模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北大方正集团有限公司;北京北大方正电子有限公司,未经北大方正集团有限公司;北京北大方正电子有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811633991.1/2.html,转载请声明来源钻瓜专利网。