[发明专利]一种自适应设置深度置信网络参数的方法及系统在审
申请号: | 201710108331.0 | 申请日: | 2017-02-27 |
公开(公告)号: | CN106897744A | 公开(公告)日: | 2017-06-27 |
发明(设计)人: | 时帅兵;陈东河 | 申请(专利权)人: | 郑州云海信息技术有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/12 |
代理公司: | 北京集佳知识产权代理有限公司11227 | 代理人: | 罗满 |
地址: | 450018 河南省郑州市*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 自适应 设置 深度 置信 网络 参数 方法 系统 | ||
技术领域
本发明涉及数据处理技术领域,特别涉及一种自适应设置深度置信网络参数的方法及系统。
背景技术
目前,深度学习(Deep Learning)是目标识别领域中一个热门的研究课题。深度学习的概念是Hinton等人于2006年提出的,主要通过神经网络(Neural Network)来模拟人大脑的学习过程,根据对大脑认识事物过程研究的成果,试图利用一个个的节点来代替人脑的神经元,并通过节点的权值训练来达到重构物体的目的,其最显著的特点是特征的抽取过程尽量少地减少了人为的干预。深度学习本质上是一种贪婪算法,它是一种类神经网络的结构,不过一般来说网络层可以有多层,不像人工神经网络那样只有三层。在深度学习模型的最底层,也就是样本的输入层,可以直接将初始样本加入网络,网络可以自动的抽离特征,不需要人工的去提取特征,这是深度学习和传统模式识别最大的区别。
深度学习的架构可以有很多种模型,常用的有稀疏自编码、受限玻尔兹曼机、卷积神经网络等。其中基于受限玻尔兹曼机的深度网络被称作深度置信网络(Deep Belief Networks,DBN),深度置信网络是一个由贝叶斯概率生成的模型,由一系列的受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)堆叠而成。深度置信网络相比于传统的目标识别方法(模板匹配、模型匹配、支持向量机、主成分分析等)具有以下优点:1)减少了手工设计特征的巨大工作量;2)深度置信网络可以自动地进行特征的提取和抽离;3)深度置信网络将输入变换到高维空间,对输入数据有了更加好的表达,不仅仅识别效果可以更好,而且使用起来也更方便。
但是,目前深度置信网络初始参数的选择大多还是采用人工选择的方法,即通过多次试验选取经验值的做法。这种方式,由于无法根据样本自适应设置参数,因而很难得到最优的网络参数,也无法得到最优的识别效果。
发明内容
本发明的目的是提供一种基于遗传算法的自适应设置深度置信网络参数的方法及系统,通过遗传算法来自适应调节深度置信网络的参数,从而得到更好的识别效果。
为解决上述技术问题,本发明提供一种基于遗传算法的自适应设置深度置信网络参数的方法,所述方法包括:
设置待优化的深度置信网络参数的初始值,并根据所述初始值建立设置深度置信网络参数的适应度函数;
根据所述适应度函数,利用遗传算法获取最优个体数据;
将所述最优个体数据进行反编码获得最优深度置信网络参数。
可选的,设置待优化的深度置信网络参数的初始值,并根据所述初始值建立设置深度置信网络参数的适应度函数,包括:
设置待优化的深度置信网络参数的初始值;
利用遗传算法对所述深度置信网络参数的初始值进行二进制编码,构造初始种群,并将其作为训练样本;
确定深度置信网络的拓扑结构后对所述训练样本进行识别,得到所述训练样本的识别率;
根据所述识别率计算识别率均值,并将所述识别率均值作为设置深度置信网络参数的适应度函数。
可选的,根据所述适应度函数,利用遗传算法获取最优个体数据,包括:
计算初始种群适应度;
根据所述初始种群适应度进行选择操作、交叉操作和变异操作后计算新产生种群适应度;
判断所述新产生种群适应度是否满足预设条件;
若满足则将所述新产生种群适应度作为最优个体数据;
若不满足则根据所述新产生种群适应度再次进行选择操作、交叉操作和变异操作,直到新得到的种群适应度满足预设条件,得到最优个体数据为止。
可选的,所述预设条件具体为:循环执行选择操作、交叉操作和变异操作的次数满足循环代数或连续预定次数循环过程中得到的适应度数值的波动情况满足预定范围。
可选的,利用遗传算法对所述深度置信网络参数进行二进制编码,包括:
利用遗传算法的工具箱中的编码函数对所述深度置信网络参数进行二进制编码。
本发明还提供一种基于遗传算法的自适应设置深度置信网络参数的系统,包括:
初始化模块,用于设置待优化的深度置信网络参数的初始值,并根据所述初始值建立设置深度置信网络参数的适应度函数;
遗传算法模块,用于根据所述适应度函数,利用遗传算法获取最优个体数据;
参数确定模块,用于将所述最优个体数据进行反编码获得最优深度置信网络参数。
可选的,所述初始化模块包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于郑州云海信息技术有限公司,未经郑州云海信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710108331.0/2.html,转载请声明来源钻瓜专利网。