[发明专利]一种快速的神经网络学习方法无效

专利信息
申请号: 201110319217.5 申请日: 2011-10-19
公开(公告)号: CN103065191A 公开(公告)日: 2013-04-24
发明(设计)人: 邓万宇;陈琳 申请(专利权)人: 西安邮电学院
主分类号: G06N3/08 分类号: G06N3/08
代理公司: 暂无信息 代理人: 暂无信息
地址: 710121*** 国省代码: 陕西;61
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 快速 神经网络 学习方法
【权利要求书】:

1.一种快速的神经网络学习方法,其特征在于:修正代价函数

Huang为SLFN提出了一种称为极速学习机(Extreme Learning Machine,ELM)的学习方法:设置合适的隐藏层结点数,为输入权和隐藏层偏差进行随机赋值,然后输出层权值然通过最小二乘法得到。整个过程一次完成,无需迭代,与BP相比速度显著提高(通常10倍以上)。但是ELM仅考虑经验风险,没有考虑到结构化风险,因此可能导致过度拟合问题。

根据统计学理论,实际风险包括经验风险和结构风险两种成分。一个具有较好泛化性能的模型应该能权衡这两种风险,并取得最佳的折中。

专利RELM将同时考虑这两种风险因素,并通过参数γ调节两种风险的比例,RELM的数学模型可表示为:

argminβE(W)=argminβ(12||β||2+12γ||ϵ||2)]]>

s.t.Σi=1N~βig(ai·xj+bi)-tj=ϵj,j=1,...,N]]>

其中,误差的平方和||ε||2代表经验风险;||β||2代表结构风险,它源于统计理论中边缘距离最大化原理;而γ则是两种风险的比例参数,通过交叉验证的方式确定γ来获得两种风险的最佳折中点。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安邮电学院,未经西安邮电学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201110319217.5/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top