[发明专利]一种基于精度的宽度学习动态节点调整方法在审
申请号: | 202210242223.3 | 申请日: | 2022-03-11 |
公开(公告)号: | CN114611691A | 公开(公告)日: | 2022-06-10 |
发明(设计)人: | 郭继凤;陈俊龙;刘竹琳 | 申请(专利权)人: | 华南理工大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 广州市华学知识产权代理有限公司 44245 | 代理人: | 李斌 |
地址: | 511458 广东省广州市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 精度 宽度 学习 动态 节点 调整 方法 | ||
本发明公开了一种基于精度的宽度学习动态节点调整方法,包括以下步骤:S1:设置初始映射特征节点和增强节点个数、预设精度和迭代次数,基于该参数建立宽度学习模型;S2:判断模型精度是否达到预设测试精度或迭代次数,若是,则输出模型训练和测试属性;若否,则进入S3;S3:根据宽度学习模型的精度和预设精度计算需要增加的增强节点数量;S4:增加增强节点数量,并构建宽度学习模型。本发明通过使用模型的精度差异自动计算出合适的增强节点增加数量,避免了人为设置模型参数的繁琐步骤,以及由设置过多引起的参数,占用内存和训练时间的激增。此外,宽度学习动态节点调整策略具有简单、性能高的优势。
技术领域
本发明属于宽度学习技术领域,具体涉及一种基于精度的宽度学习动态节点调整方法。
背景技术
深度学习因其卓越的性能,被广泛用于各种实际应用场景中。然而,深层结构中的大量参数以及训练方式极大地增加了模型的时间和资源消耗。作为一种有效的增量式模型,宽度学习系统是单层前馈网络结构的形式,并通过数学求解方式得到模型参数,能够在短时间内建立高性能模型。目前该方法已经被广泛应用到包括医疗、控制等领域,大量学者也对其进行扩展和改进,使其能够解决特定背景下的实际问题。
宽度学习系统够通过增强节点的调整来提高模型的性能,然而标准宽度学习系统采用手工或静态的节点设置,这会造成时间和资源消耗。一方面,增加数量设置太小会极大地影响模型的优化效率;另一方面,增加数量设置太大,会损失一些模型参数且会造成大量资源的消耗。
发明内容
本发明的主要目的在于克服现有技术的缺点与不足,提出一种基于精度的宽度学习动态节点调整方法,能够高效发现最优模型。
为了达到上述目的,本发明采用以下技术方案:
一种基于精度的宽度学习动态节点调整方法,包括以下步骤:
S1、设置初始映射特征节点和增强节点个数、预设精度和迭代次数,基于该三个参数建立宽度学习模型;
S2、判断模型精度是否达到预设终止条件,若是,则输出模型训练和测试属性;若否,则进入步骤S3;
S3、根据宽度学习模型的精度和预设精度计算需要增加的增强节点数量;
S4、增加增强节点数量,并基于新的增强节点数量构建新的宽度学习模型,跳转至步骤S2。
进一步的,步骤S1中,预设精度具体包括预设训练精度和预设测试精度;
预设训练精度用于计算增强节点调整个数;预设测试精度用于计算增强节点调整个数和判断迭代是否终止。
进一步的,步骤S2中,终止条件包括两种情况,具体为测试精度达到预设测试精度和迭代次数达到设定的最大次数。
进一步的,步骤S1中,建立宽度学习模型具体包括以下步骤:
初始化模型参数,模型参数包括映射特征组个数、组内特征个数以及增强节点个数;
利用模型输入X,计算特征映射节点Zn≡[Z1,Z2,...,Zn],该过程是一个线性映射,其中第i组映射特征Zi的计算如公式(1),连接权重Wei和βei是随机产生的,为线性映射,每一组特征包含k个映射特征;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华南理工大学,未经华南理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210242223.3/2.html,转载请声明来源钻瓜专利网。