[发明专利]一种集成长短记忆循环神经网络与梯度提升决策树的方法在审
申请号: | 201711022066.0 | 申请日: | 2017-10-26 |
公开(公告)号: | CN108038539A | 公开(公告)日: | 2018-05-15 |
发明(设计)人: | 陈雅雪;潘炎;潘文杰 | 申请(专利权)人: | 中山大学;广州中大南沙科技创新产业园有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N99/00 |
代理公司: | 广州粤高专利商标代理有限公司 44102 | 代理人: | 林丽明 |
地址: | 510275 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种集成长短记忆循环神经网络与梯度提升决策树的方法,该方法将多个决策树森林产生的特征作为网络的输入,可以将决策树深林的那一部分看成是新的网络层,即森林层,森林层在网络中起的作用类似于卷积神经网络里的卷积层,它能够提取非图像类数据的特征。由于LSTM的输入是跟时间序列相关的,因此森林层的决策树森林的个数等于时间序列的时刻数。新模型相比只有LSTM的模型能更好地抽取一般的非图像类序列化数据的特征,而且相比只有GBDT的模型能够保持前后特征的时间性依赖,从而形成与高层的抽象特征之间的映射。 | ||
搜索关键词: | 一种 集成 长短 记忆 循环 神经网络 梯度 提升 决策树 方法 | ||
【主权项】:
1.一种集成长短记忆循环神经网络与梯度提升决策树的方法,其特征在于,包括一下步骤:S1:输入训练数据集每一时刻的特征到森林层;S2:用森林层里的梯度提升决策树产生固定维度的特征作为长短记忆循环神经网络的输入;S3:长短记忆循环神经网络进行一次前向传播并得到误差;S4:长短记忆循环神经网络进行一次反向传播得到森林层的误差梯度;S5:用梯度提升的方法更新森林层;S6:反复执行步骤S2至步骤S5,直至收敛。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中山大学;广州中大南沙科技创新产业园有限公司,未经中山大学;广州中大南沙科技创新产业园有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201711022066.0/,转载请声明来源钻瓜专利网。