[发明专利]一种集成长短记忆循环神经网络与梯度提升决策树的方法在审
申请号: | 201711022066.0 | 申请日: | 2017-10-26 |
公开(公告)号: | CN108038539A | 公开(公告)日: | 2018-05-15 |
发明(设计)人: | 陈雅雪;潘炎;潘文杰 | 申请(专利权)人: | 中山大学;广州中大南沙科技创新产业园有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N99/00 |
代理公司: | 广州粤高专利商标代理有限公司 44102 | 代理人: | 林丽明 |
地址: | 510275 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 集成 长短 记忆 循环 神经网络 梯度 提升 决策树 方法 | ||
1.一种集成长短记忆循环神经网络与梯度提升决策树的方法,其特征在于,包括一下步骤:
S1:输入训练数据集每一时刻的特征到森林层;
S2:用森林层里的梯度提升决策树产生固定维度的特征作为长短记忆循环神经网络的输入;
S3:长短记忆循环神经网络进行一次前向传播并得到误差;
S4:长短记忆循环神经网络进行一次反向传播得到森林层的误差梯度;
S5:用梯度提升的方法更新森林层;
S6:反复执行步骤S2至步骤S5,直至收敛。
2.根据权利要求1所述的集成长短记忆循环神经网络与梯度提升决策树的方法,其特征在于,所述步骤S2中的森林层由多个梯度提升决策树森林组成的,梯度提升决策树处理混合类型数据,得到对异常值鲁棒性好的输出空间。
3.根据权利要求2所述的集成长短记忆循环神经网络与梯度提升决策树的方法,其特征在于,所述步骤S4中的反向传播包括:
残差求解:不仅对参数进行求导,还对输入求解导数;
更新森林层中的树模型:对于每个时间点求解出来的残差,重新拟合该梯度,生成新一轮树的结构并加入到森林层中。
4.根据权利要求3所述的集成长短记忆循环神经网络与梯度提升决策树的方法,其特征在于,步骤S5用梯度提升的方法更新森林层,需要在每个点的负梯度上求解求解最优步长实现损失函数最小。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中山大学;广州中大南沙科技创新产业园有限公司,未经中山大学;广州中大南沙科技创新产业园有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711022066.0/1.html,转载请声明来源钻瓜专利网。