[发明专利]基于注意力机制的机器学习模型的融合方法在审
申请号: | 202011595563.1 | 申请日: | 2020-12-30 |
公开(公告)号: | CN112633396A | 公开(公告)日: | 2021-04-09 |
发明(设计)人: | 杨晓东;卫浩 | 申请(专利权)人: | 四川新网银行股份有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N20/00 |
代理公司: | 成都智言知识产权代理有限公司 51282 | 代理人: | 濮云杉 |
地址: | 610094 四川省成都市成都*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及基于注意力机制的机器学习模型的融合方法,包括步骤:A.制定机器学习任务要学习的目标,并训练得到至少两个子模型,各子模型的输出结果组合成一个向量;B.构建注意力模块,包括多个具有注意力机制的全连接神经网络,先对所述向量升维和学习高维交互特征,再对向量降维后输出,向量长度为子模型个数,向量中各元素的值对应各子模型的权重;C.融合子模型:将预测样本的变量输入子模型得到向量,并输入到注意力模块得到各对应子模型的权重,对子模型的输出结果进行加权融合。本发明能够根据融合变量的变化来对子模型融合时的权重进行相应的输出,使融合后的输出更接近真实值,有效提高了融合后输出的准确性。 | ||
搜索关键词: | 基于 注意力 机制 机器 学习 模型 融合 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川新网银行股份有限公司,未经四川新网银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011595563.1/,转载请声明来源钻瓜专利网。