[发明专利]基于ELMo嵌入与门控自注意力机制的阅读理解方法在审
申请号: | 202011542671.2 | 申请日: | 2020-12-23 |
公开(公告)号: | CN112579739A | 公开(公告)日: | 2021-03-30 |
发明(设计)人: | 任福继;张伟伟;鲍艳伟 | 申请(专利权)人: | 合肥工业大学 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/31;G06F40/216;G06F40/253;G06F40/289;G06F40/30;G06N3/04;G06N3/08 |
代理公司: | 安徽合肥华信知识产权代理有限公司 34112 | 代理人: | 余成俊 |
地址: | 230009 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于ELMo嵌入与门控自注意力机制的阅读理解方法,基于涉及ELMo嵌入与门控自注意力函数的模型,该方法同时使用了ELMo表示、单词的字符表示、glove词表示的多维融合表示,并在双向注意网络后引入了带有门控函数的自注意力层,以提取长上下文问信息,并进一步过滤信息。此外,在回答层该方法将各层所得特征表示复用,并使用双线性函数进行最终答案的位置预测,进一步提高了系统的整体性能。在SQuAD数据集上的实验中,证明了该模型大幅优于许多基线模型,性能较其原始基线提升了5个百分点左右,且其性能接近人类测试的平均水平,充分证明了该方法的有效性。 | ||
搜索关键词: | 基于 elmo 嵌入 门控 注意力 机制 阅读 理解 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于合肥工业大学,未经合肥工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011542671.2/,转载请声明来源钻瓜专利网。
- 上一篇:一种机器人给水装置
- 下一篇:一种高效的直流转换器