[发明专利]一种基于多头自注意力机制的多任务篇章级事件抽取方法有效
| 申请号: | 202110953670.5 | 申请日: | 2021-08-19 |
| 公开(公告)号: | CN113761936B | 公开(公告)日: | 2023-04-07 |
| 发明(设计)人: | 丁建睿;吴明瑞;丁卓;张立斌 | 申请(专利权)人: | 哈尔滨工业大学(威海);长江时代通信股份有限公司 |
| 主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F16/35;G06F40/117;G06N3/047;G06N3/0464;G06N3/048;G06N3/08 |
| 代理公司: | 苏州中合知识产权代理事务所(普通合伙) 32266 | 代理人: | 阮梅 |
| 地址: | 264200*** | 国省代码: | 山东;37 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本发明提供一种基于多头自注意力机制的多任务篇章级事件抽取方法,包括如下步骤:将单一句子级事件抽取转换为打包句子集合的篇章级事件抽取;利用预训练的语言模型BERT模型进行词嵌入表示;对单句中所有单词嵌入和位置嵌入作为输入,利用卷积神经网络模型进行编码,结合分段最大池策略捕获句子内部的最有价值的特征;利用多头自注意力模型,获得融合全文语义信息的篇章表示和注意力权重;利用分类器得到预测的事件类型;利用事件类型作为先验信息,链接到事件元素提取的输入序列中,利用预训练模型结合机器阅读理解方法提取序列中所有相关元素。本发明可用于篇章级事件抽取任务,实现了将序列标注问题转换为机器阅读理解问题的突破。 | ||
| 搜索关键词: | 一种 基于 多头 注意力 机制 任务 篇章 事件 抽取 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于哈尔滨工业大学(威海);长江时代通信股份有限公司,未经哈尔滨工业大学(威海);长江时代通信股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110953670.5/,转载请声明来源钻瓜专利网。





