[发明专利]一种基于多任务学习机制的自然语言关系抽取方法有效
申请号: | 202010014221.X | 申请日: | 2020-01-07 |
公开(公告)号: | CN111241279B | 公开(公告)日: | 2020-10-30 |
发明(设计)人: | 胡文心;王伟杰;杨静 | 申请(专利权)人: | 华东师范大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/289;G06N3/04;G06N3/08 |
代理公司: | 上海蓝迪专利商标事务所(普通合伙) 31215 | 代理人: | 徐筱梅;张翔 |
地址: | 200241 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于多任务学习机制的自然语言关系抽取方法,包括如下步骤:利用多个辅助任务来引入不同任务间所互相隐含的信息来提升关系抽取的效果。引入知识蒸馏来增强辅助任务指导训练多任务模型的效果,为基于多任务学习的关系和抽取引入教师退火算法让多任务模型的效果能够超远作为指导任务的单任务模型,最终提升关系抽取的准确度。该方法首先在不同的辅助任务上进行训练得到用于指导训练的多任务模型,然后利用辅助任务学习到的模型和真实标签作为监督信息同时指导多任务模型的学习,最后在SemEval2010 task‑8数据集上进行了测评,该模型的表现优于单独使用改进过的BERT进行关系抽取的模型,也同样优于主流的基于深度学习关系抽取的模型。 | ||
搜索关键词: | 一种 基于 任务 学习 机制 自然语言 关系 抽取 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华东师范大学,未经华东师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010014221.X/,转载请声明来源钻瓜专利网。
- 上一篇:重题检测方法、相关设备及可读存储介质
- 下一篇:一种隔墙异形连接结构