[发明专利]一种基于多任务学习机制的自然语言关系抽取方法有效

专利信息
申请号: 202010014221.X 申请日: 2020-01-07
公开(公告)号: CN111241279B 公开(公告)日: 2020-10-30
发明(设计)人: 胡文心;王伟杰;杨静 申请(专利权)人: 华东师范大学
主分类号: G06F16/35 分类号: G06F16/35;G06F40/289;G06N3/04;G06N3/08
代理公司: 上海蓝迪专利商标事务所(普通合伙) 31215 代理人: 徐筱梅;张翔
地址: 200241 *** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明公开了一种基于多任务学习机制的自然语言关系抽取方法,包括如下步骤:利用多个辅助任务来引入不同任务间所互相隐含的信息来提升关系抽取的效果。引入知识蒸馏来增强辅助任务指导训练多任务模型的效果,为基于多任务学习的关系和抽取引入教师退火算法让多任务模型的效果能够超远作为指导任务的单任务模型,最终提升关系抽取的准确度。该方法首先在不同的辅助任务上进行训练得到用于指导训练的多任务模型,然后利用辅助任务学习到的模型和真实标签作为监督信息同时指导多任务模型的学习,最后在SemEval2010 task‑8数据集上进行了测评,该模型的表现优于单独使用改进过的BERT进行关系抽取的模型,也同样优于主流的基于深度学习关系抽取的模型。
搜索关键词: 一种 基于 任务 学习 机制 自然语言 关系 抽取 方法
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华东师范大学,未经华东师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/202010014221.X/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top