[发明专利]基于多头自注意力机制适配器的持续关系抽取方法及系统在审
| 申请号： | 202211632267.3 | 申请日： | 2022-12-19 |
| 公开（公告）号： | CN116186171A | 公开（公告）日： | 2023-05-30 |
| 发明（设计）人： | 周刚;朱秀宝;陈静;兰明敬;卢记仓;章梦礼;黄宁博;王世宇;陈昱昕;祝涛杰 | 申请（专利权）人： | 中国人民解放军战略支援部队信息工程大学 |
| 主分类号： | G06F16/28 | 分类号： | G06F16/28;G06F18/211;G06F18/214;G06N20/00 |
| 代理公司： | 郑州大通专利商标代理有限公司 41111 | 代理人： | 周艳巧 |
| 地址： | 450000 河*** | 国省代码： | 河南;41 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明属于信息抽取技术领域，特别涉及一种基于多头自注意力机制适配器的持续关系抽取方法及系统，利用预训练模型作为主干网络来构建持续关系抽取模型，且预训练模型包含多个对输入特征向量进行编解码操作的Transformer层，并利用适配器来学习任务知识；将持续关系抽取的每个任务作为多分类问题，且通过多个适配器的组合训练来学习目标文本中预设任务知识。本发明将预训练模型作为骨干网络保持所有参数冻结，每个任务使用多个A‑Adapter组成的模型进行独立训练来学习特定任务知识，通过每个任务模型的相互独立训练来有效避免实体关系抽取中模型训练的灾难性遗忘问题，便于实际场景应用。 | ||
| 搜索关键词： | 基于 多头 注意力 机制 适配器 持续 关系 抽取 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国人民解放军战略支援部队信息工程大学，未经中国人民解放军战略支援部队信息工程大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202211632267.3/，转载请声明来源钻瓜专利网。
