[发明专利]医学文献的关系抽取方法、装置、电子设备及存储介质有效
申请号: | 202210045975.0 | 申请日: | 2022-01-17 |
公开(公告)号: | CN114064938B | 公开(公告)日: | 2022-04-22 |
发明(设计)人: | 李宗任;钟琴 | 申请(专利权)人: | 中国人民解放军总医院 |
主分类号: | G06F16/36 | 分类号: | G06F16/36;G06F40/295;G06K9/62;G06N3/08 |
代理公司: | 北京志霖恒远知识产权代理事务所(普通合伙) 11435 | 代理人: | 郭栋梁 |
地址: | 100853*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 医学 文献 关系 抽取 方法 装置 电子设备 存储 介质 | ||
1.一种医学文献的关系抽取方法,其特征在于,包括:
获得数据集,并基于所述数据集预训练Bert模型,其中,所述数据集包括外部医学文献数据库中的医学文献,所述医学文献预先标注实体,所述Bert模型用于实体监督;
构建关系抽取模型,所述关系抽取模型包括头实体抽取模块、关联模块以及尾实体/关系抽取模块,所述头实体抽取模块以及关联模块的编码器基于所述实体监督的Bert模型进行微调,其中,在所述关联模块中,所述编码器的向量表示和头实体抽取模块的向量表示的头尾位置token的平均值以多头注意力机制来结合;
获得渐进式的权重损失函数,以利用所述关系抽取模型对医学文献进行关系抽取,其中,所述渐进式的权重损失函数为:
。
2.根据权利要求1所述的医学文献的关系抽取方法,其特征在于,所述关系抽取模型中采用指针网络作为解码器,其中,所述解码器为每个语句中的位置分配一个二进制标记,所述二进制标记指示所述语句中的位置是否正确,并提供每个位置的置信度以检测实体的开始和结束位置,所述关系抽取模型的损失函数为:
,
其中,
3.根据权利要求1所述的医学文献的关系抽取方法,其特征在于,所述尾实体/关系抽取模块由双指针网络构成,所述双指针网络的数量由关系的数量决定。
4.根据权利要求3所述的医学文献的关系抽取方法,其特征在于,所述尾实体/关系抽取模块的损失函数为:
,其中,
5.一种医学文献的关系抽取装置,其特征在于,包括:
获取模块,用于获得数据集,并基于所述数据集预训练Bert模型,其中,所述数据集包括外部医学文献数据库中的医学文献,所述医学文献预先标注实体,所述Bert模型用于实体监督;
构建模块,用于构建关系抽取模型,所述关系抽取模型包括头实体抽取模块、关联模块以及尾实体/关系抽取模块,所述头实体抽取模块以及关联模块的编码器基于所述实体监督的Bert模型进行微调,其中,在所述关联模块中,所述编码器的向量表示和头实体抽取模块的向量表示的头尾位置token的平均值以多头注意力机制来结合;
关系抽取模块,用于获得渐进式的权重损失函数,以利用所述关系抽取模型对医学文献进行关系抽取,其中,所述渐进式的权重损失函数为:
。
6.一种电子设备,其特征在于,所述电子设备包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,所述处理器用于执行所述程序时实现根据权利要求1-4任一项所述的医学文献的关系抽取方法。
7.一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序用于实现根据权利要求1-4任一项所述的医学文献的关系抽取方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军总医院,未经中国人民解放军总医院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210045975.0/1.html,转载请声明来源钻瓜专利网。