[发明专利]医学文献的关系抽取方法、装置、电子设备及存储介质

说明书

本申请公开了一种医学文献的关系抽取方法、装置、电子设备及存储介质。其中，医学文献的关系抽取方法，包括：获得数据集，并基于数据集预训练Bert模型，数据集包括外部医学文献数据库中的医学文献，医学文献预先标注实体，Bert模型用于实体监督；构建关系抽取模型，关系抽取模型包括头实体抽取模块、关联模块以及尾实体/关系抽取模块，头实体抽取模块以及关联模块的编码器基于实体监督的Bert模型进行微调；获得渐进式的权重损失函数，以利用关系抽取模型对医学文献进行关系抽取。本申请实施例，可以提升医学文献的关系抽取效果，提升了后续得到临床知识图谱的专业性。

技术领域

本申请涉及数据处理技术领域，尤其涉及一种医学文献的关系抽取方法、装置、电子设备及存储介质。

背景技术

相关技术中，通常是基于资深医生少量精标注的医学文献，然后进行关系抽取模型的训练，并基于训练所得模型，推理出新入组医学文献的关系。然而，受限于时间有限和标注工作量大，资深医生所提供的精标注医学文献是非常有限的，因此，训练所得模型泛化性能较差，即：目前针对医学文献关系抽取的方案存在以下缺点：

标注样本的质量依赖于资深医生的大力投入，由于资深医生本身时间的稀缺性，导致即使是少量的标注也耗时漫长。关系抽取过程只是共享编码层，难以很好的联合且损失函数不准确，导致关系抽取效果不理想。

发明内容

鉴于现有技术中的上述缺陷或不足，期望提供一种医学文献的关系抽取方法、装置、电子设备及存储介质。

第一方面，本申请实施例提供了一种医学文献的关系抽取方法，包括：

获得数据集，并基于所述数据集预训练Bert模型，其中，所述数据集包括外部医学文献数据库中的医学文献，所述医学文献预先标注实体，所述Bert模型用于实体监督；

构建关系抽取模型，所述关系抽取模型包括头实体抽取模块、关联模块以及尾实体/关系抽取模块，所述头实体抽取模块以及关联模块的编码器基于所述实体监督的Bert模型进行微调；

获得渐进式的权重损失函数，以利用所述关系抽取模型对医学文献进行关系抽取。

在一些示例中，所述关系抽取模型中采用指针网络作为解码器，其中，所述解码器为每个语句中的位置分配一个二进制标记，所述二进制标记指示所述语句中的位置是否正确，并提供每个位置的置信度以检测实体的开始和结束位置，所述关系抽取模型的损失函数为：

，

其中，N表示语句的长度，表示主语的第i个token的label，如果第i个token是真实的位置，则，否则为表示第i个token的置信度。

在一些示例中，在所述关联模块中，所述编码器的向量表示和头实体抽取模块的向量表示的头尾位置token的平均值以多头注意力机制来结合。

在一些示例中，所述尾实体/关系抽取模块由双指针网络构成，所述双指针网络的数量由关系的数量决定。

在一些示例中，所述尾实体/关系抽取模块的损失函数为：

，其中，N表示语句的长度，表示宾语中第i个token的label，如果第i个token是真实的位置则，否则为表示关系的数量。

在一些示例中，所述渐进式的权重损失函数为：

。

第二方面，本申请实施例提供一种医学文献的关系抽取装置，包括：

获取模块，用于获得数据集，并基于所述数据集预训练Bert模型，其中，所述数据集包括外部医学文献数据库中的医学文献，所述医学文献预先标注实体，所述Bert模型用于实体监督；