[发明专利]基于深度学习的知识图谱构建方法、系统、设备及介质有效
申请号: | 202111058841.4 | 申请日: | 2021-09-10 |
公开(公告)号: | CN113505244B | 公开(公告)日: | 2021-11-30 |
发明(设计)人: | 何昆仑;李宗任;钟琴 | 申请(专利权)人: | 中国人民解放军总医院 |
主分类号: | G06F16/36 | 分类号: | G06F16/36;G06K9/62;G06N3/02 |
代理公司: | 北京志霖恒远知识产权代理事务所(普通合伙) 11435 | 代理人: | 郭栋梁 |
地址: | 100853*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 深度 学习 知识 图谱 构建 方法 系统 设备 介质 | ||
1.一种基于深度学习的知识图谱构建方法,其特征在于,包括:
将未标注的医学文献数据输入关系抽取模型中,构建第一知识图谱,其中,所述关系抽取模型是基于获取的已标注的医学文献数据构建的;
将所述未标注的医学文献数据输入辅助标注模型中,确定所述未标注的医学文献数据中每个实体的分类结果,所述辅助标注模型是基于医学数据库构建的;
基于所述第一知识图谱和所述每个实体的分类结果,将所述每个实体构建成句子以及所述句子对应的实体对;
采用多实例学习算法将预测概率值最大的实体对对应的句子作为新增标签;
基于所述新增标签和所述第一知识图谱更新所述关系抽取模型,得到第二知识图谱;
其中,所述基于所述新增标签和所述第一知识图谱更新所述关系抽取模型,得到第二知识图谱,包括:
基于所述已标注的历史医学文献数据和所述新增标签进行训练,得到更新后的关系抽取模型,并将所述未标注的医学文献数据输入所述更新后的关系抽取模型中,得到所述第二知识图谱。
2.根据权利要求1所述的方法,其特征在于,所述辅助标注模型包括命名实体识别模型和与所述命名实体识别模型相连接的Transformer模型,将所述未标注的医学文献数据输入辅助标注模型中,确定所述未标注的医学文献数据中每个实体的分类结果,包括:
将所述未标注的医学文献数据输入所述命名实体识别模型中,得到第一特征向量;
将所述第一特征向量输入所述Transformer模型中,得到第二特征向量;
将所述第二特征向量依次通过线性层和激活函数层进行处理,得到所述每个实体的分类结果。
3.根据权利要求2所述的方法,其特征在于,所述命名实体识别模型包括实体边界识别模型和实体分类模型,将所述未标注的医学文献数据输入所述命名实体识别模型中,得到第一特征向量,包括:
将所述未标注的医学文献数据输入所述实体边界识别模型中,确定所述未标注的医学文献数据中的每个实体词;
将所述实体词映射至所述未标注的医学文献数据中,并进行分词处理,得到所述实体词在所述未标注的医学文献数据中的位置;
将所述实体词和所述实体词在所述未标注的医学文献数据中的位置输入所述实体分类模型中,得到所述第一特征向量。
4.根据权利要求3所述的方法,其特征在于,将所述实体词和所述实体词在所述未标注的医学文献数据中的位置输入所述实体分类模型中,得到所述第一特征向量,包括:
通过所述实体分类模型的编码层对所述实体词在所述未标注的医学文献数据中的位置进行处理,得到第一实体向量;
通过所述实体分类模型中冻结后的编码层对所述实体词进行处理,得到第二实体向量;
将所述第一实体向量和所述第二实体向量作为所述第一特征向量。
5.根据权利要求3所述的方法,其特征在于,所述实体分类模型按照如下方式构建,包括:
获取医学数据库数据,所述医学数据库数据包括实体名称和实体类别;
将所述实体名称和所述实体类别进行整理,得到实体词典;
基于所述实体词典对预设深度学习模型进行训练,构建所述实体分类模型。
6.根据权利要求3所述的方法,其特征在于,所述实体边界识别模型按照如下方式构建,包括:
采用span指针遍历所述已标注的医学文献数据;
通过预训练语言模型对所述已标注的医学文献数据进行训练,构建所述实体边界识别模型。
7.根据权利要求1所述的方法,其特征在于,基于所述新增标签和所述第一知识图谱更新所述关系抽取模型,得到第二知识图谱,包括:
基于所述已标注的历史医学文献数据和所述新增标签进行训练,按照损失函数最小化对所述关系抽取模型中的参数进行优化处理,得到更新后的关系抽取模型;
将所述未标注的医学文献数据输入所述更新后的关系抽取模型中进行推理预测,得到三元组信息;
对所述三元组信息进行校验和后处理,得到所述第二知识图谱。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军总医院,未经中国人民解放军总医院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111058841.4/1.html,转载请声明来源钻瓜专利网。