[发明专利]一种基于电子病历文本的可迁移语言模型在审
申请号: | 202110683036.4 | 申请日: | 2021-06-18 |
公开(公告)号: | CN113408277A | 公开(公告)日: | 2021-09-17 |
发明(设计)人: | 薛魁;柳俊;王奕;黄宗浩;叶琪 | 申请(专利权)人: | 华东理工大学 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/253;G16H15/00 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 200237 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提出了一种基于电子病历文本的可迁移语言模型,该模型通过医学知识库将电子病历文本分离成模板与术语两大部分,先利用Pattern Attention对自然语言模板单独建模,再利用KG Cross Attention融合对应的医疗术语,使得模型能够利用医学知识库分离病历文本进行建模,从而完成跨专科的信息抽取。为了让模型更加适应于电子病历文本,本发明设计了三种预训练任务,通过这种方法对模型进行预训练后,可以大幅降低模型在相近专科内的迁移难度。 | ||
搜索关键词: | 一种 基于 电子 病历 文本 迁移 语言 模型 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华东理工大学,未经华东理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110683036.4/,转载请声明来源钻瓜专利网。