[发明专利]基于少量训练样本的信息抽取方法及装置在审
申请号: | 202010138072.8 | 申请日: | 2020-03-03 |
公开(公告)号: | CN111506696A | 公开(公告)日: | 2020-08-07 |
发明(设计)人: | 谭莹;黄麟越;许开河;王少军 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/31 | 分类号: | G06F16/31;G06F16/35;G06F40/30 |
代理公司: | 北京中强智尚知识产权代理有限公司 11448 | 代理人: | 黄耀威 |
地址: | 518000 广东省深圳市福田街*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 少量 训练 样本 信息 抽取 方法 装置 | ||
本发明公开了一种基于少量训练样本的信息抽取方法及装置,涉及数据处理技术领域,为解决现有技术中不能得到待提取文本的有效目标文本信息的问题而发明。该方法主要包括:获取训练样本,所述训练样本是已标注的待抽取关键信息的文本;根据BERT语言模型,提取所述训练样本中每个句子的样本特征向量;根据所述训练样本、所述待抽取关键信息和所述样本特征向量,训练初始模型,得到文本预测模型;根据所述文本预测模型,抽取待抽取文本的抽取信息。本发明主要应用于信息抽取的过程中。
技术领域
本发明涉及一种数据处理技术领域,特别是涉及一种基于少量训练样本的信息抽取方法及装置。
背景技术
信息抽取是将非结构化的文本包含的信息进行结构化处理,输出固定格式的信息点,从而帮助用户对海量内容进行分类、提取和重构。信息抽取的标签通常包括实体、关系、事件,如抽取时间、地点、关键人物等。信息抽取具有重要意义,由于其能从大量文本中抽取出用户感兴趣的信息框架和内容,可用于信息检索、信息整合等,在情感分析、文本挖掘等方面有丰富的应用场景。
现有技术中,采用获取通用文本提取模型,然后获取少量训练样本,再将训练样本数据通用文本提取模型中进行训练得到通用文本提取模型对训练样本提取得到的训练标准字段,再根据训练标准字段和目标标准字段对通用文本提取模块的参数进行调整,知道满足收敛条件,得到目标文本提取模型,最后将待提取文本输入模板文本提取模型中个,通过目标文本提取模型从待提取文本中得到目标文本信息。
采用上述方法,由于训练样本较少,目标文本信息与训练标注字段可能不一致,导致不能得到待提取文本的有效目标文本信息。
发明内容
有鉴于此,本发明提供一种基于少量训练样本的信息抽取方法及装置,主要目的在于解决现有技术中不能得到待提取文本的有效目标文本信息的问题。
依据本发明一个方面,提供了一种基于少量训练样本的信息抽取方法,包括:
获取训练样本,所述训练样本是已标注的待抽取关键信息的文本;
根据BERT语言模型,提取所述训练样本中每个句子的样本特征向量;
根据所述训练样本、所述待抽取关键信息和所述样本特征向量,训练初始模型,得到文本预测模型;
根据所述文本预测模型,抽取待抽取文本的抽取信息。
依据本发明另一个方面,提供了一种基于少量训练样本的信息抽取装置,包括:
获取模块,用于获取训练样本,所述训练样本是已标注的待抽取关键信息的文本;
提取模块,用于根据BERT语言模型,提取所述训练样本中每个句子的样本特征量;
训练模块,用于根据所述训练样本、所述待抽取关键信息和所述样本特征向量,训练初始模型,生成文本预测模型;
抽取模块,用于根据所述文本预测模型,抽取待抽取文本的抽取信息。
根据本发明的又一方面,提供了一种计算机存储介质,所述计算机存储介质中存储有至少一可执行指令,所述可执行指令使处理器执行如上述基于少量训练样本的信息抽取方法对应的操作。
根据本发明的再一方面,提供了一种计算机设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行上述基于少量训练样本的信息抽取方法对应的操作。
借由上述技术方案,本发明实施例提供的技术方案至少具有下列优点:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010138072.8/2.html,转载请声明来源钻瓜专利网。