[发明专利]数据提取模型建立方法及装置有效
申请号: | 201811251141.5 | 申请日: | 2018-10-25 |
公开(公告)号: | CN109460434B | 公开(公告)日: | 2020-11-03 |
发明(设计)人: | 岳永鹏;邹晶 | 申请(专利权)人: | 北京知道创宇信息技术股份有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06N3/04;G06N3/08 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 杨奇松 |
地址: | 100000 北京市朝阳区阜*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 提取 模型 建立 方法 装置 | ||
1.一种数据提取模型建立方法,其特征在于,所述方法包括:
建立数据提取模型,其中,所述数据提取模型包括用于识别实体的条件随机场CRF以及用于确定实体对中的两个实体的关系类别的卷积神经网络CNN;
获取包括多条训练语句的训练样本集,并对所述训练样本集中的训练语句进行预处理;
通过预处理后的所述训练样本集对所述数据提取模型中的所述CRF和所述CNN进行并行训练;
其中,对所述训练样本集中的训练语句进行预处理,包括:
针对所述训练样本集中包括多个关系类别的训练语句,确定该训练语句包括的关系类别的数量,根据该数量复制该训练语句得到多份训练语句,以使所述多份训练语句与所述多个关系类别一一对应;
分析所述多条训练语句,针对所述多条训练语句中的每一关系类别,统计具有该关系类别的训练语句的数量,并根据统计结果对所述训练样本集中的训练语句进行调整,以均衡所述训练样本集中的训练语句的关系类别;
针对所述训练样本集中包括实体的训练语句,若该实体包括多个单词,则为该多个单词中的第一个单词添加第一标签,为该多个单词中的最后一个单词添加第二标签,为该第一个单词和该最后一个单词之间的单词添加第三标签;若该实体包括一个单词,则为该单词添加第四标签;
针对所述训练样本集中具有实体对的训练语句,将该实体对的关系标签处理为三元组,该三元组包括该实体对中的两个实体各自的位置信息以及相互之间的关系类别;
针对所述训练样本集中的每条训练语句,通过类别字典将该训练语句处理为整型标识形式的目标训练语句;
针对每一目标训练语句,对该目标训练语句进行扩充得到单词数量为第一数量的第一语句,以及字符数量为第二数量的第二语句;
其中,通过预处理后的所述训练样本集对所述数据提取模型中的所述CRF和所述CNN并行训练,包括:
从预处理得到的多条目标训练语句中抽取预设数量条目标训练语句,针对抽取的每一目标训练语句,从预设词向量库中检索该目标训练语句对应的第一语句的词向量信息以将该第一语句转换成词向量;通过BiLSM网络对该目标训练语句对应的第二语句进行训练以将该第二语句转换成字符向量;将转换得到的词向量和字符向量拼接成混合特征向量;
通过BiLSM模型对所述混合特征向量进行编码,输出相应的编码信息;
将所述编码信息输入所述CRF,以识别该训练语句中的实体,并为识别出的实体添加实体标签,得到该训练语句的实体标注序列;
通过预处理后的所述训练样本集对所述数据提取模型中的所述CRF和所述CNN并行训练,还包括:
针对该目标训练语句中的每一实体对,根据该实体对的三元组从所述编码信息中获取该实体对中的两个实体各自的特征向量作为第一特征向量,从该目标训练语句的混合特征向量中获取位于该实体对中的两个实体之间的语句特征向量作为第二特征向量;
从所述实体标注序列中获取该实体对中的两个实体的实体标签,对获取的实体标签进行随机向量化表示,得到第三特征向量;
对所述第一特征向量、所述第二特征向量和所述第三特征向量进行拼接,得到目标拼接向量;
将所述目标拼接向量输入所述CNN,得到该实体对中的两个实体的关系类别。
2.根据权利要求1所述的方法,其特征在于,通过预处理后的所述训练样本集对所述数据提取模型中的所述CRF和所述CNN并行训练,还包括:
当所述CRF的损失函数和所述CNN的损失函数的和收敛,或当训练的迭代次数达到预设的最大值时,停止训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京知道创宇信息技术股份有限公司,未经北京知道创宇信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811251141.5/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置