[发明专利]基于word2vec的远监督非分类关系提取方法及系统在审
申请号: | 201710166727.0 | 申请日: | 2017-03-20 |
公开(公告)号: | CN107145503A | 公开(公告)日: | 2017-09-08 |
发明(设计)人: | 赵明;杜会芳;董翠翠;陈瑛 | 申请(专利权)人: | 中国农业大学 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京路浩知识产权代理有限公司11002 | 代理人: | 王庆龙 |
地址: | 100193 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 word2vec 监督 分类 关系 提取 方法 系统 | ||
技术领域
本发明涉及弱监督分类领域,具体涉及一种基于word2vec的远监督非分类关系提取方法及系统。
背景技术
当前在农业领域的类本体知识图谱方面,研究还处于起步阶段,非分类关系(除了上下位关系分类关系的其他关系)的相关文献报道也比较少。虽然有文献分别在面向古农学和茶学领域也涉及到了非分类关系的学习,如,何琳的《领域本体的半自动构建及检索研究》、徐济成的《面向蔬菜领域的本体学习建模研究》等,但都是采用了最基本的关联规则方法发现存在关系的概念对。不仅抽取的关系种类不够丰富,语料也主要来自书籍和文献,没有利用Web上庞大的数据资源。而且抽取的非分类关系的准确率也远低于一般分类关系的抽取准确率。
利用远监督方法进行非分类关系抽取,多会产生标签噪音,Zeng,D.等人在《Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks》利用多实例学习方法去除噪音,Takamatsu S等人在《Reducing wrong labels in distant supervision for relation extraction》采用高质量模板去除标签噪音。
但是大多数远监督关系识别方法中去除标签噪音的聚类算法没有充分考虑向量空间中各词向量之间的语法、语义信息,而网络百科和蔬菜网站对蔬菜品种的词条描述中,上下文信息很重要,并且对关系提取影响很大,因此,如何提供一种准确度较高的适用于蔬菜领域的非分类关系提取方法,成为亟待解决的技术问题。
发明内容
针对现有技术中的缺陷,本发明实施例提供一种基于word2vec的远监督非分类关系提取方法及系统。
一方面,本发明实施例提出一种基于word2vec的远监督非分类关系提取方法,包括:
S1、爬取网络百科和大型蔬菜网站的网络蔬菜领域非结构化文本数据作为语料,对所述语料依次进行预处理、数据对齐,得到初步的训练语料;
本实施例中,对所述语料依次进行预处理、数据对齐具体为对所述语料依次进行分词、词性标注等处理,并将处理结果和知识库中数据对齐。
S2、利用所述初步的训练语料训练word2vec模型,并利用所述word2vec模型将上述初步的训练语料中的句子中的词转化成空间向量,对于每个句子,将该句子中的词的空间向量相加并做平均处理得到该句子的空间向量;
S3、将所述初步的训练语料按照非分类关系类型进行聚合,对于聚合得到的每个关系的聚合数据,抽取常见句子模式和不常见的句子模式;
S4、将k设为2,以启发式方式选择两个分别满足两种不同模式的句子空间向量作为k-means聚类方法的初始中心,并对所有句子空间向量进行聚类,选择满足常见句子模式的一类,得到质量较好的训练语料;
S5、由所述质量较好的训练语料训练卷积神经网络模型,通过组成所述卷积神经网络模型的一个卷积层、一个池化层和一个全连接softmax层,从所述句子的空间向量提取非分类关系。
另一方面,本发明实施例一种基于word2vec的远监督非分类关系提取系统,包括:
获取单元,用于爬取网络百科和大型蔬菜网站的网络蔬菜领域非结构化文本数据作为语料,对所述语料依次进行预处理、数据对齐,得到初步的训练语料;
训练单元,用于利用所述初步的训练语料训练word2vec模型,并利用所述word2vec模型将上述初步的训练语料中的句子中的词转化成空间向量,对于每个句子,将该句子中的词的空间向量相加并做平均处理得到该句子的空间向量;
聚合单元,用于将所述初步的训练语料按照非分类关系类型进行聚合,对于聚合得到的每个关系的聚合数据,抽取常见句子模式和不常见的句子模式;
聚类单元,用于将k设为2,以启发式方式选择两个分别满足两种不同模式的句子空间向量作为k-means聚类方法的初始中心,并对所有句子空间向量进行聚类,选择满足常见句子模式的一类,得到质量较好的训练语料;
提取单元,用于由所述质量较好的训练语料训练卷积神经网络模型,通过组成所述卷积神经网络模型的一个卷积层、一个池化层和一个全连接softmax层,从所述句子的空间向量提取非分类关系。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国农业大学,未经中国农业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710166727.0/2.html,转载请声明来源钻瓜专利网。