[发明专利]一种关键词提取方法、提取装置、介质和电子设备在审
申请号: | 201711183233.X | 申请日: | 2017-11-23 |
公开(公告)号: | CN108009149A | 公开(公告)日: | 2018-05-08 |
发明(设计)人: | 刘嘉伟;崔朝辉;赵立军;张霞 | 申请(专利权)人: | 东软集团股份有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27 |
代理公司: | 北京工信联合知识产权代理有限公司 11266 | 代理人: | 郭一斐;叶万东 |
地址: | 110179 辽宁省沈*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 关键词 提取 方法 装置 介质 电子设备 | ||
1.一种关键词提取方法,其特征在于,包括如下步骤:
步骤S110,从待分析文本中获取中心词;
步骤S120,根据预设的滑动窗口大小建立模型,获取所述中心词在所述待分析文本中的上下文词;
步骤S130,所述上下文词构成一个Huffman树的叶节点,获取每个上下文词的Huffman编码;
步骤S140,计算所述每个上下文词在Huffman树中的概率;
步骤S150,将所述中心词的每个上下文词的概率相乘,得到所述中心词的关键词权重;
步骤S160,遍历所述待分析文本中的每个词作为中心词,执行所述步骤
S110-S150,分别获取各个中心词的关键词权重;
步骤S170,
将关键词权重超过阈值的中心词确定为要提取的关键词。
2.根据权利要求1所述的一种关键词提取方法,其特征在于:所述步骤S110之前还包括:从语料中利用Word2Vec技术训练词向量。
3.根据权利要求1所述的一种关键词提取方法,其特征在于:所述步骤S120还包括,根据业务需求调整所述滑动窗口的大小。
4.根据权利要求1所述的一种关键词提取方法,其特征在于:所述步骤S140之前,还包括获取所述从语料中利用Word2Vec技术训练后的中心词的词向量。
5.根据权利要求1或4所述的一种关键词提取方法,其特征在于:所述步骤S140中,计算一个上下文词在Huffman树中的概率具体包括:
确定所述Huffman树中从根节点到要计算概率的该上下文词所经历的路径中的所有节点;
逐个计算所述路径中的节点的概率;
将所述路径中的所有节点的概率相乘得到该上下文词在Huffman树中的概率。
6.根据权利要求5所述的一种关键词提取方法,其特征在于:所述逐个计算路径中的节点的概率步骤,具体包括:一个节点的概率算法为,该节点的父节点向量的转置与所述中心词的词向量求点积,如果该节点为左节点,其概率为所述点积的sigmoid函数,如果该节点为右节点,其概率为1减去其对应的所述左节点的概率;或者,如果该节点为右节点,其概率为所述点积的sigmoid函数,如果该节点为左节点,其概率为1减去其对应的所述右节点的概率。
7.一种关键词提取装置,具体包括如下模块:
获取模块,用于从待分析文本中获取中心词,以及根据预设的滑动窗口大小获取所述中心词在所述待分析文本中的上下文词;
计算模块,用于将所述上下文词构成一个Huffman树的叶节点,计算所述中心词的词向量,和/或根据所述每个上下文词的Huffman编码,计算所述每个上下文词在Huffman树中的概率;
权重模块,用于将所述中心词的每个上下文词的概率相乘,得到所述中心词的关键词权重;
遍历模块,用于遍历待分析文本中的每个词作为中心词,执行步骤S110-S140,分别获取各个中心词的关键词权重;
输出模块,用于将关键词权重超过阈值的中心词确定为要提取的关键词。
8.根据权利要求7所述的一种关键词提取装置,其特征在于:
所述计算模块具体用于:确定Huffman树中从根节点到要计算概率的上下文词所经历的路径中的所有节点;逐个计算路径中的节点的概率;将所述路径中的所有节点的概率相乘得到所述上下文词在Huffman树中的概率。
9.根据权利要求7所述的一种关键词提取装置,其特征在于:
所述计算模块具体用于:一个节点的概率算法为,该节点的父节点向量的转置与所述中心词的词向量求点积,如果该节点为左节点,其概率为所述点积的sigmoid函数,如果该节点为右节点,其概率为1减去其对应的所述左节点的概率;或者,如果该节点为右节点,其概率为所述点积的sigmoid函数,如果该节点为左节点,其概率为1减去其对应的所述右节点的概率。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-6中任一项所述方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东软集团股份有限公司,未经东软集团股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711183233.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:数据传输方法和数据传输装置
- 下一篇:一种耳标注塑件步进攻丝装置