[发明专利]一种适用于word文本的关键词提取方法有效
申请号: | 202010188511.6 | 申请日: | 2020-03-17 |
公开(公告)号: | CN111401040B | 公开(公告)日: | 2021-06-18 |
发明(设计)人: | 张校源;陈骁;马祥祥 | 申请(专利权)人: | 上海爱数信息技术股份有限公司 |
主分类号: | G06F40/216 | 分类号: | G06F40/216;G06F40/289;G06F16/35 |
代理公司: | 上海科盛知识产权代理有限公司 31225 | 代理人: | 杨宏泰 |
地址: | 201112 上海市闵行*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 适用于 word 文本 关键词 提取 方法 | ||
1.一种适用于word文本的关键词提取方法,其特征在于,包括以下步骤:
S1:获取word文本并提取正文;
S2:分别利用TFIDF算法和TextRank算法提取设定个数的关键词;
S3:获取文本名称和文本标题,并进行分词;
S4:对TextRank算法提取的每个关键词分别构建文本特征向量,并输入训练完成的关键词提取模型,所述的文本特征向量为包含六位数的向量,其中第一位数表示该词在TextRank算法提取的关键词中的排名;第二位数表示该词在TFIDF算法提取的关键词中的排名;第三位数和第四位数为步骤S41中得到的向量;第五位数和第六位数为步骤S42中得到的向量;
所述的步骤S41具体为:判断利用TextRank算法提取的关键词是否出现在文本名称的分词中,若是,则用[1,0]向量表示,否则用[0,1]向量表示;
所述的步骤S42具体为:判断利用TextRank算法提取的关键词是否出现在文本标题的分词中,若是,则用[1,0]向量表示,否则用[0,1]向量表示;
S5:利用关键词提取模型,对通过TextRank算法提取的关键词再次提取,得到最终关键词集合,完成文本关键词的提取,具体包括:所述的关键词提取模型根据输入的文本特征向量,判断TextRank算法提取的关键词是否为真实关键词,若是,则输出为1,否则输出为0,最后取出判断结果为1的词,作为最终关键词集合,完成文本关键词的提取;
所述的关键词提取模型的训练步骤具体包括:
A1:获取包含文本名称、文本标题和正文的多篇文本,组成训练集;
A2:对训练集中的文本进行预处理,得到预处理后文本;
A3:提取文本原有关键词,并进行分词,作为文本特征向量的标签;
A5:分别利用TFIDF算法和TextRank算法提取设定个数的关键词;
A6:获取文本名称和文本标题,并分别判断利用TextRank算法提取的关键词是否出现在文本名称和文本标题中,若是,则用[1,0]向量表示,否则用[0,1]向量表示;
A7:构建文本特征向量矩阵,所述的文本特征向量矩阵中包括利用TextRank算法提取的关键词所对应的向量,该向量为包含七位数的向量;
A8:利用文本特征向量矩阵创建关键词提取模型并进行模型训练。
2.根据权利要求1所述的一种适用于word文本的关键词提取方法,其特征在于,若利用TextRank算法提取的某个关键词,在TFIDF算法提取的关键词中不存在,则文本特征向量的第二位数的值设为利用TFIDF算法提取的关键词的数量。
3.根据权利要求1所述的一种适用于word文本的关键词提取方法,其特征在于,所述的步骤S2具体包括:
利用TFIDF算法提取tfidf值排名靠前的100个词作为TFIDF算法的关键词,利用TextRank算法提取排名前100个词作为TextRank算法的关键词。
4.根据权利要求1所述的一种适用于word文本的关键词提取方法,其特征在于,所述的包含七位数的向量中,第一位数表示该词在TextRank算法提取的关键词中的排名;第二位数表示该词在TFIDF算法提取的关键词中的排名;第三位数和第四位数为步骤A6中得到的,用于表示该词是否出现在文本名称中的向量;第五位数和第六位数为步骤A6中得到的,用于表示该词是否出现在文本标标题中的向量;第七位数表示该词是否为原有关键词中的一个,若是则记为1,否则记为0。
5.根据权利要求4所述的一种适用于word文本的关键词提取方法,其特征在于,所述的关键词提取模型为二分类模型P(Y|X),模型训练时,所述的文本特征向量矩阵中每个向量的前六位数作为X,第七位数作为标签Y。
6.根据权利要求5所述的一种适用于word文本的关键词提取方法,其特征在于,所述的关键词提取模型使用LR模型、SVM模型或决策树模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海爱数信息技术股份有限公司,未经上海爱数信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010188511.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种标准比对方法
- 下一篇:一种图片文件的清理方法及其装置