[发明专利]一种文本聚类方法、装置、设备及可读存储介质在审
申请号: | 201810763151.0 | 申请日: | 2018-07-12 |
公开(公告)号: | CN108846142A | 公开(公告)日: | 2018-11-20 |
发明(设计)人: | 曾广移;李德华;巩宇;卢勇;丁钊;杨小龙;梁莉雪;黄小凤;王晓翼;杨宗强 | 申请(专利权)人: | 南方电网调峰调频发电有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06F17/27;G06N3/02 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 罗满 |
地址: | 510635 广东省广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本聚类 神经网络训练 目标源 可读存储介质 神经网络算法 缓存 分布式集群 目标数据 文本 服务器 读取 技术效果 聚类分析 聚类过程 聚类结果 模型产生 文本特征 中间结果 最大概率 数据量 聚类 预设 存储 应用 | ||
1.一种文本聚类方法,其特征在于,应用于分布式集群中的服务器,包括:
获取待聚类的目标源文本;
采用最大概率法提取所述目标源文本中的文本特征,获得目标数据;
从自身缓存中读取预设的神经网络训练模型;
根据所述神经网络训练模型和神经网络算法,对所述目标数据进行聚类分析,并生成与所述目标源文本对应的文件族。
2.根据权利要求1所述的文本聚类方法,其特征在于,所述采用最大概率法提取所述目标源文本中的文本特征,获得目标数据,包括:
对所述目标源文件进行预处理,并从预处理后的目标源文本中提取文本分词,所述文本分词包括:数字、日期、名字和词性;
从所述文本分词中提取所述文本特征,并通过所述最大概率法确定出现概率最大的文本特征,所述文本特征包括:词权重、词频和逆文档频率。
3.根据权利要求1所述的文本聚类方法,其特征在于,所述神经网络训练模型的生成包括:
获取目标训练文本,并对所述目标训练文本进行归一化处理;
基于随机数,以及预设的连接值和阈值,对归一化处理后的目标训练文本进行稀疏逻辑回归,获得目标训练集合;
基于所述随机数,所述连接值和所述阈值迭代计算所述目标训练集合,生成所述神经网络训练模型。
4.根据权利要求1所述的文本聚类方法,其特征在于,所述生成与所述目标源文本对应的文件族,包括:
通过向量空间模型和向量间空间夹角的余弦值生成所述文件族。
5.根据权利要求1-4任意一项所述的文本聚类方法,其特征在于,所述生成与所述目标源文本对应的文件族之后,还包括:
将所述文件族进行可视化展示。
6.一种文本聚类装置,其特征在于,应用于分布式集群中的服务器,包括:
获取模块,用于获取待聚类的目标源文本;
提取模块,用于采用最大概率法提取所述目标源文本中的文本特征,获得目标数据;
读取模块,用于从自身缓存中读取预设的神经网络训练模型;
聚类模块,用于根据所述神经网络训练模型和神经网络算法,对所述目标数据进行聚类分析,并生成与所述目标源文本对应的文件族。
7.根据权利要求6所述的文本聚类装置,其特征在于,所述提取模块包括:
预处理单元,用于对所述目标源文件进行预处理,并从预处理后的目标源文本中提取文本分词,所述文本分词包括:数字、日期、名字和词性;
提取单元,用于从所述文本分词中提取所述文本特征,并通过所述最大概率法确定出现概率最大的文本特征,所述文本特征包括:词权重、词频和逆文档频率。
8.根据权利要求6所述的文本聚类装置,其特征在于,所述聚类模块具体用于:
通过向量空间模型和向量间空间夹角的余弦值生成所述文件族。
9.一种文本聚类设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1-5任意一项所述的文本聚类方法的步骤。
10.一种可读存储介质,其特征在于,所述可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1-5任意一项所述的文本聚类方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南方电网调峰调频发电有限公司,未经南方电网调峰调频发电有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810763151.0/1.html,转载请声明来源钻瓜专利网。