[发明专利]基于最小正规化信息距离的判别式文本聚类方法及系统

权利要求书

1.一种基于最小正规化信息距离的判别式文本聚类方法，其特征在于，包括：

对文本数据集进行向量化处理，所述文本数据集包括多个文本，各个所述文本包括多个关键字，所述对文本数据集进行向量化处理包括：对所述文本数据集进行程序化处理，得到所述文本数据集中的每个关键字和各个所述关键字对应的程序化处理值的关系，记为key，value；对各个所述关键字按字典顺序排序并建立索引；将所述文本数据集中的每个文本的程序化处理值按其关键字对应的索引顺序排列成向量，作为所述文本的特征向量，综合各个所述文本的特征向量，记为：x_i＝[value₁，value₂，...，value_M]，其中，i表示文本序号，M为所述文本数据集中相应索引下的所述关键字的总数；将所述向量化后的所述文本数据集{x₁，...，x_i，...，x_N}进行降维处理，其中，N是所述文本数据集中文本的数量，x_i表示第i个文本的所述特征向量；

针对向量化处理的所述文本数据集，初始化模型参数集，所述初始化模型参数集包括：在所述向量化处理的所述文本数据集上执行聚类数为K的k均值算法，得到K个聚类{C₁，C₂，...，C_K}，将属于C_k的数据标注其类别为k，1≤k≤K，获得带标签的数据集；针对所述带标签的数据集，执行多分类逻辑回归方法，获得初始化模型参数集所述初始化模型参数集对应一条件模型为：

其中，x^*T＝[x^T，1]∈R^D+1，/表示参数/的转置，x^*T表示向量x^*的转置，R^D+1中D表示数据维度，R是实数集合，R^D+1表示(D+1)维的实数空间，即表示w^*的空间维度；

通过最小正规化信息距离以梯度下降法计算并更新所述参数集，所述通过最小正规化信息距离以梯度下降法计算并更新所述参数集包括：基于初始参数集中的参数通过所述条件模型计算所述带标签的数据集中的聚类标签的经验分布：/其中，1≤k≤K；初始化F的值，记录F2＝F；计算目标函数F的值及目标函数F关于参数/的梯度，更新所述参数集；

设置终止条件输出最终的所述参数集；

利用所述最终的所述参数集设计判别式文本聚类算法实现文本聚类。

2.根据权利要求1所述的基于最小正规化信息距离的判别式文本聚类方法，其特征在于，所述程序化处理为词频-逆文档频率算法处理。

3.根据权利要求1所述的基于最小正规化信息距离的判别式文本聚类方法，其特征在于，更新所述参数集包括：

基于初始的参数计算目标函数F的值：

计算目标函数F关于参数的梯度，其中，k∈{1，...，K}：/

其中，表示/的第d个元素，/表示/的第d个元素，p_k，p_ki分别表示p(k)和p(k|x_i)；

更新参数

其中，η是学习步长，且η＞0，由人为设定。

4.根据权利要求3所述的基于最小正规化信息距离的判别式文本聚类方法，其特征在于，所述设置终止条件输出最终的所述参数集包括：

设置参数E，且E＞0；

若|F-F2|＜E，则输出参数集

5.根据权利要求4所述的基于最小正规化信息距离的判别式文本聚类方法，其特征在于，所述设置终止条件输出最终的所述参数集还包括：

若|F-F2|≥E，则记录F2＝F，并重新执行更新参数集的过程，直到|F-F2|＜E时，输出参数集

6.一种基于最小正规化信息距离的判别式文本聚类系统，其特征在于，包括：

文本输入单元，输入待聚类的文本数据集；

文本处理单元，内置有权利要求1至4中任一所述的基于最小正规化信息距离的判别式文本聚类方法，实现所述文本数据集的文本聚类；

文本输出单元，输出所述文本聚类结果。