[发明专利]一种基于信息增益和改进KNN算法的日志分类方法

权利要求书

1.一种基于信息增益和改进KNN算法的日志分类方法，用于对日志进行自动分类，其特征在于，包括以下步骤：

获取系统的日志数据；

在日志中选择部分日志作为第一训练样本；

对日志数据进行预处理；

根据信息增益提取日志数据中的特征向量；

所述根据信息增益提取日志数据中的文本向量包括以下子步骤：

计算第一训练样本的信息熵；

所述计算第一训练样本的信息熵包括以下内容：

对第一训练样本进行分类，定义为C₁,C₂,...,C_n，每一个类别出现的概率定义为P(C₁),P(C₂),...,P(C_n)；其中，所述n表示分类的类别总数；

第一训练样本的信息熵H(C)通过下式进行表达：

计算每个词语的条件熵；

所述词语的条件熵H(C|t)通过下式进行表达：

其中，所述t表示词语，所述P(C_i|t)表示包含词语t的C_i类中的日志数量占整体包含词语t的日志数量的比重；所述表示不包含词语t的C_i类中的日志数量占整体不包含词语t的日志数量的比重；

根据第一训练样本的信息熵和词语的条件熵，得到每个词语的信息增益；

所述词语的信息增益IG(t)通过下式进行表达：

IG(t)＝H(C)-H(C|t)；

根据每个词语的信息增益，选取k个词语定义为文本特征；

根据每篇日志中包含k个文本特征的词频，组成一个k维特征向量；

结合日志数据中的特征向量和改进KNN算法对日志进行分类；

所述结合日志数据中的特征向量和改进KNN算法对日志进行分类包括以下子步骤：

对第一训练样本的各类分别通过k-means算法进行聚类，并提取出聚类结果；

为第一训练样本的每个类随机选择测试样本，计算其与聚类结果中的各个簇的簇中心向量的相似度；

根据相似度的值，筛选出若干数量簇，组成第二训练样本；

计算非第一训练样本的日志数据与第二训练样本的日志数据的欧氏距离；

根据欧氏距离选取与非第一训练样本的日志数据的欧式距离最近的第二训练样本的k个数据；

计算第二训练样本中各类的权重w_i；

计算与非第一训练样本的日志数据的欧式距离最近的第二训练样本的k个数据的各类数据的频率与其对应的权重的乘积，最大值对应的类定义为非第一训练样本的日志数据的类。

2.根据权利要求1所述的日志分类方法，其特征在于，所述对日志数据进行预处理包括以下子步骤：

对日志数据中的文本信息进行分词处理；

对日志数据中的停用词进行去除。

3.根据权利要求1所述的日志分类方法，其特征在于，所述根据每个词语的信息增益，选取k个词语定义为文本特征包括以下内容：

根据每个词语的信息增益值从大到小排序，选取前k个词语定义为文本特征；或者

根据每个词语的信息增益值从小到大排序，选取后k个词语定义为文本特征。

4.根据权利要求1所述的日志分类方法，其特征在于，所述欧氏距离通过下式进行表达：

其中，所述x_im为日志数据i的第m维特征，所述x_jm为日志数据j的第m维特征。