[发明专利]异常日志检测方法、装置、电子设备和存储介质在审
申请号: | 202110251137.4 | 申请日: | 2021-03-08 |
公开(公告)号: | CN115048345A | 公开(公告)日: | 2022-09-13 |
发明(设计)人: | 田国良;蒋强;邵森;单浩 | 申请(专利权)人: | 中国移动通信集团江苏有限公司;中国移动通信集团有限公司 |
主分类号: | G06F16/17 | 分类号: | G06F16/17;G06F16/35;G06F40/289 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 程琛 |
地址: | 210029*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 异常 日志 检测 方法 装置 电子设备 存储 介质 | ||
1.一种异常日志检测方法,其特征在于,包括:
确定待检测日志的日志特征;
基于异常检测模型,对所述日志特征进行多种不同算法下的异常检测,并对多种不同算法下的检测结果进行加权融合,得到异常检测结果,所述加权融合的权重是基于所述待检测日志中包含领域关键词的数量确定的;
所述异常检测模型是基于样本日志的日志特征及其异常标签训练得到的。
2.根据权利要求1所述的异常日志检测方法,其特征在于,所述加权融合的权重是基于如下步骤确定的:
基于所述样本日志中包含的日志分词的总数、预先设定的领域关键词的总数,以及所述待检测日志中包含领域关键词的数量,确定各算法的算法权重;
基于各算法的算法权重,以及各算法下进行异常检测的准确率,确定所述加权融合的权重。
3.根据权利要求2所述的异常日志检测方法,其特征在于,所述多种不同算法包括逻辑回归算法和catboost算法;
所述基于所述样本日志中包含的日志分词的总数、预先设定的领域关键词的总数,以及所述待检测日志中包含领域关键词的数量,确定各算法的算法权重,包括:
基于如下公式确定各算法的算法权重:
式中,μ逻辑回归和μcatboost分别为逻辑回归算法和catboost算法的算法权重,N=n+k,n为所述样本日志中包含的日志分词的总数,k为预先设定的领域关键词的总数,p为所述待检测日志中包含领域关键词的数量。
4.根据权利要求1所述的异常日志检测方法,其特征在于,所述异常标签是基于如下步骤确定的:
确定各样本日志的日志特征;
对各样本日志的日志特征进行聚类,得到多个日志簇;
获取各日志簇的人工标签,将人工标签作为对应日志簇内各日志特征对应样本日志的异常标签。
5.根据权利要求1至4中任一项所述的异常日志检测方法,其特征在于,所述确定待检测日志的日志特征,包括:
对所述待检测日志进行文本分词,得到所述待检测日志的各分词;
对所述待检测日志的各分词进行领域关键词匹配,基于匹配结果确定关键词向量;
基于所述待检测日志的各分词的词向量,以及所述关键词向量,构建所述待检测日志的日志特征。
6.根据权利要求5所述的异常日志检测方法,其特征在于,所述各分词的词向量是基于词频和逆文本频率指数确定的。
7.根据权利要求5所述的异常日志检测方法,其特征在于,所述对所述待检测日志进行文本分词,之前还包括:
对所述待检测日志进行去异常符号和中文信息提取;
基于去异常符号后的日志文本和提取所得的中文信息,重构所述待检测日志。
8.一种异常日志检测装置,其特征在于,包括:
特征提取单元,用于确定待检测日志的日志特征;
异常检测单元,用于基于异常检测模型,对所述日志特征进行多种不同算法下的异常检测,并对多种不同算法下的检测结果进行加权融合,得到异常检测结果,所述加权融合的权重是基于所述待检测日志中包含领域关键词的数量确定的;
所述异常检测模型是基于样本日志的日志特征及其异常标签训练得到的。
9.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至7任一项所述异常日志检测方法的步骤。
10.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述异常日志检测方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信集团江苏有限公司;中国移动通信集团有限公司,未经中国移动通信集团江苏有限公司;中国移动通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110251137.4/1.html,转载请声明来源钻瓜专利网。