[发明专利]异常数据的检测方法、系统及存储介质在审
申请号: | 201711458897.2 | 申请日: | 2017-12-28 |
公开(公告)号: | CN109976930A | 公开(公告)日: | 2019-07-05 |
发明(设计)人: | 卢欣 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F11/07 | 分类号: | G06F11/07 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 刘映东 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 待检测数据 检测节点 检测 异常数据 孤立 存储介质 森林 分发 互联网技术 数据存储量 检测结果 节点获取 模型检测 预先建立 时长 子集 并行 存储 集合 | ||
本发明公开了一种异常数据的检测方法、系统及存储介质,属于互联网技术领域。所述方法包括:检测节点获取预先建立的孤立森林模型检测节点获取待检测数据子集;检测节点计算每个待检测数据在孤立森林模型中的平均路径长度;检测节点根据每个待检测数据在孤立森林模型中的平均路径长度,计算每个待检测数据的检测分数;检测节点根据每个待检测数据的检测分数,确定对每个待检测数据的检测结果。本发明通过将待检测数据集合中的待检测数据分发到不同的检测节点上进行存储,减轻了每个检测节点上的数据存储量,且通过将孤立森林模型分发到不同的检测节点上,从而能够在不同的检测节点上并行对异常数据进行检测,提高了检测速度,缩短了检测时长。
技术领域
本发明涉及互联网技术领域,特别涉及一种异常数据的检测方法、系统及存储介质。
背景技术
异常数据是指海量数据中与其他数据的规律不符合的数据。对异常数据的查找过程称为异常数据的检测。异常数据的检测具有广泛的应用场景,包括网络安全方面的攻击检测、金融方面的欺诈检测、医疗方面的疾病检测、噪声处理方面的噪声过滤等。通过对检测出的异常数据进行分析,能够及时发现各种不正常行为,以降低风险发生概率。
孤立森林(Isolation Forest)模型是一种从异常数据出发建立的异常检测模型,基于所建立的孤立森林模型,现有的异常数据检测方法为:获取待检测数据集合,该待检测数据集合包括至少两个待检测数据,将待检测数据集合中的每个待检测数据输入到孤立森林模型中,得到每个待检测数据的检测分数,根据每个待检测数据的检测分数,确定对每个待检测数据的检测结果。
然而,待检测数据集合中的数据量通常是海量的,将海量待检测数据输入到同一孤立森林模型中进行检测,检测速度较慢,检测过程所消耗的时间较长。
发明内容
为了解决相关技术的问题,本发明实施例提供了一种异常数据的检测方法、系统及存储介质。所述技术方案如下:
一方面,提供了一种异常数据的检测方法,所述方法应用于分布式检测系统中,所述分布式检测系统包括至少两个检测节点,所述方法包括:
所述检测节点获取预先建立的孤立森林模型;
所述检测节点获取待检测数据子集,所述待检测数据子集为待检测数据集合的一个子集,所述待检测数据子集包括至少两个待检测数据;
所述检测节点计算每个待检测数据在所述孤立森林模型中的平均路径长度;
所述检测节点根据每个待检测数据在所述孤立森林模型中的平均路径长度,计算每个待检测数据的检测分数;
所述检测节点根据每个待检测数据的检测分数,确定对每个待检测数据的检测结果。
另一方面,提供了一种分布式检测系统,所述分布式检测系统包括至少两个检测节点;
所述检测节点,用于获取预先建立的孤立森林模型;
所述检测节点,用于获取待检测数据子集,所述待检测数据子集为待检测数据集合的一个子集,所述待检测数据子集包括至少两个待检测数据;
所述检测节点,用于计算每个待检测数据在所述孤立森林模型中的平均路径长度;
所述检测节点,用于根据每个待检测数据在所述孤立森林模型中的平均路径长度,计算每个待检测数据的检测分数;
所述检测节点,用于根据每个待检测数据的检测分数,确定对每个待检测数据的检测结果。
另一方面,提供了一种节点,其特征在于,所述节点包括处理器和存储器,所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或所述指令集由所述处理器加载并执行以实现异常数据的检测方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711458897.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:数据生产过程的故障定位方法、装置
- 下一篇:一种软件系统修复处理方法