[发明专利]恶意软件检测系统攻击防止

说明书

系统和方法可以用于在恶意软件检测系统上防止攻击。一种方法可以包括：在机器学习系统的训练期间使用传入的二进制文件对有向图的时间序列进行建模，并且在时间序列的时间窗口期间基于有向图的时间序列中的有向图来检测异常。该方法可以包括提供关于异常已经损坏机器学习系统的警报。该方法可以包括防止或补救机器学习系统的损坏。

本申请是2018年5月25日提交的申请号为201810528231.8的同名专利申请的分案申请。

背景技术

在整个世界上恶意软件对系统的攻击是普遍且危险的。敲诈、盗窃和勒索困扰被感染系统的用户。随着恶意软件攻击变得更加复杂，越来越复杂的技术正被用于挫败攻击者。机器学习技术是一种训练系统防止恶意软件攻击的方法。自动化机器学习技术在恶意软件检测中证明是强大的。然而，敌方恶意软件攻击者经常试图使恶意软件训练数据中毒、欺骗机器学习系统以产生不正确的模型。这导致降级的分类准确度或高误报率，从而影响机器学习系统的有效性。

附图说明

在不一定按比例绘制的附图中，同样的附图标记可以在不同的视图中描述相似的组件。具有不同字母后缀的同样的附图标记可以表示相似组件的不同实例。附图通常通过示例的方式而非限制的方式示出本文档中讨论的各种实施例。

图1示出了根据一些实施例的恶意软件检测和警报系统。

图2A示出了根据一些实施例的没有启用警报系统的机器学习系统。

图2B示出了根据一些实施例的启用警报系统的机器学习系统。

图3示出了根据一些实施例的用于防止数据中毒攻击的警报系统的框图。

图4示出了根据一些实施例的示出异常检测的图。

图5示出了根据一些实施例的示出用于在恶意软件检测系统上防止攻击的技术的流程图。

图6总体示出了根据一些实施例的本文讨论的技术(例如，方法)中的任意一个或多个可以在其上执行的机器的框图的示例。

具体实施方式

本文描述了用于在恶意软件检测系统上防止攻击的系统和方法。本文描述的系统和方法用于允许被用于检测恶意软件的机器学习系统不因恶意软件攻击中毒。可以训练机器学习系统以防止恶意软件攻击。然而，在敌对机器学习中，对机器学习系统的微妙攻击(例如，当其在训练时)可能使机器学习系统将某些恶意软件攻击接受为正常、非威胁的请求。例如，一种类型的攻击涉及在一段时间内缓慢增加机器学习系统对异常攻击的容忍度。

攻击者可能探测机器学习系统以试图确定机器学习系统正在运行什么算法、在机器学习系统中设置了什么参数、或者机器学习系统可以允许或拒绝什么动作。攻击者可能发现针对机器学习系统的边界决策，以便适于边界内以允许恶意软件通过机器学习系统。攻击可以是渐进而具有缓慢的变化的。攻击者的目标是欺骗机器学习系统使其决定发送的恶意软件实际上是良性的。

本文描述的系统和方法在恶意软件检测系统上提供了在全面攻击发动之前针对攻击的恶意软件检测系统的警报系统。警报系统可以在机器学习系统顶部工作。警报系统在对攻击者的探测时间期间针对攻击向机器学习系统发出警报。响应于警报，机器学习系统可以拒绝来自攻击源的输入、改变机器学习算法(使其更鲁棒或增强机器学习系统的鲁棒性)等。

在示例中，对机器学习系统的恶意软件攻击可以包括诱发型攻击，其使机器学习系统容忍越来越多的异常恶意软件输入。最终，在机器学习系统足够容忍之后，恶意软件攻击包括启动全面攻击恶意文件，恶意文件由于容忍度而不被机器学习系统阻止。本文描述的系统和方法使用基于调用图的时间序列上的动态异常检测的新颖警报系统来防止攻击。警报系统检测何时已发生数据中毒攻击，并且向机器学习系统警报该攻击。然后，机器学习系统可以调整机器学习模型或阻止诱发型攻击，并且防止全面攻击。