恶意软件检测系统攻击防止技术方案

系统和方法可以用于在恶意软件检测系统上防止攻击。一种方法可以包括：在机器学习系统的训练期间使用传入的二进制文件对有向图的时间序列进行建模，并且在时间序列的时间窗口期间基于有向图的时间序列中的有向图来检测异常。该方法可以包括提供关于异常已经损坏机器学习系统的警报。该方法可以包括防止或补救机器学习系统的损坏。

【技术实现步骤摘要】
恶意软件检测系统攻击防止
技术介绍
在整个世界上恶意软件对系统的攻击是普遍且危险的。敲诈、盗窃和勒索困扰被感染系统的用户。随着恶意软件攻击变得更加复杂，越来越复杂的技术正被用于挫败攻击者。机器学习技术是一种训练系统防止恶意软件攻击的方法。自动化机器学习技术在恶意软件检测中证明是强大的。然而，敌方恶意软件攻击者经常试图使恶意软件训练数据中毒、欺骗机器学习系统以产生不正确的模型。这导致降级的分类准确度或高误报率，从而影响机器学习系统的有效性。附图说明在不一定按比例绘制的附图中，同样的附图标记可以在不同的视图中描述相似的组件。具有不同字母后缀的同样的附图标记可以表示相似组件的不同实例。附图通常通过示例的方式而非限制的方式示出本文档中讨论的各种实施例。图1示出了根据一些实施例的恶意软件检测和警报系统。图2A示出了根据一些实施例的没有启用警报系统的机器学习系统。图2B示出了根据一些实施例的启用警报系统的机器学习系统。图3示出了根据一些实施例的用于防止数据中毒攻击的警报系统的框图。图4示出了根据一些实施例的示出异常检测的图。图5示出了根据一些实施例的示出用于在恶意软件检测系统上防止攻击的技术的流程图。图6总体示出了根据一些实施例的本文讨论的技术(例如，方法)中的任意一个或多个可以在其上执行的机器的框图的示例。具体实施方式本文描述了用于在恶意软件检测系统上防止攻击的系统和方法。本文描述的系统和方法用于允许被用于检测恶意软件的机器学习系统不因恶意软件攻击中毒。可以训练机器学习系统以防止恶意软件攻击。然而，在敌对机器学习中，对机器学习系统的微妙攻击(例如，当其在训练时)可能使机器学习系统将某些恶意软件攻击接受为正常、非威胁的请求。例如，一种类型的攻击涉及在一段时间内缓慢增加机器学习系统对异常攻击的容忍度。攻击者可能探测机器学习系统以试图确定机器学习系统正在运行什么算法、在机器学习系统中设置了什么参数、或者机器学习系统可以允许或拒绝什么动作。攻击者可能发现针对机器学习系统的边界决策，以便适于边界内以允许恶意软件通过机器学习系统。攻击可以是渐进而具有缓慢的变化的。攻击者的目标是欺骗机器学习系统使其决定发送的恶意软件实际上是良性的。本文描述的系统和方法在恶意软件检测系统上提供了在全面攻击发动之前针对攻击的恶意软件检测系统的警报系统。警报系统可以在机器学习系统顶部工作。警报系统在对攻击者的探测时间期间针对攻击向机器学习系统发出警报。响应于警报，机器学习系统可以拒绝来自攻击源的输入、改变机器学习算法(使其更鲁棒或增强机器学习系统的鲁棒性)等。在示例中，对机器学习系统的恶意软件攻击可以包括诱发型攻击，其使机器学习系统容忍越来越多的异常恶意软件输入。最终，在机器学习系统足够容忍之后，恶意软件攻击包括启动全面攻击恶意文件，恶意文件由于容忍度而不被机器学习系统阻止。本文描述的系统和方法使用基于调用图的时间序列上的动态异常检测的新颖警报系统来防止攻击。警报系统检测何时已发生数据中毒攻击，并且向机器学习系统警报该攻击。然后，机器学习系统可以调整机器学习模型或阻止诱发型攻击，并且防止全面攻击。本文描述的警报系统可以通过扫描有向图的顶点的邻域来使用扫描统计信息。针对在机器学习系统的训练期间选择的每个时间窗口，可以检查扫描统计信息，并且如果扫描统计信息过高，则警报系统可以指示可能损坏机器学习系统的毒性攻击的可能性。警报系统被设计为检测敌对对手开始使训练恶意软件数据中毒(这可能损坏机器学习系统)的时间窗口，并且然后向恶意软件检测系统提供警报以防止恶意软件敌方发动全面攻击。警报系统将传入的二进制文件建模为有向图的时间序列。例如，有向图可以被构造为使得顶点是函数并且边是函数之间的调用关系。在动态设置中，警报系统可以计算局部性统计信息、扫描传入的二进制数的小时间窗口，并且导出扫描统计信息。扫描统计信息可以用于执行针对动态异常检测的变化点识别。警报系统可以提供对不同类型扫描统计信息的计算，对其的选择取决于二进制数的结构可以提供用于准确检测的优点。在示例中，一种类型的扫描统计信息可以是在实时流式传输数据环境下容易计算的。在另一示例中，一种类型的扫描统计信息可以被延迟(例如，延迟一段时间)。在示例中，警报系统可以实现针对数据中毒攻击的快速且准确的警报，并通知机器学习系统，因此学习模型可以被调整而不被危害。图1示出了根据一些实施例的恶意软件检测系统和警报系统100。恶意软件检测系统和警报系统100包括用于恶意软件检测的机器学习系统104以及包括处理器112和存储器114的警报系统102。恶意软件检测系统和警报系统100使用机器学习系统104来检测从广域网(WAN)108(例如，网络、互联网等)传入本地网络或机器106的恶意软件。路由器110可以将传入的数据(例如，二进制文件或系统调用)发送到机器学习系统104或警报系统102。在示例中，警报系统102可以在机器学习系统104之前接收数据。在另一示例中，机器学习系统140可以将数据转发到警报系统102。在又一示例中，路由器110可以将数据发送到机器学习系统104和警报系统102二者。在图1中在不同时间处表示为A、B和C的调用函数或其他传入的二进制文件可以经由WAN108从远程地址、路由器或设备发送。调用函数首先由路由器110接收，并且可以被发送到机器学习系统104(B)或警报系统102(C)。在示例中，当沿着由B表示的路径被发送时，机器学习系统104可以将调用函数发送到警报系统102。机器学习系统104被用于恶意软件检测以防止恶意软件进入本地网络或机器106。警报系统102可以使用变化点检测来确定在时间段内接收的调用函数是否显示对试图使机器学习系统104中毒(这可能损坏机器学习系统104)的指示。变化点检测可以用于识别动态设置中的异常。例如，通过将传入的二进制文件建模为图形的时间序列，并且使用基于局部性的扫描统计信息来识别数据中毒攻击何时已发生或正在发生，变化点检测可以并入到动态恶意软件分析中。在试图破坏机器学习系统104的诱发型攻击中，敌方意在经由逐渐使训练数据集中毒来强迫机器学习框架学习错误的模型，这可能损坏机器学习系统104。一旦机器学习系统104转移决策边界并产生错误的模型，敌方就可能发动全面攻击。警报系统102检测数据污染何时发生(当其正在发生时)，并且关于诱发型攻击向机器学习系统104发出警报，使得机器学习系统104可以作为响应而调整其模型。例如，在警报系统102中实现的一种类型的扫描统计信息可以是在计算上便宜的，这允许实时流式传输数据环境下的快速异常检测。在示例中，警报系统102可以使用领域专业知识来增强对诱发型攻击的响应。警报系统102可以使用统计地定义的阈值来检测默认设置中的异常。领域专业知识可以允许用户定义的阈值利用与自动异常检测相结合的领域知识来提高准确度。警报系统102可以识别例如来自变形的恶意软件的新攻击模式。具体而言，警报系统102可以用于预测包括函数之间的调用关系的子组的出现。在防止恶意软件攻击的同时，警报系统102的异常检测框架还可以用于收集关于新系列或类型的恶意软件的情报并将其查明。图2A示出了根据一些实施例的没有启用警报系统的机器学习系统200。没有警报系统的机器学习本文档来自技高网...

【技术保护点】
1.一种用于防止毒性攻击的恶意软件检测系统，所述恶意软件检测系统包括：异常检测系统，其用于：在机器学习系统的训练期间使用传入的二进制文件对有向图的时间序列进行建模，以检测恶意软件攻击；在所述时间序列的时间窗口期间，基于所述有向图的时间序列中的有向图来检测异常；以及提供关于所述异常已经损坏所述机器学习系统的警报。

【技术特征摘要】
2017.06.27 US 15/634,6851.一种用于防止毒性攻击的恶意软件检测系统，所述恶意软件检测系统包括：异常检测系统，其用于：在机器学习系统的训练期间使用传入的二进制文件对有向图的时间序列进行建模，以检测恶意软件攻击；在所述时间序列的时间窗口期间，基于所述有向图的时间序列中的有向图来检测异常；以及提供关于所述异常已经损坏所述机器学习系统的警报。2.根据权利要求1所述的恶意软件检测系统，其中，所述有向图的顶点是与所述传入的二进制文件相对应的函数，并且所述有向图的边是由所述边连接的相应顶点的函数之间的调用关系。3.根据权利要求1所述的恶意软件检测系统，其中，所述有向图与所述时间窗口相对应。4.根据权利要求1所述的恶意软件检测系统，其中，所述有向图与在所述时间窗口之前出现的先前时间窗口相对应。5.根据权利要求1所述的恶意软件检测系统，其中，为了检测所述异常，所述异常检测系统进行以下操作：针对所述有向图的多个子图导出扫描统计信息，所述多个子图包括距离所述有向图中的特定顶点数个连接边的相应顶点；以及检测所述扫描统计信息在所述时间窗口内的变化点，所述变化点表示所述异常并且与所述扫描统计信息中在阈值以上的扫描统计信息的值相对应。6.根据权利要求5所述的恶意软件检测系统，其中，所述扫描统计信息包括在所述时间窗口上对所述多个子图中的子图的所述连接边的数量的最大值的计数，并且其中，远离所述子图的特定顶点的所述数个连接边包括所述特定顶点的一组k最近邻顶点。7.根据权利要求5所述的恶意软件检测系统，其中，所述扫描统计信息包括在先前时间窗口上对所述多个子图中的子图的所述连接边的数量的最大值的计数。8.根据权利要求5所述的恶意软件检测系统，其中，所述扫描统计信息包括在所述时间窗口上导出的局部性统计信息和在先前时间窗口上导出的扫描统计信息的加权几何平均数。9.根据权利要求5所述的恶意软件检测系统，其中，为了导出所述扫描统计信息，所述异常检测系统对所述扫描统计信息执行时间归一化，以在所述时间窗口上平滑所述扫描统计信息。10.根据权利要求1所述的恶意软件检测系统，其中，所述有向图是调用图。11.一种用于在恶意软件检测系统上防止攻击的方法，所述方法包括：在机器学习系统的训练期间使用传入的二进制文件对有向图的时间序列进行建模，以检测恶意软件攻击；在所述时间序列的时间窗口期间，基于所述有向图的时间序列中的有向图来检测异常；以及提供关于...

【专利技术属性】
技术研发人员：陈理，
申请(专利权)人：英特尔公司，
类型：发明
国别省市：美国,US