针对机器学习产品进行攻击的测试方法及系统技术方案

本发明专利技术公开了一种针对机器学习产品进行攻击的测试方法，包括以下步骤:采用恶意样本测试集对机器学习产品进行周期性的攻击访问；机器学习产品获取恶意样本测试集中多条恶意访问数据的特征因子，并对所述特征因子进行分析，根据分析结果对所述特征因子进行分类管理；再次采用恶意样本测试集中的一条恶意访问数据对机器学习产品进行攻击访问，机器学习产品对该条恶意访问数据中的特征因子进行分析，并与已经分类的正常访问特征值库和异常访问特征值库中的特征因子进行对比，判断其为正常访问还是异常访问；输出判断结果；本发明专利技术还公开了一种针对机器学习产品进行攻击的测试系统，本发明专利技术进一步提高了机器学习产品的安全性。

【技术实现步骤摘要】
针对机器学习产品进行攻击的测试方法及系统
本专利技术涉及互联网安全测试
，特别是一种针对机器学习产品进行攻击的测试方法及系统。
技术介绍
随着互联网的快速发展，互联网的安全现如今已愈加被人们所重视，互联网的攻击和防护手段也在逐渐升级，机器学习的兴起与运用给安全测试带来了一大挑战。经过长期的发展，机器学习的运用已在各个领域崭露头角。由于机器学习所做的网络应用模块还未有效果显著的测试方法，一种网络攻击者利用机器学习产品进行攻击的测试方法就应运而生了。目前在进行机器学习产品的安全测试的时候，存在测试方法传统、单一、缺乏显著的测试结果等局限性。
技术实现思路
为解决现有技术中存在的问题，本专利技术的目的是提供一种针对机器学习产品进行攻击的测试方法及系统，本专利技术通过搜集大量的恶意访问数据对使用机器学习的目标网络进行访问，促使恶意样本集中的恶意访问数据变成机器学习的判断规则并绕过机器学习的检测规则，导致机器学习系统被污染，使攻击者有机可乘；安全研究员预测机器学习最终将基于测试方法和结果来实时修改代码以避免此危害。为实现上述目的，本专利技术采用的技术方案是：一种针对机器学习产品进行攻击的测试方法，包括以下步骤:步骤一、采用恶意样本测试集对机器学习产品进行周期性的攻击访问，所述恶意测试样本集中包括多条恶意访问数据；步骤二、机器学习产品获取恶意样本测试集中多条恶意访问数据的特征因子，并对所述特征因子进行分析，根据分析结果对所述特征因子进行分类管理，判断将其放入正常访问特征值库还是异常访问特征值库；步骤三、再次采用恶意样本测试集中的一条恶意访问数据对机器学习产品进行攻击访问，机器学习产品对该条恶意访问数据中的特征因子进行分析，并与已经分类的正常访问特征值库和异常访问特征值库中的特征因子进行对比，判断其为正常访问还是异常访问；步骤四、输出判断结果。作为一种优选的实施方式，所述步骤四中，若输出的判断结果为正常访问，则说明该机器学习产品存在漏洞，若输出的判断结果为异常访问，则说明该机器学习产品正常。作为另一种优选的实施方式，所述步骤一中，对机器学习产品进行攻击访问的恶意访问数据的数量大于同一时期机器学习产品的正常访问量。作为另一种优选的实施方式，所述步骤一中，恶意样本测试集对机器学习产品攻击访问的周期大于该机器学习产品防御算法的周期。本专利技术还提供一种针对机器学习产品进行攻击的测试系统，包括：样本模块，用于存储进行攻击访问的恶意样本测试集并训练恶意样本集中恶意访问数据的特征因子；算法模块，用于机器学习产品获取恶意访问数据的特征因子，并对获取的特征因子进行分析与分类，以及预测判断模块的建立与完善；预测判断模块，包括正常访问特征值库和异常访问特征值库，用于存储分类后的特征因子，实时监控机器学习产品服务器上的访问日志，并与正常访问特征值库和异常访问特征值库已经存储的特征因子进行对比，发现异常访问行为则进行预测输出；恶意访问模块，用于采用一条恶意访问数据对机器学习产品进行攻击访问，该恶意访问数据中包括待预测的特征因子；预测结果模块，用于接收预测判断模块的预测输出结果，并判断恶意访问模块中的恶意访问数据对机器学习产品进行攻击访问的测试是否成功。作为一种优选的实施方式，所述的恶意样本集为人工提供的恶意访问数据。本专利技术的有益效果是：本专利技术从网络攻击者利用机器学习产品进行攻击的测试，角度新颖，能从绕过机器学习算法这一角度攻击被测试的机器学习产品，给安全研究员提供了一种新的测试思路，为即时发现机器学习产品漏洞提供有效手段，安全研究员最终将基于测试方法和结果来实时修改代码以避免此危害，保证了产品和用户的信息安全，进一步提高了机器学习产品的安全性；通过本专利技术的测试，发现基于DQN(DeepQ-Learning)算法(深度学习deeplearning与强化学习reinforcementlearning相结合)、TRPO(TrustRegionPolicyOptimization)信赖域策略优化以及A3C(Actor-CriticAlgorithm)算法的机器学产品均被恶意访问数据攻击成功，说明基于此类算法的机器学习产品还存在漏洞，方便安全研究员修改代码提高机器学习产品的安全性。附图说明图1为本专利技术实施例的流程框图；图2为本专利技术实施例的系统框图。具体实施方式下面结合附图对本专利技术的实施例进行详细说明。实施例：如图1所示，一种针对机器学习产品进行攻击的测试方法，包括以下步骤：预置条件：被攻击的机器学习产品服务器(以防火墙为例)、操作系统为WIN7或WIN8或WIN10或Linux的PC；步骤一、采用恶意样本测试集对机器学习产品进行周期性的攻击访问，所述恶意测试样本集中包括多条恶意访问数据；其中，对机器学习产品进行攻击访问的恶意访问数据的数量大于同一时期机器学习产品的正常访问量，恶意样本测试集对机器学习产品攻击访问的周期大于该机器学习产品防御算法的周期；步骤二、机器学习产品获取恶意样本测试集中多条恶意访问数据的特征因子，并对所述特征因子进行分析，根据分析结果对所述特征因子进行分类管理，判断将其放入正常访问特征值库还是异常访问特征值库；在本实施例中，大量的恶意访问数据通过长时间访问被测试的机器学习产品，使得机器学习产品获取大量的恶意访问数据信息，并且分析所有的恶意访问数据，由于恶意访问数据的数量巨大，机器学习产品将恶意访问数据判断为正常访问数据，并提取它们的特征因子放入正常访问特征值库中；步骤三、再次采用恶意样本测试集中的一条恶意访问数据(例如：<script>alert('xss')；</script>)对机器学习产品进行攻击访问，机器学习产品对该条恶意访问数据中的特征因子进行分析，并与已经分类的正常访问特征值库和异常访问特征值库中的特征因子进行对比，判断其为正常访问还是异常访问；步骤四、输出判断结果；本实施例中输出为正常访问数据，说明此恶意访问数据可以以正常数据的身份进行访问，成功的绕过了机器学习产品的WAF(WebApplicationFirewall)防火墙系统，并弹出XSS的弹框，攻击者攻击成功，通过该方法对机器学习产品的测试结果说明该机器学习产品存在漏洞。如图2所示，本实施例还提供一种针对机器学习产品进行攻击的测试系统，包括：样本模块，用于存储进行攻击访问的恶意样本测试集并训练恶意样本集中恶意访问数据的特征因子；算法模块，用于机器学习产品获取恶意访问数据的特征因子，并对获取的特征因子进行分析与分类，以及预测判断模块的建立与完善；本实施例中，算法模块中攻击者通过长时间，大量的访问被测试的机器学习产品，使得算法模块获取大量的恶意访问数据信息，并且分析所有的恶意访问数据，由于恶意访问数据的数量巨大，算法模块判断恶意数据为正常访问数据，并提取它们的特征值放入预测判断模块；预测判断模块，包括正常访问特征值库和异常访问特征值库，用于存储分类后的特征因子，实时监控机器学习产品服务器上的访问日志，并与正常访问特征值库和异常访问特征值库已经存储的特征因子进行对比，发现异常访问行为则进行预测输出；本实施例中，当再次采用恶意样本测试集中的一条恶意访问数据(例如：<script>alert('xss')；</script>本文档来自技高网...

【技术保护点】
1.一种针对机器学习产品进行攻击的测试方法，其特征在于，包括以下步骤:步骤一、采用恶意样本测试集对机器学习产品进行周期性的攻击访问，所述恶意测试样本集中包括多条恶意访问数据；步骤二、机器学习产品获取恶意样本测试集中多条恶意访问数据的特征因子，并对所述特征因子进行分析，根据分析结果对所述特征因子进行分类管理，判断将其放入正常访问特征值库还是异常访问特征值库；步骤三、再次采用恶意样本测试集中的一条恶意访问数据对机器学习产品进行攻击访问，机器学习产品对该条恶意访问数据中的特征因子进行分析，并与已经分类的正常访问特征值库和异常访问特征值库中的特征因子进行对比，判断其为正常访问还是异常访问；步骤四、输出判断结果。

【技术特征摘要】
1.一种针对机器学习产品进行攻击的测试方法，其特征在于，包括以下步骤:步骤一、采用恶意样本测试集对机器学习产品进行周期性的攻击访问，所述恶意测试样本集中包括多条恶意访问数据；步骤二、机器学习产品获取恶意样本测试集中多条恶意访问数据的特征因子，并对所述特征因子进行分析，根据分析结果对所述特征因子进行分类管理，判断将其放入正常访问特征值库还是异常访问特征值库；步骤三、再次采用恶意样本测试集中的一条恶意访问数据对机器学习产品进行攻击访问，机器学习产品对该条恶意访问数据中的特征因子进行分析，并与已经分类的正常访问特征值库和异常访问特征值库中的特征因子进行对比，判断其为正常访问还是异常访问；步骤四、输出判断结果。2.根据权利要求1所述的针对机器学习产品进行攻击的测试方法，其特征在于，所述步骤四中，若输出的判断结果为正常访问，则说明该机器学习产品存在漏洞，若输出的判断结果为异常访问，则说明该机器学习产品正常。3.根据权利要求1所述的针对机器学习产品进行攻击的测试方法，其特征在于，所述步骤一中，对机器学习产品进行攻击访问的恶意访问数据的数量大于同一时期机器学习产品的正常访问量。4.根...

【专利技术属性】
技术研发人员：钟倩，
申请(专利权)人：四川长虹电器股份有限公司，
类型：发明
国别省市：四川,51