基于服务编排的人工智能安全架构系统、方法及相关设备技术方案

本公开提供的一种基于服务编排的人工智能安全架构系统、方法及相关设备，该系统通过获取模块获取应用数据，编排模块基于应用数据的具体属性在资源池中选取出对应防御算法以生成防御服务链，判断模块通过防御服务链对应用数据进行检测，以此判断当前应用数据是否为攻击数据，最终判断结果通过输出模块输出。以此建立了一个系统防御框架，实现根据应用数据特性动态调度安全防护服务，其不仅能突破检测和防御性能瓶颈，还可提供单个数据粒度上的对抗攻击实时检测，并且通过将防御机制与应用业务整合，使防御机制无缝嵌入到现有云端和NFV(网络功能虚拟化)网络中的安全架构中，支持云端部署和多业务多应用的安全防护。端部署和多业务多应用的安全防护。端部署和多业务多应用的安全防护。

【技术实现步骤摘要】
基于服务编排的人工智能安全架构系统、方法及相关设备


[0001]本公开涉及计算机安全
，尤其涉及一种基于服务编排的人工智能安全架构系统、方法及相关设备。

技术介绍

[0002]人工智能应用已深入到自动驾驶、工业互联网等各个领域，成熟的模型和算法被封装起来供应用开发者调用，云提供商通过开放接口提供深度学习模型以帮助开发者更高效地开发应用，甚至通过函数计算和Serverless这类新的云服务架构向开发者提供细粒度更高、性能更强的深度学习应用。
[0003]然而，人工智能的应用受到了诸如数据投毒、后门植入、决策逃逸等多种形式对抗攻击的严重威胁。攻防双方展开了大量的研究，新的攻击方法和防御方法不断被发现，但目前的技术难以提供很好的安全防护能力。

技术实现思路

[0004]有鉴于此，本公开的目的在于提出一种基于服务编排的人工智能安全架构系统、方法及相关设备。
[0005]基于上述目的，本公开提供了一种基于服务编排的人工智能安全架构系统，包括：
[0006]获取模块，用于获取应用数据，确定所述应用数据的数据类型；
[0007]编排模块，用于根据所述数据类型确定对应的防御算法集，基于所述防御算法集生成至少两级的防御服务链，所述防御服务链由一级特征变换检测算法及至少一级的所述防御算法集中的防御算法组成；
[0008]判断模块，用于基于所述防御服务链检测所述应用数据是否为攻击数据，生成检测结果；
[0009]输出模块，用于输出所述检测结果，根据所述检测结果对所述应用数据进行处理。
[0010]在一些实施方式中，其中，所述防御算法集，具体为：
[0011]根据所述应用数据及所述应用数据对应的应用程序的属性信息、每个防御算法的作用域及所述防御算法之间的互迁移性差异矩阵，通过层次分析法生成各个所述作用域对应的所述防御算法集，所述作用域与所述数据类型相对应。
[0012]在一些实施方式中，其中，所述获取模块用于确定所述应用数据的数据类型时，还包括：
[0013]确定当前待保护的应用程序的应用类型，判断所述数据类型是否对应所述应用类型；
[0014]响应于所述数据类型对应所述应用类型，继续执行所述根据所述数据类型确定对应的防御算法。
[0015]在一些实施方式中，其中，所述判断模块用于基于所述防御服务链检测所述应用数据是否为攻击数据之后，还包括：
[0016]响应于所述应用数据为所述攻击数据，将所述攻击数据存储于样本数据库中；
[0017]通过所述样本数据库中的所述攻击数据对所述防御算法进行鲁棒性训练。
[0018]在一些实施方式中，其中，所述输出模块用于根据所述检测结果对所述应用数据进行处理时，还包括：
[0019]响应于所述检测结果为攻击数据检测结果；
[0020]强制停止所述应用数据对应的应用程序对所述应用数据的数据处理，并对所述应用程序进行数据清洗，
[0021]或
[0022]终止所述应用数据向所述应用程序的传输。
[0023]基于同一构思，本公开还提供了一种基于服务编排的人工智能安全架构方法，包括：
[0024]获取应用数据，确定所述应用数据的数据类型；
[0025]根据所述数据类型确定对应的防御算法集，基于所述防御算法集生成至少两级的防御服务链，所述防御服务链由一级特征变换检测算法及至少一级的所述防御算法集中的防御算法组成；
[0026]基于所述防御服务链检测所述应用数据是否为攻击数据，生成检测结果；
[0027]输出所述检测结果，根据所述检测结果对所述应用数据进行处理。
[0028]在一些实施方式中，其中，所述防御算法集，具体为：
[0029]根据所述应用数据及所述应用数据对应的应用的属性信息、每个防御算法的作用域及所述防御算法之间的迁移性差异矩阵，通过层次分析法生成各个所述作用域对应的所述防御算法集，所述作用域与所述数据类型相对应。
[0030]在一些实施方式中，其中，所述确定所述应用数据的数据类型，包括：
[0031]确定当前待保护的应用程序的应用类型，判断所述数据类型是否对应所述应用类型；
[0032]响应于所述数据类型对应所述应用类型，继续执行所述根据所述数据类型确定对应的防御算法。
[0033]基于同一构思，本公开还提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上任一项所述的方法。
[0034]基于同一构思，本公开还提供了一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令用于使所述计算机实现如上任一项所述的方法。
[0035]从上面所述可以看出，本公开提供的一种基于服务编排的人工智能安全架构系统、方法及相关设备，该系统通过获取模块获取应用数据，编排模块基于应用数据的具体属性在资源池中选取出对应防御算法以生成防御服务链，判断模块通过防御服务链对应用数据进行检测，以此判断当前应用数据是否为攻击数据，最终判断结果通过输出模块输出。以此建立了一个系统防御框架，实现根据应用数据特性动态调度安全防护服务，其不仅能突破检测和防御性能瓶颈，还可提供单个数据粒度上的对抗攻击实时检测，并且通过将防御机制与应用业务整合，使防御机制无缝嵌入到现有云端和NFV(网络功能虚拟化)网络中的
安全架构中，支持云端部署和多业务多应用的安全防护。
附图说明
[0036]为了更清楚地说明本公开实施例或相关技术中的技术方案，下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0037]图1为本公开实施例提出的一种基于服务编排的人工智能安全架构系统的结构示意图；
[0038]图2为本公开实施例提出的一种基于服务编排的人工智能安全架构系统的具体检测框架的结构示意图；
[0039]图3为本公开实施例提出的一种基于服务编排的人工智能安全架构系统的具体防御服务链的工作流程示意图；
[0040]图4为本公开实施例提出的一种基于服务编排的人工智能安全架构方法的流程示意图；
[0041]图5为本公开实施例提出的电子设备结构示意图。
具体实施方式
[0042]为使本说明书的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本说明书进一步详细说明。
[0043]需要说明的是，除非另外定义，本公开实施例使用的技术术语或者科学术语应当为本公开所属领域内具有一般技能的人士所理解的通常意义。本公开实施例中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性，而只是用来区分不同的组成部分。“包括”或者“包含”等类似的词语意指出现该词前面的元件、物件或者方法步骤涵盖出现在本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于服务编排的人工智能安全架构系统，包括：获取模块，用于获取应用数据，确定所述应用数据的数据类型；编排模块，用于根据所述数据类型确定对应的防御算法集，基于所述防御算法集生成至少两级的防御服务链，所述防御服务链由一级特征变换检测算法及至少一级的所述防御算法集中的防御算法组成；判断模块，用于基于所述防御服务链检测所述应用数据是否为攻击数据，生成检测结果；输出模块，用于输出所述检测结果，根据所述检测结果对所述应用数据进行处理。2.根据权利要求1所述的系统，其中，所述防御算法集，具体为：根据所述应用数据及所述应用数据对应的应用程序的属性信息、每个防御算法的作用域及所述防御算法之间的互迁移性差异矩阵，通过层次分析法生成各个所述作用域对应的所述防御算法集，所述作用域与所述数据类型相对应。3.根据权利要求1所述的系统，其中，所述获取模块用于确定所述应用数据的数据类型时，还包括：确定当前待保护的应用程序的应用类型，判断所述数据类型是否对应所述应用类型；响应于所述数据类型对应所述应用类型，继续执行所述根据所述数据类型确定对应的防御算法。4.根据权利要求1所述的系统，其中，所述判断模块用于基于所述防御服务链检测所述应用数据是否为攻击数据之后，还包括：响应于所述应用数据为所述攻击数据，将所述攻击数据存储于样本数据库中；通过所述样本数据库中的所述攻击数据对所述防御算法进行鲁棒性训练。5.根据权利要求1所述的系统，其中，所述输出模块用于根据所述检测结果对所述应用数据进行处理时，还包括：响应于所述检测结果为攻击数据检...

【专利技术属性】
技术研发人员：裘晓峰，张孟鑫，周书亚，
申请(专利权)人：北京邮电大学，
类型：发明
国别省市：