向经过训练的机器学习模型添加对抗鲁棒性制造技术

提供了方法和系统，用于通过计算系统中的一个或多个处理器来保护经过训练的机器学习模型。通过向一个或多个经过训练的机器学习模型添加对抗性保护，一个或多个强化的机器学习模型可以抵御对抗性攻击。模型可以抵御对抗性攻击。模型可以抵御对抗性攻击。

【技术实现步骤摘要】
【国外来华专利技术】向经过训练的机器学习模型添加对抗鲁棒性


[0001]本专利技术总体涉及计算系统，更具体地说，涉及使用计算处理器在计算系统中向经过训练的机器学习模型添加针对对手的对抗鲁棒性的各种实施例。

技术介绍

[0002]计算系统可见于工作场所、家庭或学校中。由于最近信息技术的进步和互联网的日益普及，各种各样的计算机系统被用于机器学习。机器学习是一种形式的人工智能，用于允许计算机根据经验数据进化行为。机器学习可以利用训练实例来捕捉未知潜在概率分布的感兴趣特征。训练数据可以视为说明被观察变量之间关系的实例。机器学习研究的一个主要焦点是自动学习识别复杂模式并根据数据做出智能决策。因此，本领域需要解决上述问题。

技术实现思路

[0003]从第一个方面来看，本专利技术提供了通过一个或多个处理器在计算环境中保护经过训练的机器学习模型的方法，该方法包括：通过向一个或多个经过训练的机器学习模型添加对抗性保护，提供一个或多个经过强化的机器学习模型，以抵御对抗性攻击。
[0004]从另一个方面来看，本专利技术提供了用于在计算环境中保护经过训练的机器学习本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于通过一个或多个处理器在计算环境中保护经过训练的机器学习模型的方法，该方法包括：通过向一个或多个经过训练的机器学习模型添加对抗性保护，提供一个或多个强化的机器学习模型，以抵御对抗性攻击。2.根据权利要求1所述的方法，还包括：接收一个或多个经过训练的机器学习模型；和重新训练一个或多个经过训练的机器学习模型，以包括基于一个或多个对抗性保护协议的对抗性保护。3.根据前述权利要求中任一项所述的方法，还包括向一个或多个经过训练的机器学习模型添加一个或多个预处理层，其中调整了对抗性保护强度的程度。4.根据前述权利要求中任一项所述的方法，还包括向一个或多个经过训练的机器学习模型添加一个或多个神经网络层。5.根据前述权利要求中任一项所述的方法，还包括向用基于一个或多个对抗性保护协议的对抗性保护重新训练过的一个或多个经过训练的机器学习模型添加一个或多个后处理输出层。6.根据前述权利要求中任一项所述的方法，还包括：自动实现要用于提供一个或多个强化的机器学习模型的一个或多个对抗性保护协议；或从用户接收要用于提供一个或多个强化机器学习模型的一个或多个对抗性保护协议。7.根据前述权利要求中任一项所述的方法，还包括：在接受重新训练时，监控和跟踪一个或多个经过训练的机器学习模型的每个状态；在重新训练期间，检测一个或多个经过训练的机器学习模型的训练崩溃；或在重新训练操作期间，为一个或多个经过训练的机器学习模型启用一个或多个回滚策略。8.一种用于在计算环境中保护经过训练的机器学习模型的系统，包括：一个或多个具有可执行指令的计算机，所述可执行指令被执行时导致该系统：通过向一个或多个经过训练的机器学习模型添加对抗性保护，提供一个或多个强化的机器学习模型，以抵御对抗性攻击。9.根据权利要求8所述的系统，其中所述可执行指令：...

【专利技术属性】
技术研发人员：B比塞尔，MI尼古拉，A拉瓦特，M辛恩，NM特兰，M维斯图巴，
申请(专利权)人：国际商业机器公司，
类型：发明
国别省市：