减轻对于模型的同时预测和优化的对抗性攻击制造技术

技术编号:40186100 阅读:23 留言:0更新日期:2024-01-26 23:50
公开了一种用于提供对抗性机器学习模型的预测和优化的方法。所述方法可以包括用于确定最优量的对抗性训练的防卫者的训练方法,所述最优量的对抗性训练将防止任务优化模型采取由来自到同时预测和优化框架中的模型的输入的对抗性攻击引起的错误决策。本质上,该方法将经由对抗性训练来训练鲁棒模型。基于鲁棒训练模型,用户可以通过(基于任务的优化模型中的对抗性噪声)基于来自由输入产生的机器学习预测的给定输入来减轻潜在威胁。

【技术实现步骤摘要】
【国外来华专利技术】


技术介绍

1、本专利技术总体上涉及机器学习,并且更具体地涉及利用对抗性训练来进行任务优化。

2、现今,许多机器学习模型被集成在更大系统的环境中,作为用于决策制定的关键组件的一部分。在许多应用中,存在一些不确定的参数,这些参数需要经由一些机器学习(ml)模型来预测。这些预测随后被馈送到一些任务优化模型中,该任务优化模型推荐需要采取的最优动作,以便使一些效用最大化/使一些成本最小化。具体地,模型的结果被用作向优化过程的输入,以使一些定义的成本函数最小化。

3、最近,网络攻击已经增加,其中一种这样的攻击是对手通过修改ml旨在被应用到的样本来规避ml模型。例如,图像分类器可以在它们经受由于对输入数据或模型的一些对抗性攻击而引起的一些扰动时错误分类图像。


技术实现思路

1、本专利技术的各方面公开了用于提供对抗性机器学习模型的预测和优化的计算机实现的方法、计算机系统和计算机程序产品。计算机实现的方法可以由一个或多个计算机处理器实现并且可以包括:接收与训练模型相关联的输入数据的集合,其中,输入数据本文档来自技高网...

【技术保护点】

1.一种用于提供对抗性机器学习模型的预测和优化的计算机实现的方法,所述计算机方法包括:

2.根据权利要求1所述的计算机实现的方法,其中:

3.根据权利要求1所述的计算机实现的方法,其中,确定测试最优动作值进一步包括:

4.根据权利要求1所述的计算机实现的方法,确定测试最优动作值进一步包括:

5.根据权利要求1所述的计算机实现的方法,其中,通过使用所述测试最优动作值与所述训练最优动作值之间的差的绝对值计算所述第一距离。

6.根据权利要求1所述的计算机实现的方法,其中,基于所述测试最优动作值与所述训练最优动作值之间的Wasserst...

【技术特征摘要】
【国外来华专利技术】

1.一种用于提供对抗性机器学习模型的预测和优化的计算机实现的方法,所述计算机方法包括:

2.根据权利要求1所述的计算机实现的方法,其中:

3.根据权利要求1所述的计算机实现的方法,其中,确定测试最优动作值进一步包括:

4.根据权利要求1所述的计算机实现的方法,确定测试最优动作值进一步包括:

5.根据权利要求1所述的计算机实现的方法,其中,通过使用所述测试最优动作值与所述训练最优动作值之间的差的绝对值计算所述第一距离。

6.根据权利要求1所述的计算机实现的方法,其中,基于所述测试最优动作值与所述训练最优动作值之间的wasserstein距离计算所述第一距离。

7.根据权利要求1所述的计算机实现的方法,其中,使用所述测试最优动作值与所述训练最优动作值之间的差的绝对值计算所述第二距离。

8.根据权利要求1所述的计算机实现的方法,其中,基于所述测试最优动作值与所述训练最优动作值之间的wasserstein距离计算所述第二距离。

9.根据权利要求1所述的计算机实现的方法,其中,利用对应于由定义的所述预测损失函数的权重计算所述总损失。

10.根据权利要求1所述的计算机实现的方法,其中,利用对应于所述任务定义的成本函数的权重计算所述总损失,所述任务定义的成本函数由定义。

11.根据权利要求1所述的计算机实现的方法,其中,确定是否收敛已...

【专利技术属性】
技术研发人员:王优也N·巴拉卡尔多安杰尔A·梅加希德E·丘巴周亦
申请(专利权)人:国际商业机器公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1