当前位置: 首页 > 专利查询>贵州大学专利>正文

一种基于长尾分布的无人机环境下对抗鲁棒性动态再平衡学习模型制造技术

技术编号:36498556 阅读:26 留言:0更新日期:2023-02-01 15:18
本发明专利技术设计一种基于长尾分布的无人机环境下对抗鲁棒性动态再平衡学习模型,旨在能有效地抵抗对抗攻击。首先,模型使用了一个通用的余弦分类器。通过自适应地改变其具体形式,该模型获得了更鲁棒的分类。然后,模型使用焦点边缘损失。最后,模型采用了一种类别聚焦移动学习策略,通过改变学习重点获得了更鲁棒的特征。总而言之,我们设计了一种简单高效的长尾分布下的单阶段动态对抗鲁棒性模型,该方法由自适应余弦分类器和长尾移动学习下的焦点边缘损失组成,可有效解决无人机控制系统和其他设备上的长尾鲁棒性问题。他设备上的长尾鲁棒性问题。他设备上的长尾鲁棒性问题。

【技术实现步骤摘要】
一种基于长尾分布的无人机环境下对抗鲁棒性动态再平衡学习模型


[0001]本专利技术属于人工智能领域,涉及对抗攻击防御方法。

技术介绍

[0002]对抗鲁棒性是深度学习网络长期存在的痛点之一。在一些现实应用场景中,包括无人机控制系统、智能驾驶、智能制造、智能医疗、智能装备抗干扰等,都是一个巨大的威胁。在探索分类模型的对抗鲁棒性时,我们使用的数据集往往是类间平衡的。然而,不平衡的数据集在现实中更常见。在长尾数据集中,少数类别拥有大量样本,但有些类别只有少量样本。更严重的是,这些样本数量较少的类别可能种类繁多。近两年来,这一问题得到了广泛的关注,如图像分类和目标检测,长尾分布下模型的鲁棒性是现实应用场景中非常重要和有价值的问题。
[0003]当前提出的两阶段框架在使用和部署时会遇到很多问题。与此同时,一些工作侧重于通过改变数据集来获得更好的结果,而不是改进模型本身。因此,模型在长尾分布下的鲁棒性面临诸多挑战。我们设计了一种高效且易于使用的长尾分布单阶段动态再平衡学习(DRL)模型。在传统的两阶段长尾鲁棒模型中,模型的学习策略往往只改变一次。然而,DRL中的学习策略不断变化,因此该模型可以有效抵抗对抗攻击。

技术实现思路

[0004]本专利技术目的是设计一种基于长尾分布的无人机环境下对抗鲁棒性动态再平衡学习模型。为避免攻击者进行对抗攻击对模型识别效果造成影响,本专利技术采用动态再平衡对抗训练防御方法,主要基于神经网络设计新的对抗鲁棒性防御方法。为实现上述目的,本专利技术采用如下技术方案:
>[0005]步骤一:使用通用余弦分类器,该分类器能处理分类器投影出的超球面,自适应学习特征,有效解决了对抗鲁棒模型中的过拟合问题;
[0006]步骤二:使用焦点边缘损失函数,该函数结合了焦点损失和边缘损失的优点,从长尾数据集中提取出更健壮的特征;
[0007]步骤三:使用类别聚焦移动学习策略,该策略可以处理长尾数据集,以动态学习鲁棒性特征,有效地对对抗样本进行分类。
附图说明
[0008]图1详细描述了本专利技术对抗鲁棒性动态再平衡学习模型。
具体实施方式:
[0009]下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本专利技术一部分实施例,而不是全部的实施例。
[0010]本专利技术提供一种基于长尾分布的无人机环境下对抗鲁棒性动态再平衡学习模型,具体步骤如下:
[0011]步骤一:使用骨干对数据集进行学习,提取数据特征,并使用边缘焦点损失函数,这种新的损失既有边缘损失对样本空间的约束和偏移,又有焦点损失对尾部数据的关注,可以有效解决样本类间不平衡问题,边缘焦点损失函数如下所示:
[0012][0013][0014][0015][0016]步骤二:损失函数随着模型训练在学习的早期阶段,模型对尾样本的偏差较小,更加强调学习特征。同时,该模型没有学习到足够的特征,不能有效地对样本进行分类。此外,过多关注尾样本相当于用少量样本进行学习,可能会造成不必要的困难,甚至导致过拟合和学习大量鲁棒性较差的特征。因此,我们在早期降低了聚焦结构对尾样本的聚焦。
[0017]步骤三:在学习的后期阶段,模型在更大的数据集上学习更健壮的特征。在这个阶段,尾部样本上的模型分类并不好,同时头部中容易分类的样本已经非常有信心,而这种信心加剧了尾部样本的误分类。因此,此时我们需要对模型进行调整,削弱其对易分类样本的置信度,更多地关注尾部样本,类别焦点移动学习如下所示:
[0018][0019]γ
e
=f(epoch)
[0020]步骤四:分类器可以理解为不同类别在多个阶段逐步变化的过程。这样可以统一多个分类器,使模型在训练过程中自适应地选择最佳的分类器。这种自适应余弦分类器可以根据模型自动选择是对模型输出进行平均还是聚类,以获得更好的鲁棒性。
[0021]自适应分类器具体形式如下所示。
[0022][0023]当α=1时,分类器退化为普通的余弦分类器。当α>1时,模型对置信度高的样本具有较高的置信度。每种分类的概率都是离散的,概率低的分类很容易被忽略。当α<1时,模型对高置信度样本的置信度降低,对每种分类的概率取平均值。该模型更容易将样本划分为不那么自信的类别。综上所述,一般余弦分类器根据训练转换为不同的余弦分类器,并动态调整样本之间的距离以获得最佳分类。同时,对边界的模糊处理解决了对抗训练带来的过拟合问题,增强了模型的鲁棒性。
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于长尾分布的无人机环境下对抗鲁棒性动态再平衡学习模型,具体步骤如下:步骤一:使用通用余弦分类器,该分类器能处理分类器投影出的超球面,自适应学习特征,有效解决了对抗鲁棒模型中的过拟合问题;步骤二:使用焦...

【专利技术属性】
技术研发人员:陈玉玲孙彦诚王崎
申请(专利权)人:贵州大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1