【技术实现步骤摘要】
生成对抗样本的方法、装置、电子设备和介质
[0001]本公开涉及人工智能
，尤其涉及行为识别和对抗防御训练等
，具体涉及一种生成对抗样本的方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
技术介绍
[0002]人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术。人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
[0003]分类是机器学习的一项基本任务，目前基于深度学习的方法已经在许多任务中都取得了最先进的性能，例如目标识别和分割等。然而，深度学习模型非常容易受到人为精心设计的输入扰动的干扰，即对抗攻击。该深度学习漏洞的普遍性引起了人们的广泛关注，因为人类无法察觉到这种扰动，但对当今的人工智能系统却极具破坏性。因此，设计更有效抵御对抗攻击的对抗防御...
【技术保护点】
【技术特征摘要】
1.一种生成对抗样本的方法，包括：获取由多个关节节点连接而成的第一人体骨架以及所述第一人体骨架对应的骨架数据，其中，所述骨架数据包括所述第一人体骨架在预设的直角坐标系中的第一直角坐标表示；基于所述第一直角坐标表示，确定所述多个关节节点中的根节点的直角坐标值；基于所述第一人体骨架，构建球坐标系统；确定所述多个关节节点中除所述根节点外的其余关节节点中的每一个关节节点在所述球坐标系统中对应的球坐标值；以及对所述第一人体骨架中的骨头的角度施加干扰值，并基于所施加的干扰值、所述其余关节节点中的每一个关节节点在所述球坐标系统中对应的球坐标值以及所述根节点的直角坐标值，确定对抗样本。2.根据权利要求1所述的方法，其中，所述对所述多个关节节点中的每两个关节节点连接而成的骨头的角度施加干扰值，并基于所施加的干扰值、所述其余关节节点中的每一个关节节点在所述球坐标系统中对应的球坐标值以及所述根节点的直角坐标值，确定对抗样本包括：对所述其余关节节点中每一个关节节点的球坐标值进行预设次数的迭代更新，其中，在每一次迭代中，对所述其余关节节点中的每一个关节节点的当前的球坐标值中的第一角度变量θ对应的第一角度值增加第一干扰值并对第二角度变量φ对应的第二角度值增加第二干扰值，并基于所述根节点的直角坐标值确定与该轮迭代对应的第二人体骨架的球坐标表示；针对每一次迭代，基于所述第一直角坐标表示和与该次迭代对应的第二人体骨架的球坐标表示，计算该第二人体骨架对应的感知损失值和分类损失值；以及将感应损失值小于第一阈值且分类损失值大于第二阈值的第二人体骨架确定为对抗样本。3.根据权利要求2所述的方法，其中，所述针对每一次迭代，基于所述第一直角坐标表示和与该次迭代对应的第二人体骨架的球坐标表示，计算该第二人体骨架对应的感知损失值和分类损失值包括：针对每一次迭代，基于与该次迭代对应的第二人体骨架的球坐标表示，确定该第二人体骨架在所述预设的直角坐标系中的第二直角坐标表示；以及基于所述第一直角坐标表示和该第二人体骨架的第二直角坐标表示，计算该第二人体骨架对应的感知损失值和分类损失值。4.根据权利要求2或3所述的方法，其中，在每一次迭代中，与该次迭代对应的第二人体骨架的感知损失值是基于感知损失函数骨架的感知损失值是基于感知损失函数计算得到的，其中，n为整数，x表示所述第一直角坐标表示，x
′
表示该第二人体骨架的第二直角坐标表示。5.根据权利要求2
‑
4中任一项所述的方法，还包括：在每一次迭代中，针对所述其余关节节点中的每一个关节节点，
基于该关节节点的当前的球坐标值，计算分类损失函数对该关节节点的第一角度变量θ的第一偏导，并基于所述第一偏导确定所述第一干扰值；以及基于该关节节点的当前的球坐标值，计算分类损失函数对该关节节点的第二角度变量φ的第二偏导，并基于所述第二偏导确定所述第二干扰值。6.根据权利要求2
‑
5中任一项所述的方法，其中，所述在每一次迭代中，对所述其余关节节点中的每一个关节节点的当前的球坐标值中的第一角度变量θ对应的第一角度值增加第一干扰值并对第二角度变量φ对应的第二角度值增加第二干扰值，并基于所述根节点的直角坐标值确定与该次迭代对应的第二人体骨架的球坐标表示包括：在每一次迭代中，针对所述其余关节节点中的每一个关节节点，对该关节节点的当前的球坐标值中的第一角度值增加所述第一干扰值，以得到更新的第一角度值；对该关节节点的当前的球坐标值中的第二角度值增加所述第二干扰值，以得到更新的第二角度值；基于人体的运动学特性，确定角度约束范围；基于所述角度约束范围，分别对更新的第一角度值和更新的第二角度值进行映射计算，以得到该关节节点对应的更新的球坐标值；基于所述其余关节节点中的每一个关节节点对应的更新的球坐标值和所述根节点的直角坐标值，确定与该次迭代对应的第二人体骨架的球坐标表示。7.根据权利要求1
‑
6中任一项所述的方法，其中，所述基于所述第一人体骨架，构建球坐标系统包括：基于所述第一人体骨架中的所述其余关节节点，构建与所述其余关节节点一一对应的球坐标系以组成所述球坐标系统，其中，所述其余关节节点中的每一个关节节点对应的球坐标系以与该关节节点相邻的第一关节节点为坐标原点，并且其中，所述第一关节节点比与该关节节点相邻的其他关节节点距离所述根节点更近。8.根据权利要求1
‑
7中任一项所述的方法，其中，所述根节点为所述人体骨架中脊柱最底部的关节节点。9.一种骨架行为识别模型的对抗防御训练方法，包括：从数据集中获取表示人体骨架的样本数据、所述样本数据对应的流形对抗样本数据以及位于所述数据集对应的流形之外的非流形对抗样本数据，其中所述流形对抗样本数据是基于根据权利要求1
‑
7所述的方法得到的；对所述样本数据、所述流形对抗样本数据以及所述非流形对抗样本数据标记所述样本数据的真实分类值，其中，所述真实分类值表征所述人体骨架对应的行为类别；将所述样本数据输入骨架行为识别模型，获取所述样本数据的第一预测分类值；将所述流形对抗样本数据输入所述骨架行为识别模型，获取所述流形对抗样本数据的第二预测分类值；将所述非流形对抗样本数据输入所述骨架行为识别模型，获取所述非流形对抗样本数据的第三预测分类值；基于所述真实分类值、第一预测分类值、第二预测分类值以及第三预测分类值，计算损失值；以及
基于所述损失值调整所述骨架行为识别模型的参数。10.根据权利要求9所述的方法，其中，所述损失值包括第一子损失值、第二子损失值和第三子损失值，并且所述计算损失值包括：基于所述真实分类值和所述第一预测分类值，计算所述第一子损失值；基于所述真实分类值和所述第二预测分类值，计算所述第二子损失值；基于所述真实分类值和所述第三预测分类值，计算所述第三子损失值；以及基于所述第一子损失值和对应的第一权重、所述第二子损失值和对应的第二权重以及所述第三子损失值和对应的第三权重，计算所述损失值。11.一种生成对抗样本的装置，包括：获取模块，被配置为获取由多个关节节点连接而成的第一人体骨架以及所述第一人体骨架对应的骨架数据，其中，所述骨架数据包括所述第一人体骨架在预设的直角坐标系中的第一直角坐标表示；第一确定模块，被配置为基于所述第一直角坐标表示，确定所述多个关节节点中的根节点的直角坐标值；构建模块，被配置为基于所述第一人体骨架，...
【专利技术属性】
技术研发人员：刁云峰，谭资昌，郭国栋，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。