利用可操纵且多样化的语义的基于概念的对抗生成方法技术

用于执行利用可操纵且多样化的语义的基于概念的对抗生成的方法和系统。一种系统包括电子处理器，电子处理器被配置成访问输入图像。电子处理器还被配置成：基于输入图像来执行基于概念的语义图像生成。电子处理器还被配置成：使用作为执行基于概念的语义图像生成的一部分而生成的一组语义隐空间来执行基于概念的语义对抗学习。电子处理器还被配置成：根据基于概念的语义对抗学习来生成对抗图像。电子处理器还被配置成：使用对抗图像来测试目标模型。模型。模型。

【技术实现步骤摘要】
利用可操纵且多样化的语义的基于概念的对抗生成方法


[0001]实施例涉及利用可操纵（steerable）且多样化（diverse）的语义的基于概念的对抗生成方法。

技术实现思路

[0002]高效地生成测试用例以评估和验证复杂人工智能（“AI”）模型的性能是具有挑战性的，该复杂人工智能（“AI”）模型诸如基于深度神经网络（“DNN”）的图像分类器、对象检测器等。例如，在医学成像社群（community）中，研究者使用生成性对抗网络（“GAN”）来生成新图像（诸如，脑部磁共振图像），以验证经训练的图像分类模型。由于诊断医学图像收集起来是昂贵的，因此GAN提供了一种用于生成逼真的新测试图像的高效方法。作为另一个示例，在自主驾驶领域中，在将经训练的AI模型大规模部署在自主驾驶系统中之前，在多样化的场景中测试该经训练的AI模型是至关重要的。然而，收集多样化的真实生活交通数据是具有挑战性的。因此，使用基于三维（“3D”）仿真的方法来生成用于自主驾驶AI模型（诸如例如，基于DNN的行人检测器）的测试用例。
[0003]深度生成模型和对抗攻击的最近进展本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于执行利用可操纵且多样化的语义的基于概念的对抗生成的系统，所述系统包括：电子处理器，其被配置成：访问输入图像，基于所述输入图像来执行基于概念的语义图像生成，使用作为执行基于概念的语义图像生成的一部分而生成的一组语义隐空间来执行基于概念的语义对抗学习，根据基于概念的语义对抗学习来生成对抗图像，以及使用所述对抗图像来测试目标模型。2.根据权利要求1所述的系统，其中所述电子处理器被配置成使用经解纠缠的表示学习和生成性对抗学习来执行基于概念的语义图像生成。3.根据权利要求1所述的系统，其中所述电子处理器被配置成通过以下方式来执行基于概念的语义图像生成：训练具有经解纠缠的连续和离散表示的图像生成器，以及基于由所述图像生成器所解纠缠的语义隐空间来训练生成性对抗网络。4.根据权利要求3所述的系统，其中所述图像生成器是变分自编码器。5.根据权利要求3所述的系统，其中训练所述图像生成器包括：训练编码器，所述编码器被配置成：学习具有连续和离散编码的经解纠缠的隐空间，以及将经解纠缠的隐空间与语义特征对齐作为语义隐空间。6.根据权利要求3所述的系统，其中训练所述图像生成器还包括：训练解码器，所述解码器被配置成从所述语义隐空间来生成新图像。7.根据权利要求3所述的系统，其中所述电子处理器被配置成利用随机输入以及从所述语义隐空间采样的向量来训练所述生成性对抗网络。8.根据权利要求1所述的系统，其中基于概念的语义对抗学习被执行为黑盒对抗学习方法。9.根据权利要求1所述的系统，其中所述电子处理器被配置成通过以下方式来执行基于概念的语义对抗学习：分析所述一组语义隐空间，以及标识至少一个语义隐空间，其中所述对抗图像是基于所述至少一个语义隐空间而生成的。10.根据权利要求9所述的系统，其中所述对抗图像具有与所述输入图像不同的至少一个语义特征。11.根据权利要求1所述的系统，其中所述对抗图像将使所述目标模型失败。12.根据权利要求11所述的系统，其中所述目标模型是属性分类器。13.根据权利要求1所述的系统，其中所述电子处理器进一步被配置成生成所述目标模型的性能概要以供显示。14....

【专利技术属性】
技术研发人员：王梓杰，苟良，何文彬，任骝，
申请(专利权)人：罗伯特，
类型：发明
国别省市：