【技术实现步骤摘要】
为分类模型确定扰动掩模
本专利技术涉及一种系统，其用于为通过分类模型的分类确定掩模，例如用于获得对于分类模型是否已经学习了输入/输出关系的理解。本专利技术还涉及对应的计算机实现的方法。本专利技术此外涉及包括用于执行所述方法的指令的计算机可读介质。专利技术背景分类模型越来越多地被使用在诸如自动化控制系统之类的环境中。例如，自主载具的控制系统可以使用图像分类来检测在它们附近的对象、诸如交通标志和障碍，并且使用该检测来控制载具。然而，还有非自主载具当今具有驾驶员辅助系统，所述驾驶员辅助系统使用图像分类，例如用于如果载具处于与对象碰撞的危险中则制动。图像分类也被使用在诸如医学图像分类的各种其它关键的情境中。除了图像之外，还有其它类型的传感器数据可以被用作对于分类模型的输入，例如，音频数据、视频数据、雷达数据、LiDAR数据、超声数据或各种单独的传感器读数或它们的历史。基于分类，可以生成控制信号，例如用于控制机器人、载具、家用器具、电力工具、制造机器、个人助理、访问控制系统等等。然而，分类还发生在诸如医学图像分析之类的各种...
【技术保护点】
1.一种用于为对于分类模型的输入实例来确定掩模的系统（100），所述掩模对干扰通过分类模型而对输入实例的分类的扰动进行指示，所述干扰使分类改变或使得分类不太确定，所述系统包括：/n- 输入接口（120），其用于访问分类模型（040）和生成型模型（060），其中所述分类模型被配置用于确定输入实例的分类，所述输入实例具有一类型，并且其中所述生成型模型被配置用于根据隐空间表示来生成所述类型的合成实例，/n- 处理器子系统（140），其被配置成：/n- 获得针对分类模型的输入实例、根据分类模型而对输入实例的分类以及针对输入实例的隐空间表示，其中所述隐空间表示当被用作对于生成型模型的...
【技术特征摘要】
20190516 EP 19174965.41.一种用于为对于分类模型的输入实例来确定掩模的系统（100），所述掩模对干扰通过分类模型而对输入实例的分类的扰动进行指示，所述干扰使分类改变或使得分类不太确定，所述系统包括：
-输入接口（120），其用于访问分类模型（040）和生成型模型（060），其中所述分类模型被配置用于确定输入实例的分类，所述输入实例具有一类型，并且其中所述生成型模型被配置用于根据隐空间表示来生成所述类型的合成实例，
-处理器子系统（140），其被配置成：
-获得针对分类模型的输入实例、根据分类模型而对输入实例的分类以及针对输入实例的隐空间表示，其中所述隐空间表示当被用作对于生成型模型的输入的时候，使得生成型模型生成近似输入实例的合成实例；
-确定掩模，所述掩模对干扰通过分类模型而对输入实例的分类的扰动进行指示，其中所述掩模指示对于针对输入实例的隐空间表示的扰动，并且其中基于针对受扰动的输入实例的分类模型的分类评分来确定所述掩模，所述受扰动的实例使用掩模通过如下来被确定：
-利用掩模来掩蔽隐空间表示；以及
-使用所述生成型模型、根据受掩蔽的隐空间表示来生成受扰动的输入实例。
2.根据权利要求1所述的系统（100），其中所述处理器子系统（140）被配置成通过至少最小化在分类评分与分类阈值之间的差异来确定掩模。
3.根据权利要求1或2所述的系统（100），其中所述处理器子系统（140）被配置成通过至少最大化分类评分关于掩模的梯度来确定掩模。
4.根据前述权利要求中任一项所述的系统（100），其中所述处理器子系统（140）被配置成通过至少最小化鉴别器评分来确定掩模，所述鉴别器评分对在受扰动的输入实例与用于训练生成型模型的训练数据集之间的相异度进行量化。
5.根据前述权利要求中任一项所述的系统（100），其中所述处理器子系统（140）被配置成通过至少最小化掩模的范数来确定掩模。
6.根据前述权利要求中任一项所述的系统（100），其中所述生成型模型包括生成型对抗性网络的生成型部分或自动编码器的解码器部分。
7.根据前述权利要求中任一项所述的系统（100），其中所述分类模型是图像分类器，并且其中所述处理器子系统（140）被配置成获得输入图像作为输入实例，并且确定受扰动的输入图像作为受扰动的输入实例。
8.根据前述权利要求中任一项所述的系统（100），此外包括输出接口（160），其用于以感觉上可感知的方式向用户输出所确定的掩模和/或受扰动的输入实例。<...
【专利技术属性】
技术研发人员：AM蒙诺兹德尔加多，
申请(专利权)人：罗伯特·博世有限公司，
类型：发明
国别省市：德国;DE
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。