用于识别图像中的干扰的方法和设备技术

用于识别图像中的干扰的由计算机实现的方法和设备，其中，根据图像确定针对来自所述图像的对象的类别（202），其中，通过预测函数、特别是人工神经网络根据所述图像确定针对所述对象的属性（206），其中，根据所述属性和所述类别确定（210），所述图像是否包含对于预测函数、特别是人工神经网络有敌意的干扰。

【技术实现步骤摘要】
用于识别图像中的干扰的方法和设备
本专利技术以用于特别是用人工神经网络处理图像的一种方法和一种设备为出发点。
技术介绍
Y．Dong，H．Su，J．Zhu和F．Bao的Towardsinterpretabledeepneuralnetworksbyleveragingadversarialexamples（预印本网站arXiv：1708.05493，2017）公开了一些方面，这些方面应当用于理解人工神经网络的输出。为此，考虑所述人工神经网络的内部状态，所述内部状态在分析包含对人工神经网络有敌意的干扰的图像时出现。在待分析的图像中的对人工神经网络有敌意的干扰用于实现所述人工神经网络的可信赖的输出，所述输出是该图像的创造者所打算的但是相对于该图像中示出的内容是错误的。例如，在图像中，在观察所述图像时对于人眼而言难以识别或者不可识别的改变（例如噪声）被集成到待分析的图像中，由于所述改变，该图像被所述人工神经网络错误地分类。值得期待的是，可靠地识别出图像中的这类干扰。
技术实现思路
这通过独立权利要求的主题实现。在用本文档来自技高网...

【技术保护点】
1.一种用于识别图像中的干扰的由计算机实现的方法，其特征在于，根据图像确定针对来自所述图像的对象的类别（202），其中，通过预测函数、特别是人工神经网络根据所述图像确定针对所述对象的属性（206），并且其中，根据所述属性和所述类别确定（210），所述图像是否包含对于预测函数、特别是人工神经网络有敌意的干扰。/n

【技术特征摘要】
20190214 DE 102019201990.01.一种用于识别图像中的干扰的由计算机实现的方法，其特征在于，根据图像确定针对来自所述图像的对象的类别（202），其中，通过预测函数、特别是人工神经网络根据所述图像确定针对所述对象的属性（206），并且其中，根据所述属性和所述类别确定（210），所述图像是否包含对于预测函数、特别是人工神经网络有敌意的干扰。


2.根据权利要求1所述的方法，其特征在于，通过第一人工神经网络确定所述属性，其中，通过第二人工神经网络确定所述对于人工神经网络有敌意的干扰是否被包含在所述图像中（210）。


3.根据权利要求1所述的方法，其特征在于，用所述图像和/或所述图像的针对所述对象的区域输出针对所述对象的属性以用于图像显示。


4.根据以上权利要求中任一项所述的方法，其特征在于，向所述属性分配在所述图像中的区域（208），其中，确定与所述对象相关的所述区域的定位的度量，并且其中，根据所述定位的度量来确定所述图像是否包含对于人工神经网络有敌意的干扰（210）。


5.根据以上权利要求中任一项所述的方法，其特征在于，确定针对第一图像的至少一个第一属性（206），其中，确定在所述至少一个第一属性和通过所述人工神经网络为未受干扰的第二图像预测的至少一个属性之间的第一间距，其中，在比较中将所述第一间距与阈值相比较，并且其中，根据所述比较的结果确定所述第一图像是否包含对于人工神经网络有敌意的干扰（210）。


6.根据权利要求5所述的方法，其中，根据在针对对所述第一图像适用的类别的多个属性和针对对所述第一图像不适用的至少一个类别（y）的多个属性之间的第二间距来定义所述阈值。


7.根据权利要求5所述的方法，其中，根据在所述至少一个第一属性和通过所述人工神经网络为来自于对于所述第一图像不适用的类别的未受干扰的第二图像预测的至少一个第...

【专利技术属性】
技术研发人员：S古尔沙德，A施穆尔德斯，Z阿卡塔，JH梅岑，
申请(专利权)人：罗伯特·博世有限公司，
类型：发明
国别省市：德国;DE