信息处理方法、存储介质和信息处理装置制造方法及图纸

一种即使当对象物被错误地图像识别时也可以适当地判定对象物中发生了异常的信息处理方法，由信息处理装置中的处理器执行：从拍摄装置获取包含对象物的图像；从设置在对象物或对象物附近的物体上的一个或多个传感器获取由各传感器感测的各数据；使用各数据判定基于图像的对象物的识别结果是否异常。于图像的对象物的识别结果是否异常。于图像的对象物的识别结果是否异常。

【技术实现步骤摘要】
信息处理方法、存储介质和信息处理装置


[0001]本专利技术涉及一种信息处理方法、存储介质和信息处理装置。

技术介绍

[0002]近年来，人们对避免自动驾驶车辆引发事故的技术进行了如火如荼的研究。例如，已知将处理器的驾驶能力水平与人类的驾驶能力水平进行比较，使其在水平相对较高的一侧进行驾驶的技术(例如，参照专利文献1)。现有技术文献专利文献
[0003]专利文献1：美国专利9566986号公报

技术实现思路

专利技术所要解决的课题
[0004]然而，自动驾驶系统使用基于拍摄装置拍摄的图像识别的对象物(标志、信号等)来控制自动驾驶。因此，如现有技术那样，当在假定图像识别的对象物为真的情况下控制自动驾驶时，如果图像识别的对象物被错误识别的话，则会有导致严重事故的可能性。例如，近年出现的被称为单像素攻击(Jiawei Su，Danilo Vasconcellos Vargas，Sakurai Kouichi，“One pixel attack for fooling deep neural networks，”IEEE Transactions on Evolu tionary Computation}，Vol.23，Issue.5，pp.828
‑‑
841.Publisher:IEEE.2019)的攻击可以仅篡改单个像素来诱导神经网络识别错误的图像并返回特定的结果。对于受到这样的攻击而被错误识别的对象物、例如红灯被错误识别而成的绿灯，需要采取措施将该错误识别判定为异常。<br/>[0005]因此，本专利技术提供了一种信息处理方法、程序和信息处理装置，即使例如在受到攻击而错误地图像识别对象物的情况下，也能够适当地判定在对象物中产生的异常。用于解决课题的手段
[0006]本专利技术的一个方面提供的信息处理方法，由信息处理装置中的处理器执行：从拍摄装置获取包含对象物的图像；从设置在所述对象物或所述对象物附近的物体上的一个或多个传感器获取由各传感器感测的各数据；使用所述各数据判定基于所述图像的所述对象物的识别结果是否异常。专利技术效果
[0007]通过本专利技术，可以提供了一种信息处理方法、存储介质和信息处理装置，即使在对象物被错误地图像识别的情况下，也能够适当地判定在对象物中产生的异常。
附图说明
[0008]图1是示出本专利技术一实施方式提供的信息处理系统的一例的图。图2是示出本实施方式提供的信息处理装置的处理块的一例的图。
图3是示出本实施方式提供的信息处理装置的物理配置的一例的图。图4是示出实施例1提供的用于异常判定的数据例的图。图5是示出实施例1提供的信息处理系统1的判定处理的一例的时序图。图6是示出实施例2提供的用于异常判定的数据例的图。
具体实施方式
[0009]将参照附图对本专利技术的实施方式进行说明。再者，在各图中，标有相同标号即具有相同或近似的结构。
[0010]&lt;系统概要&gt;图1是示出本专利技术一实施方式提供的信息处理系统的一例的图。图1所示的信息处理系统1包括信息处理装置10、搭载有拍摄装置的车辆20和设有各传感器30的物体，并且能够经由网络N彼此进行数据通信。
[0011]图1所示的信息处理装置10例如为服务器，并经由网络与各种人或物品连接。例如，信息处理装置10与能够以自动驾驶水平3以上进行自动驾驶的各车辆20连接，并获取由搭载在各车辆20上的相机等拍摄装置拍摄的图像。此外，信息处理装置10获取设置在各车辆20周围的物体(例如信号灯、道路、行人等)上的各传感器30感测到的各数据。车辆20包括用于控制行驶的处理器，并且例如具有用于对由拍摄装置拍摄的图像执行图像识别处理的装置。
[0012]对于所获取的图像，信息处理装置10使用例如CNN(Convolutional Neural Network)这样的图像识别模型来识别图像中的对象物是什么。在这种情况下，信息处理装置10从设置在识别对象物上的各传感器30或设置在位于该对象物附近的物体(例如，地上物、车辆20、人等)上的各传感器30获取感测到的各数据。各传感器30为包括例如视觉、听觉、味觉、嗅觉、触觉等之中的至少一个的五感传感器，或者当设置于人身上时，除了五感传感器之外，各传感器30还可以包括用于感测脑电波的脑电波传感器。
[0013]例如，当道路标志为识别对象物时，该道路标志设置有视觉传感器(相机等拍摄装置)、听觉传感器(用于收集声音数据的麦克风等)、味觉传感器、嗅觉传感器和触觉传感器中的至少一个。然后，预先使信息处理装置10学习从各传感器30感测到的数据，并对所获取的数据使用学习后的学习模型来输出数据是否异常的判定结果。再者，当学习模型包含神经网络时，信息处理装置10可以通过误差反向传播法更新神经网络的参数，并校正学习模型，以输出适当的判定结果。
[0014]例如，当道路标志弯曲时，可以使用视觉传感器或听觉传感器根据从道路标志拍摄的图像的变化、或根据弯曲时的声音等来判定异常。此外，当道路标志上被喷射了喷雾等的情况下，可以使用味觉传感器、嗅觉传感器、听觉传感器、触觉传感器等来判定异常。
[0015]信息处理装置10使用从各传感器30获取的各数据来判定识别结果是否存在异常。例如，信息处理装置10通过使用对来自各传感器30的各数据进行异常判定的各判定结果来执行多数表决处理，从而即使使用对受到任意攻击的道路标志进行拍摄得到的图像错误地识别了对象物，也可以根据其他各传感器30显示异常这一情况来检测到错误地识别了对象物。
[0016]从而，当包括信息处理装置10的自动驾驶系统控制车辆20的行驶时，即使当错误
地识别信号灯和道路标志等对象物时，也可以使用从设置在该对象物等之上的各传感器输出的各数据来进行异常判定，从而检测对象物本身被如何篡改，其结果是，可以针对被错误地图像识别了的对象物检测到错误识别。
[0017]&lt;实施例1&gt;下面，将对本专利技术提供的一实施例进行说明。在实施例1中，识别对象物设置有一个或多个传感器30，并且信息处理装置10使用由各传感器30感测到的各数据来判定识别对象物本身是否被篡改(是否存在异常)。
[0018]例如，当识别对象物在可能进行单像素攻击的位置被篡改时，则基于识别对象物的图像进行图像识别的结果是识别为不同的对象物，而不会从识别对象物的外观上注意到篡改。然而，在实施例1中，设置在识别对象物上的各传感器30等检测到识别对象物的变化(异常)，并可以检测到识别为了与真实的识别对象物不同的对象物。下面，将对实施例1中的识别对象物的异常判定进行具体说明。
[0019]图2是示出本实施方式提供的信息处理装置10的处理块的一例的图。信息处理装置10包括处理控制部11、第一获取部12、第二获取部13、判定部14、图像识别部15、学习模型15a、异常判定部16、学习模型16a、输出部17和存储部18。
[0020]第一获取部12从例如搭载在车辆20上的相机等拍摄装置获取包括本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种信息处理方法，由信息处理装置中的处理器执行：从拍摄装置获取包含对象物的图像；从设置在所述对象物或所述对象物附近的物体上的一个或多个传感器获取由各传感器感测的各数据；将从所述各传感器获取的各数据中的对应数据分别输入至各学习模型中并获取所述对象物是否异常的各判定结果，所述各学习模型将来自于所述各传感器的过去的各数据作为学习数据对所述对象物是否异常进行了学习；使用所述各判定结果判定基于所述图像的所述对象物的识别结果是否异常。2.如权利要求1所述的信息处理方法，其中，所述判定包括：对所述各判定结果进行集成学习，并判定所述识别结果是否异常。3.一种信息处理方法，由信息处理装置中的处理器执行：从搭载在可自动驾驶的车辆上的拍摄装置获取图像，所述图像包含对象物，所述对象物包括与道路、信号灯、或标志有关的地上物；从设置在所述对象物或所述对象物附近的物体上的一个或多个传感器获取各数据，所述各数据由各传感器感测，所述物体包括地上物、人、或车辆；使用所述各数据判定基于所述图像的所述对象物的识别结果是否异常。4.如权利要求3所述的信息处理方法，其中，所述获取图像包括：获取所述车辆的位置信息；所述获取各数据包括：获取所述各传感器的位置信息...

【专利技术属性】
技术研发人员：洼田望，
申请(专利权)人：洼田望，
类型：发明
国别省市：