本申请所涉及的推理装置包括：获取数据的数据获取部(11)；推理部(12)，该推理部(12)在以数据为输入并输出第一推理结果的第一机器学习模型(16)中，输入由数据获取部(11)获取到的数据来推理第一推理结果；相似度计算部(13)，该相似度计算部(13)基于将数据获取部(11)获取的数据输入到以数据为输入并输出第二推理结果的第二机器学习模型(17)中进行推理得到的第二推理结果和数据获取部(11)获取到的数据，计算数据获取部(11)获取到的数据与第二推理结果的相似度；判断部(14、14a)，该判断部(14、14a)通过比较相似度计算部(13)计算出的相似度与推理结果判定用阈值，判断是否输出第一推理结果；以及输出部(15)，该输出部(15)在判断部(14、14a)判断为输出第一推理结果的情况下，输出第一推理结果。输出第一推理结果。输出第一推理结果。
【技术实现步骤摘要】
【国外来华专利技术】推理装置、驾驶辅助装置、推理方法和服务器
[0001]本公开涉及使用机器学习中的完成学习模型(以下称为“机器学习模型”。)进行推理的推理装置、驾驶辅助装置、推理方法和服务器。
技术介绍
[0002]以往，在自动驾驶等领域，使用机器学习模型进行推理的技术是众所周知的。在专利文献1中公开了一种信息处理装置，在使用无监督数据的估计结果与使用有监督数据的估计结果相似的情况下，基于该有监督数据所具有的监督信息来生成无监督数据的监督信息。现有技术文献专利文献
[0003]专利文献1：日本专利特开2019－87012号公报
技术实现思路
专利技术所要解决的技术问题
[0004]在使用机器学习模型进行推理的情况下，有时会向该机器学习模型输入与该机器学习模型在学习时输入的数据相似度相差甚远的数据。其结果是，存在有可能会输出不合理的推理结果的问题。专利文献1中公开的技术是判断学习数据中的有监督数据和无监督数据的相似度的技术，不是判断推理时输入的数据和学习时输入的数据的相似度的技术。因此，不能为了解决上述问题而使用专利文献1中公开的技术。
[0005]本公开是为了解决上述问题而提出的，其目的是提供一种能够防止输出不合理的推理结果的推理装置。用于解决技术问题的技术手段
[0006]本公开所涉及的推理装置包括：获取数据的数据获取部；推理部，该推理部在以数据为输入并输出第一推理结果的第一机器学习模型中，输入由数据获取部获取到的数据来推理第一推理结果；相似度计算部，该相似度计算部基于将数据获取部获取的数据输入到以数据为输入并输出第二推理结果的第二机器学习模型中进行推理得到的第二推理结果和数据获取部获取到的数据，计算数据获取部获取到的数据与第二推理结果的相似度；判断部，该判断部通过比较相似度计算部计算出的相似度与推理结果判定用阈值，判断是否输出第一推理结果；以及输出部，该输出部在判断部判断为输出第一推理结果的情况下，输出第一推理结果。专利技术效果
[0007]根据本公开，能够防止输出不合理的推理结果。
附图说明
[0008]图1是示出实施方式1所涉及的推理装置的结构例的图。图2是示出实施方式1中第一机器学习模型和第二机器学习模型的关系的图。图3是示出实施方式1中的车辆周边数据与输出车辆周边数据的相似度[S]的(式1)。图4示出在实施方式1中，基于“正确数据相似度”的分布和“错误数据相似度”的分布而统计学地设定的推理结果判定用阈值的示意图的一个示例。图5是用于说明实施方式1所涉及的推理装置的动作的流程图。图6是用于说明在实施方式1中第一推理部在判断部判断为输出驾驶辅助信息之后推理驾驶辅助信息的情况下的推理装置的动作的流程图。图7是示出实施方式2所涉及的推理装置的结构例的图。图8是示出实施方式2中第二模型选择部通过将相似度计算部计算出的每个第二机器学习模型的相似度与推理结果判定用阈值进行比较来选择出选择第二机器学习模型的方法的示意图的一个示例的图。图9是示出实施方式2中暂定第二模型选择部基于代表相似度计算部计算出的代表相似度以及学习时相似度信息来选择暂定第二机器学习模型的方法的示意图的一个示例的图。图10是用于说明实施方式2所涉及的推理装置的动作的流程图。图11是用于说明当推理装置进行并行计算而选择出选择第二机器学习模型时的图10的步骤ST1005的具体动作的流程图。图12是用于说明当推理装置进行顺序计算而选择出选择第二机器学习模型时的图10的步骤ST1005的具体动作的流程图。图13是用于说明在实施方式2中第一推理部在判断部判断为输出驾驶辅助信息之后推理驾驶辅助信息的情况下的推理装置的动作的流程图。图14A、图14B是示出实施方式1所涉及的推理装置或实施方式2所涉及的推理装置的硬件结构的一个示例的图。图15是示出在服务器中具备实施方式1所涉及的推理装置或实施方式2所涉及的推理装置、且服务器和车辆经由网络连接的推理系统的结构例的图。
具体实施方式
[0009]以下，参照附图对本专利技术的实施方式进行详细说明。实施方式1.图1是示出实施方式1所涉及的推理装置1的结构例的图。在实施方式1中，推理装置1具备驾驶辅助装置100，该驾驶辅助装置100输出用于辅助车辆的驾驶员的驾驶的信息(以下称为“驾驶辅助信息”)。另外，驾驶辅助装置100辅助驾驶的车辆以具有自动驾驶功能为前提。即使车辆具有自动驾驶功能，驾驶员也能不执行该自动驾驶功能而自行驾驶车辆。在能够自动驾驶的车辆中由驾驶员自行驾驶的情况下，驾驶辅助装置100输出驾驶辅助信息。具体而言，驾驶辅助信息例如是表示识别了车辆周边的其他车辆、信号或标志等物体的信息。驾驶辅助装置100搭载于车辆上。
推理装置1基于与车辆周边相关的数据(以下称为“车辆周边数据”)和第一机器学习模型16来推理驾驶辅助信息，并输出推理出的驾驶辅助信息。第一机器学习模型16完成学习，使得通过准备了与输入数据对应的正确数据的有监督学习来推理出推理结果(以下称为“第一推理结果”)。在实施方式1中，第一机器学习模型16完成学习，使得通过准备了与车辆周边数据对应的正确数据的有监督学习，推理驾驶辅助信息以作为第一推理结果。
[0010]此时，推理装置1使用第二机器学习模型17来判断由第一机器学习模型16推理出的驾驶辅助信息是否合理。第二机器学习模型17使用与第一机器学习模型16相同的输入数据来完成学习，以使得输入数据与作为推理结果(以下称为“第二推理结果”)的输出数据相等。在实施方式1中，第二机器学习模型17将车辆周边数据作为输入，并完成学习，使得作为第二推理结果，输出与车辆周边数据内容相同的输出数据(以下称为“输出车辆周边数据”)。在实施方式1中，第一机器学习模型16和第二机器学习模型17是通过神经网络中的深度学习来学习的机器学习模型。
[0011]图2是示出实施方式1中第一机器学习模型16和第二机器学习模型17的关系的图。作为前提，神经网络推理时的输出取决于学习时输入的数据(以下称为“学习时数据”)的偏差。因此，假定当输入与该第一机器学习模型16的学习时数据内容相同的车辆周边数据时，第一机器学习模型16能够推理出正确的解，换言之，第一机器学习模型16能够推理出正确的驾驶辅助信息。这里，如上所述，第二机器学习模型17进行学习，使得输出与作为输入的车辆周边数据内容相同的输出数据、即输出车辆周边数据。因此，推理时，在将具有与第二机器学习模型17的学习时数据相近特征的车辆周边数据作为该第二机器学习模型17的输入的情况下，作为该第二机器学习模型17的输入的车辆周边数据与输出的输出车辆周边数据之间的差异变小。另一方面，推理时，在将具有与第二机器学习模型17的学习时数据不同特征的车辆周边数据作为该第二机器学习模型17的输入的情况下，作为该第二机器学习模型17的输入的车辆周边数据与输出的输出车辆周边数据之间产生差异。另外，在推理时作为第二机器学习模型17的输入的车辆周边数据是在推理时作为第一机器学习模型16的输入的车辆周边数据。
[0012]在实施方式1中，将推理时作为第二机器学习模型17本文档来自技高网...
【技术保护点】
【技术特征摘要】
【国外来华专利技术】1.一种推理装置，其特征在于，包括：数据获取部，该数据获取部获取数据；推理部，该推理部将所述数据获取部获取的数据输入到以所述数据为输入并输出第一推理结果的第一机器学习模型，以推理所述第一推理结果；相似度计算部，该相似度计算部基于将所述数据获取部获取的数据输入到以所述数据为输入并输出第二推理结果的第二机器学习模型中进行推理得到的所述第二推理结果和所述数据获取部获取到的数据，计算所述数据获取部获取到的数据与所述第二推理结果的相似度；判断部，该判断部通过比较所述相似度计算部计算出的相似度与推理结果判定用阈值，判断是否输出所述第一推理结果；以及输出部，该输出部在所述判断部判断为输出所述第一推理结果的情况下，输出所述第一推理结果。2.如权利要求1所述的推理装置，其特征在于，所述推理部在判断所述判断部是否输出所述第一推理结果之前，对该第一推理结果进行推理，所述判断部判断是否输出所述推理部推理完的所述第一推理结果。3.如权利要求1所述的推理装置，其特征在于，当所述判断部判断为输出所述第一推理结果时，所述推理部对所述第一推理结果进行推理。4.如权利要求1所述的推理装置，其特征在于，所述判断部在所述相似度大于所述推理结果判定用阈值的情况下，判断为输出所述第一推理结果。5.如权利要求1所述的推理装置，其特征在于，所述推理结果判定用阈值基于如下而设定：基于测试所述第一机器学习模型时输入到该第一机器学习模型的结果而输出的所述第一推理结果为正确的正确测试数据、将该正确测试数据输入到所述第二机器学习模型中而输出的正确推理结果计算出的所述正确测试数据和所述正确推理结果的正确数据相似度；以及基于测试所述第一机器学习模型时输入到该第一机器学习模型的结果而输出的所述第一推理结果为错误的错误测试数据、将该错误测试数据输入到所述第二机器学习模型中而输出的错误推理结果计算出的所述错误测试数据和所述错误推理结果的错误数据相似度。6.如权利要求1所述的推理装置，其特征在于，所述第二机器学习模型是为了使输入的所述数据和所述第二推理结果相等而进行学习的机器学习模型。7.如权利要求1所述的推理装置，其特征在于，存在多组基于彼此相同的学习时数据学习得到的、成对的所述第一机器学习模型和所述第二机器学习模型，所述推理部能够针对每个所述第一机器学习模型推理所述第一推理结果，
所述相似度计算部能够针对每个所述第二机器学习模型计算所述相似度，所述判断部包括：第二模型选择部，该第二模型选择部通过比较所述相似度计算部计算出的所述相似度与所述推理结果判定用阈值，从所述多个所述第二机器学习模型中选择出选择第二机器学习模型；以及第一模型选择部，该第一模型选择部从所述多个所述第一机器学习模型中选择与所述第二模型选择部所选择的所述选择第二机器学习模型对应的选择第一机器学习模型，所述推理部判断是否输出基于所述第一模型选择部选择的所述选择第一机器学习模型进...
【专利技术属性】
技术研发人员：奥田太郎，
申请(专利权)人：三菱电机株式会社，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。