【技术实现步骤摘要】
技术介绍
1、例如，由于计算机视觉算法的广泛使用，机器学习模型越来越多地应用于车辆中。越来越多数量的车内外的摄像机时刻监控内部和外部的车辆环境。
2、例如，在高性能片上系统(soc)上使用针对机器学习的模型，这些片上系统通常使用到各种类型的硬件加速器来减轻cpu内核的负载。
3、原则上必须确保：不仅仅机器学习模型而且运行它的硬件都按预期工作。例如，iso 21448标准中处理了对所设功能性的安全性的要求。此外，还应提出符合iso 26262标准的功能安全性要求。这例如在iso 26262标准的意义上非安全的操作系统或非安全的硬件加速器被使用的情况下就很重要。一般来说，由soc和其他技术模块(baustein)(例如工作存储器、电源等)组成的复杂系统是完全由根据iso26262开发的模块组成的这种情况是很少见的。因此，此类系统往往会明确定义一条关键路径，并对其进行特殊保护。
技术实现思路
1、本公开描述了一种用于监控模型的方法。
2、一种实施方式涉及的是计算机实现的用于监控功能模型(funktionsmodell)的方法，该功能模型针对受计算机控制的机器的至少一个功能、特别是图像识别算法提供数据，其中所述功能模型在至少一个第一处理步骤中基于输入数据确定至少一个中间结果，并且其中所述功能模型基于所述中间结果在至少一个进一步的处理步骤中确定功能模型的输出，并且其中将所述中间结果和功能模型的输出提供给监控模型以用于异常识别，并且基于所述中间结果和所述功
3、在本专利技术的范畴内，功能模型(funktions-modell)被理解为：适合于针对受计算机控制的机器的至少一个功能提供数据的模型，特别是算法。
4、这种模型的一个示例是硬件和/或软件支持的图像识别算法，其被设计为基于输入数据(在这种情况下特别是数字图像数据)确定输出数据。这种算法例如是分类算法。然而，在异常识别的上下文中证实为有利的是，使该模型是回归算法。然而，这并不排除：模型或模型下游的应用程序进行最终分类。
5、规定为：功能模型在至少一个第一处理步骤中基于输入数据、例如基于推理来确定至少一个中间结果。在至少一个进一步的处理步骤、例如后处理步骤(nachbearbeitungsschritt)中，也称为post-processing，功能模型基于中间结果确定功能模型的输出。
6、不仅中间结果而且所述输出都需要使用监控模型受到(unterziehen)异常识别。在异常识别中，检查受监控的功能模型的结果是否存在异常，例如所谓的异常值(ausreiβer)。异常识别的一个挑战在于，在基于目标功能(sollfunktion)的不正确执行的真“异常值”与假“异常值”之间进行区分，其中在假“异常值”的情况下，通过输入突然变化产生的罕见事件也会造成此类异常值。并非每个异常值都意味着目标功能的不正确执行。因此，仅识别出异常值常常不足以在此基础上得出该功能模型的目标功能被不正确地执行的结论。相反，异常值通常并不表明实际出现了应识别出的错误事件。
7、根据本专利技术因此提出：通过至少一个用于验证功能模型的功能性和/或监控模型的功能性的步骤来补充异常识别。
8、为了验证功能模型的功能性而建议：例如执行所谓的“内置”自测试，即built-inself-test，bist。
9、例如规定该方法包括：使用功能模型基于参考输入确定参考输出，以及使用监控模型检查参考输出，特别是将参考输出与地面实况数据进行比较。参考输入例如被存放在相应的存储设备中并且被提供给功能模型。术语“地面实况数据”在此被理解为：该数据代表如下参考(referenz)，该参考针对相应目的而足够准确地描述了参考数据的现实性(wirklichkeit)。换句话说，地面实况数据是经客观分析的、被观察或测量的数据。
10、通过使用监控模型检查参考输出，可以根据已知的参考数据来检查该功能模型是否有功能能力在功能模型包括分类算法的情况下有利的是，参考输入覆盖不同的类别，特别是所有类别。
11、可以规定：使用功能模型基于参考输入来确定参考输出，并且使用监控模型周期性地(periodisch)执行参考输出与地面实况数据的比较。例如，可以通过提供至少一个参考输入来触发所述执行。
12、可以规定：在功能模型正常运行期间，即以按规定方式运行期间，使用功能模型基于参考输入来确定参考输出。但也可以将功能模型切换到测试运行。例如，如果功能模型包括其工作方式(funktionsweise)在正在进行的正常运行期间通过使用参考数据而受到影响的算法，则这是有利的。循环神经网络(rnn)就是这样的例子，它实现了内部状态。参考输入会影响内部状态，从而影响后续的预测。
13、补充地或替代地，可以设置进一步的步骤以便验证功能模型的功能性。该方法例如包括以下步骤：使用监控模型提供哈希值，使用功能模型对哈希值进行签名，将经签名的哈希值提供给监控模型并使用监控模型检查经签名的哈希值，特别是比较哈希值与经签名的哈希值。
14、监控模型例如生成随机数并对此生成哈希值。然后将哈希值提供给功能模型。哈希值是在数学上不可逆的函数，以确保功能模型无法自行恢复原始值。
15、例如，通过功能模型而对哈希值进行签名包括：将可逆函数应用于哈希值。监控模型通过应用逆(inversen)并将哈希值与原始生成的哈希值进行比较来检查经签名的哈希值。
16、根据一种实施方式而规定，对哈希值进行签名包括：在功能模型的第一处理步骤中向哈希值添加签名，并且在功能模型的至少一个进一步的处理步骤中添加另外的签名。在功能模型包括进一步的处理步骤的情况下规定：同样在所述进一步的处理步骤中添加签名。因此，功能模型的后续处理步骤将它们的签名(即，可逆函数)应用于相应的先前处理步骤的经签名的哈希值，以便最终生成最终签名的哈希值，该最终签名的哈希值然后被提供给监控模型。
17、有利地规定，在第一处理步骤中利用功能模型来确定中间结果并且生成哈希值的签名。中间结果和经签名的哈希值被传输到至少一个进一步的处理步骤。在所述进一步的处理步骤中，功能模型基于中间结果而确定功能模型的输出以及也确定对上一步骤的经签名的哈希值的签名。因此规定：每个处理步骤将所生成的中间结果和经签名的哈希值传输到下一个处理步骤。最后，最终签名的哈希值与输出一起被传输到监控模型。
18、根据一种实施方式规定该方法还包括：监控在其上执行所述功能模型的第一实例(instanz)与在其上执行所述监控模型的另一实例之间的通信。例如，可以通过监控来探测出本文档来自技高网...
【技术保护点】
1.用于监控功能模型(100)的计算机实现的方法，其中所述功能模型用于针对受计算机控制的机器(10)的至少一个功能、特别是图像识别算法提供数据，其中所述功能模型(100)在至少一个第一处理步骤(110、120)中基于输入数据(E)确定至少一个中间结果(Z_E1、Z_E2)，并且其中所述功能模型基于所述中间结果(E_Z1、E_Z2)在至少一个进一步的处理步骤(120)中确定所述功能模型(100)的输出(A)，并且其中将所述中间结果(Z_E1，Z_E2)和所述功能模型(100)的所述输出(A)提供给监控模型(1000)以用于异常识别，并且基于所述中间结果(Z_E1，Z_E2)和所述功能模型(100)的所述输出(A)来执行异常识别，并且其中执行用于验证所述功能模型(100)的功能性和/或所述监控模型(1000)的功能性的至少一个步骤。
2.根据权利要求1所述的方法，其中所述方法包括：使用所述功能模型(100)基于参考输入(R_E)确定参考输出(R_A)，以及使用所述监控模型(1000)检查所述参考输出(R_A)，特别是将所述参考输出(R_A)与地面实况数据进行比较。
...【技术特征摘要】
1.用于监控功能模型(100)的计算机实现的方法，其中所述功能模型用于针对受计算机控制的机器(10)的至少一个功能、特别是图像识别算法提供数据，其中所述功能模型(100)在至少一个第一处理步骤(110、120)中基于输入数据(e)确定至少一个中间结果(z_e1、z_e2)，并且其中所述功能模型基于所述中间结果(e_z1、e_z2)在至少一个进一步的处理步骤(120)中确定所述功能模型(100)的输出(a)，并且其中将所述中间结果(z_e1，z_e2)和所述功能模型(100)的所述输出(a)提供给监控模型(1000)以用于异常识别，并且基于所述中间结果(z_e1，z_e2)和所述功能模型(100)的所述输出(a)来执行异常识别，并且其中执行用于验证所述功能模型(100)的功能性和/或所述监控模型(1000)的功能性的至少一个步骤。
2.根据权利要求1所述的方法，其中所述方法包括：使用所述功能模型(100)基于参考输入(r_e)确定参考输出(r_a)，以及使用所述监控模型(1000)检查所述参考输出(r_a)，特别是将所述参考输出(r_a)与地面实况数据进行比较。
3.根据权利要求2所述的方法，其中使用所述功能模型(100)基于参考输入(r_e)确定参考输出(r_a)，并且使用所述监控模型(1000)周期性地执行所述参考输出(r_a)与地面实况数据的比较。
4.根据前述权利要求中任一项所述的方法，其中所述方法包括：使用所述监控模型(1000)提供哈希值(h)，使用所述功能模型(100)对所述哈希值进行签名，将经签名的哈希值提供给所述监控模型(1000)并使用所述监控模型(1000)检查所述经签名的哈希值特别是将所述哈希值(h)与根据所述经签名的哈希值所计算出的哈希值(h‘)进行比较。
5.根据权利要求4所述的方法，其中对所述哈希值(h)进行签名包括：在所述功能模型(100)的所述第一处理步骤(110)中向所述哈希值添加签名(s)，并且在所述功能模型(100)的所述至少一个进一步的处理步骤(120、130)中添加另外的签名(s)。
6.根据前述权利要求中任一项所述的方法，其中所述方法包括：监控在其上执行所述功能模型(100)的第一实例与在其上执行所述监控模型(1000)的另一实例之间的通信。
7.根据前述权利要求中任一项所述的方法，其中根据异常识别的结果和/或根据通信监控的结果而执行以下步骤中的至少一个：a)使用所述监控模型(1000)检查所述参考输出(r_a)与地面实况数据的比较结果；b)使用所述监控模型(1000)检查所述哈...
【专利技术属性】
技术研发人员：B·朔尔茨，D·库利克，H·瓦特尔，H·郑，H·卡勒，K·B·M·吉斯霍尔，M·J·小德梅尼泽斯，P·弗鲁贝格，
申请(专利权)人：罗伯特·博世有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。