【技术实现步骤摘要】
【国外来华专利技术】
本专利技术涉及用于对第一经训练机器学习模型的至少一个模型输出进行校正的计算机实现方法。进一步地，本专利技术涉及对应的计算机程序产品、对应的技术系统和校正模块。
技术介绍
1、人工智能(“ai”)系统(诸如，机器学习模型)是从现有技术已知的。ai系统是下述软件程序：其行为是从数据学习的，而不是被显式编程的。学习过程被称为“训练”，其要求充足的数据和显著的计算资源。从而，经训练的ai系统解决它针对其而被训练的具体任务，诸如，系统属性或异常的预测。不同于传统软件，ai系统的所学习的行为高度依赖于包括在训练期间使用的参数的数据，即，训练数据。
2、例如，自适应单纯形架构(“asa”)使用监督学习模型以实时计算例如机器人运动规划。神经单纯形架构(“nsa”)使用强化学习模型以计算例如针对自主交通工具的控制参数。
3、当训练数据是在其上稍后将在现场应用ai系统的数据的代表性样本时，ai系统的性能将是高的。然而，在真实世界场景中，普遍遇到域漂移或域偏移。域漂移意味着分布在训练和测试或应用数据之间偏移。普遍的是，经训练的ai系统在训练之后表现好，并且其性能随着现场数据越来越与原始训练数据不同而随时间降级。
4、参考示例性nsa，在高性能控制器(“hpc”)的模型输出位于预定义安全区域外的情况下，决策逻辑将控制从hpc切换到辅助高保证控制器(“hac”)。hac处于操作中，直到被用作hpc的底层机器学习模型被再训练。从而，模型输出适用于或用于对技术单元或技术单元的部件进行控制，该部件诸如是工业机器人、工业工厂或
5、劣势在于：机器学习模型的所要求的再训练是复杂且耗时的。因此，现有技术解决方案建议在更长时间段内运行次优hac，从而导致不可靠的模型输出且因而导致技术单元或技术单元的部件的不可靠控制。
6、参考示例性asa，按照被用作hpc的机器学习模型的可靠性，控制在hpc与hac之间连续切换。因此，asa的模型输出(诸如，轨迹规划、转向或制动动作)也可以就例如下述各项而言是次优的：(a)能量和材料消耗，这是因为在控制周期的至多1％中使用hac；以及(b)稳定性，这是因为hpc和hac使用不同控制方案。
7、不可靠(即，不平滑和/或不稳定)模型输出是必要的且用于控制技术单元。该不正确控制常常导致操作期间的严重安全危险，诸如，自主交通工具的突然制动和/或方向改变。进一步负面影响是例如工业工厂的制造过程中的所制造的产品的降低的质量、吞吐量和/或可用性。在最坏情况下，影响甚至导致个人伤害，诸如，由自主交通工具的不正确控制造成的事故。
8、存在下述需要：尤其针对控制而部署和操作的ai模型是“工业分级的”。这意味着：ai模型即使在它们的应用场景周围的状况可能改变时也必须是可靠且健壮的，以便避免这种负面影响和个人伤害。
9、因此，本专利技术的目的是提供用于以高效且可靠的方式对第一经训练机器学习模型的至少一个模型输出进行校正的计算机实现方法。
技术实现思路
1、根据本专利技术的一个方面，该问题由一种用于对第一经训练机器学习模型的至少一个模型输出进行校正的计算机实现方法解决，所述计算机实现方法包括下述步骤：
2、a.提供所述第一经训练机器学习模型的所述至少一个模型输出；其中
3、所述第一经训练机器学习模型被配置用于确定所述至少一个模型输出，所述至少一个模型输出包括用于对技术单元或所述技术单元的部件进行控制的至少一个控制参数或至少一个运动参数；
4、b.使用至少一个接受测试来验证所述至少一个模型输出，从而导致与所述至少一个模型输出的未通过或通过有关的至少一个测试裁决；其中
5、所述至少一个测试裁决包括与所述至少一个模型输出是已经通过还是未通过所述至少一个接受测试有关的至少一个指示以及与所述至少一个模型输出从至少一个期望输出的偏差有关的至少一个指示；
6、c.如果所述第一经训练机器学习模型未通过所述至少一个接受测试，则使用第二经训练机器学习模型基于所述至少一个测试裁决和所述至少一个模型输出来确定至少一个校正参数；d.通过在所述第一经训练机器学习模型的所述至少一个模型输出上应用所述至少一个校正参数，来调整所述至少一个模型输出；以及
7、e.提供至少一个经调整的输出作为至少一个经校正的模型输出。
8、相应地，本专利技术涉及一种用于对第一经训练机器学习模型的该至少一个模型输出进行校正的计算机实现方法。因此，首先，该至少一个模型输出被提供作为针对验证和其他后续方法步骤的输入。
9、步骤a.中的输入可以是经由一个或多个输入接口来接收的。第一经训练机器学习模型被配置用于确定或预测该至少一个模型输出。换言之，模型输出是第一机器学习模型的结果。模型输出包括控制参数或运动参数。该参数适用于或用于对技术单元或技术单元的部件进行控制，该部件诸如是工业机器人、工业工厂或自主交通工具。技术单元还可以被设计为任何其他安全控制系统(scs)。
10、另外，模型输出可以包括进一步数据或参数。除模型输出外，也可以提供进一步数据和/或第一机器学习模型。因此，可以利用进一步信息对输入进行扩展。
11、在下一步骤中，鉴于未通过或通过该至少一个接受测试而检验该至少一个模型输出。该检验导致该至少一个测试裁决。
12、测试裁决给出与该至少一个模型输出的未通过或通过有关的指示。换言之，模型输出可能通过或未通过一个或多个接受测试。
13、除该第一指示外，该至少一个测试裁决包括至少一个进一步第二指示。第二指示涉及该至少一个模型输出从该至少一个期望输出的偏差。换言之，测试裁决指示模型输出与期望安全区域或期望安全区相隔或隔开多远。安全区域或安全区可以是预定义的。第二指示优选地被设计为包括所述指示的定量参数。
14、测试裁决可以包括附加定量参数和/或其他信息作为针对接下来步骤的输入。
15、在下一步骤中，确定该至少一个校正参数。因此，在所提供的输入(即，模型输出和测试裁决)上应用第二经训练机器学习模型。
16、仅执行该校正或调整步骤，并且因此，在第一经训练机器学习模型未通过接受测试的情况下，应用第二经训练机器学习模型。校正的优势在于：模型输出被推送回到安全区域或安全区中。安全区域或安全区可以被解释为容许的包络或可恢复的区域，其可以由接受或安全门确定。
17、在模型输出通过的另一情况下，该校正步骤不是必需的且被跳过。模型输出在该情况下已经通过了接受测试，且被接受为正确模型输出。不执行进一步调整。模型输出保持不变。
18、该至少一个校正参数用于校正该至少一个模型输出。当前或先前模型输出被经校正或调整的模型输出替代，且在所执行的校正之后被提供作为输出。
19、作为至少一个经校正的模型输出的该至少一个经调整的输出可以用于对技术单元或技术单元的部件进行控制。优势在于：控制基于经校正的本文档来自技高网...
【技术保护点】
1.用于对第一经训练机器学习模型的至少一个模型输出进行校正的计算机实现方法，包括下述步骤：
2.根据权利要求1所述的计算机实现方法，进一步包括下述步骤中的至少一个：由控制器执行所述至少一个经校正的模型输出，以用于对所述技术单元或所述技术单元的部件进行控制；其中所述控制器优选地是高性能控制器；以及
3.根据权利要求1或权利要求2所述的计算机实现方法，其中所述至少一个控制参数或所述至少一个运动参数是从包括下述各项的组中选择的参数：控制律、控制动作和控制规划。
4.根据前述权利要求中任一项所述的计算机实现方法，其中所述验证是在所述至少一个模型输出被释放或转发以用于执行之前执行的。
5.根据前述权利要求中任一项所述的计算机实现方法，其中在所述技术单元或所述技术单元的部件的情境中，所述至少一个模型输出由碰撞避免路径、任何其他路径或轨迹的至少一个参数表示。
6.根据权利要求5所述的计算机实现方法，其中所述至少一个校正参数在调整期间被加到所述至少一个碰撞避免路径、所述至少一个其他路径或所述至少一个轨迹的至少一个参数。
7.
8.根据权利要求7所述的计算机实现方法，其中所述第二机器学习模型是前馈或循环神经网络，或者长短期存储器网络。
9.一种计算机程序产品，直接可加载到计算机的内部存储器中，所述计算机程序产品包括用于在所述计算机程序产品在计算机上运行时执行根据前述权利要求中任一项所述的步骤的软件代码部分。
10.一种技术系统，包括用于确定至少一个校正参数的校正模块，所述校正模块被配置用于执行根据权利要求1至8中任一项所述的步骤。
11.校正模块，用于在第一经训练机器学习模型未通过至少一个接受测试的情况下使用第二经训练机器学习模型基于至少一个测试裁决确定至少一个校正参数，所述至少一个测试裁决由所述第一经训练机器学习模型的至少一个对应接受测试和至少一个模型输出产生。
...【技术特征摘要】
【国外来华专利技术】
1.用于对第一经训练机器学习模型的至少一个模型输出进行校正的计算机实现方法，包括下述步骤：
2.根据权利要求1所述的计算机实现方法，进一步包括下述步骤中的至少一个：由控制器执行所述至少一个经校正的模型输出，以用于对所述技术单元或所述技术单元的部件进行控制；其中所述控制器优选地是高性能控制器；以及
3.根据权利要求1或权利要求2所述的计算机实现方法，其中所述至少一个控制参数或所述至少一个运动参数是从包括下述各项的组中选择的参数：控制律、控制动作和控制规划。
4.根据前述权利要求中任一项所述的计算机实现方法，其中所述验证是在所述至少一个模型输出被释放或转发以用于执行之前执行的。
5.根据前述权利要求中任一项所述的计算机实现方法，其中在所述技术单元或所述技术单元的部件的情境中，所述至少一个模型输出由碰撞避免路径、任何其他路径或轨迹的至少一个参数表示。
6.根据权利要求5所述的计算机实现方法，其中所述至少一...
【专利技术属性】
技术研发人员：J·弗洛里希，T·约内斯库，
申请(专利权)人：西门子股份公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。