保护用于自主系统中的车道/交通管理的人工智能模型技术方案

本发明专利技术提供了一种用于保护在高级驾驶员辅助系统(ADAS)或自主车辆中使用的车道和交通管理AI模型的系统和方法。只有从可验证源识别的车道和交通管理数据才被允许用于测试和训练所述AI模型。所有其他数据都被阻止。所述AI模型的可控参数在部署之前被加密。在部署之后，所述可控参数被解密，并且只有签名验证的动态学习数据被应用于所述AI模型以用于连续学习。学习。学习。

【技术实现步骤摘要】
【国外来华专利技术】保护用于自主系统中的车道/交通管理的人工智能模型
[0001]相关申请的交叉引用
[0002]本申请要求2020年7月16日提交的名称为“Securing Artificial Intelligence Models For Lane/Traffic Management In An Autonomous System(保护用于自主系统中的车道/交通管理的人工智能模型)”的印度临时专利申请序列号202011030333的优先权。


[0003]本公开涉及保护人工智能模型免受网络攻击，并且更具体地，涉及保护用于车辆的自动驾驶辅助系统(ADAS)和/或自主车辆中的车道/交通管理的人工智能模型。

技术介绍

[0004]高级驾驶员辅助系统(ADAS)旨在通过使车辆系统自动化来提高安全性并改善整体驾驶体验。ADAS的许多特征都是自适应的，并且因此依赖于来自多个数据源的输入。现代车辆由通过内部车辆网络协调的数十台数字计算机监控和控制，以向/从车辆内部和外部的许多数据源提供数据。自主驾驶不仅仅是帮助人类驾驶员，还能够在没有人类干预的情况下对道路进行导航和解释交通控制装置。具有ADAS和/或自主驾驶功能的车辆可能借助于蜂窝和/或无线连接进行内部和外部连接，从而使其容易受到网络攻击。在下文中，ADAS和/或自主驾驶将被统称为ADAS。
[0005]机器学习(ML)、深度学习、学习、训练和准备可能适用于ADAS和自主车辆的人工智能(AI)模型，例如以提高车道管理和交通管理的准确性。使用与城市区域交通的规划和控制相关的车道和交通管理数据来开发AI模型，包括信号、标志和构建在道路中的形式，诸如路缘、中隔离带、停车振动带等。静态训练数据用于在模型的准备期间训练和测试模型。一旦部署了AI模型，就针对其所需的目标对其进行连续地评估，并且利用周期性更新连续地对其进行监控和管理。
[0006]ADAS和自主车辆通过处理多传感器融合数据，使用多个连接的基于AI的系统进行独立决策。ADAS和自主驾驶应用的严肃性质使得用于训练模型的数据是良好数据并且保护其免受网络攻击者的攻击是至关重要的。需要充分保护AI模型，特别是ADAS和自主车辆中的车道管理和交通管理中使用的AI模型。

技术实现思路

[0007]本专利技术主题提出了一种用于保护用于车道/交通管理的AI模型的系统和方法，所述系统和方法可由ADAS和自主车辆中的ML系统利用。主动车道/交通管理旨在增加峰值容量并使道路上的交通流畅通，并且AI模型使用来自真实政府机构的可被验证的标准化信号。这种类型的数据是可验证的，从而导致在用于车道和交通管理的AI模型的ML系统中的易受攻击点上插入多个安全解决方案。保护易受攻击点可确保训练、测试和开发AI模型是利用已被保护免受攻击的数据来执行的。
[0008]在一个或多个实施方案中，提供了一种用于保护ADAS系统中的车道和交通管理AI
模型的方法的示例，所述方法包括：接收训练数据以准备用于在ADAS中部署的车道和交通管理AI模型；从所接收的训练数据中识别由可验证源供应的数据；使用与可验证源相关联的私钥对由可验证源供应的数据执行签名验证；阻止除了签名验证数据之外的数据；在部署AI模型之前，将签名验证数据应用于AI模型以用于训练和测试。训练数据是由法律或政府机构供应的车道和交通管理数据。
[0009]在一个或多个实施方案中，在部署AI模型之后，AI模型被连续地监控，并且要用于再训练和更新AI模型的车道和交通管理的动态学习数据被签名验证。只有签名验证数据用于再训练和更新AI模型的可控参数，任何其他数据都将被阻止。
[0010]在一个或多个实施方案中，提供了用于保护车辆ADAS中的车道管理和交通管理的人工智能(AI)模型的系统的示例。使用由已知的、可验证源供应的签名验证的车道和交通管理训练数据来准备AI模型。使用与可验证源相关联的私钥来验证签名验证数据，并且只有签名验证数据用于训练AI模型。在部署AI模型之前，除了由可验证源供应的数据之外的数据被阻止进入AI模型。在部署之后，在使用连续的学习数据来再训练和更新AI模型之前，还对连续的学习数据进行签名验证。
附图说明
[0011]图1是具有作为车道管理和交通管理的对象的管理车道的示例性环境的鸟瞰图；
[0012]图2A是AI模型的生命周期的一般表示；
[0013]图2B是AI模型在其被部署之后的生命周期的一般表示；
[0014]图3是车载计算系统的框图；
[0015]图4是示例性车道/交通管理AI模型的框图；
[0016]图5是描述用于在部署之前保护AI模型的详细方法的流程图；以及
[0017]图6是描述用于在AI模型部署之后保护AI模型的详细方法的流程图。
[0018]附图中的元件和步骤是为了简单和清楚而示出的，并不一定根据任何特定的顺序来呈现。例如，可同时或以不同顺序执行的步骤在附图中示出，以帮助提高对本公开的实施方案的理解。
具体实施方式
[0019]虽然参考特定的说明性实施方案描述了本公开的各个方面，但是本公开不限于这些实施方案，并且在不脱离本公开的情况下，可实施附加的修改、应用和实施方案。在附图中，相同的附图标记将用于示出相同的部件。本领域的技术人员将认识到，在不脱离本公开的范围的情况下，可改变本文阐述的各种部件。
[0020]一个或多个实施方案提供了一种用于检测和阻止对ADAS(和/或自主)车辆的车道和交通管理中开发和部署的模型的恶意攻击的系统和方法。保护模型参数免受攻击者数据的影响确保用于车道和交通管理的模型免受不良数据的影响。如果允许不良数据渗透模型，则会产生可能导致故障的误报和漏报。这种故障可能很严重，特别是对于自主车辆。
[0021]下文中使用的术语电子控制单元(ECU)是指控制车辆中的一个或多个电气系统或子系统的任何嵌入式系统。ECU的类型包括电子/发动机控制模块、动力传动系统控制模块、变速器控制模块、制动器控制模块、中央控制模块、中央定时模块、通用电子控制模块、车身
控制模块、悬架控制模块、控制单元或控制模块。车辆可能包括几个独立的控制模块。物理数据是指数据连接的电气和物理规格。物理数据定义了装置和物理传输介质之间的特性。这包括引脚布局、电压线阻抗、电缆规格、信号定时、集线器、中继器、网络适配器、强度、频率、梯度、变化幅度、调制方法等。
[0022]在下文中使用的通信信道是指物理传输介质，诸如通过多路复用介质(诸如无线电信道)的有线或逻辑连接。信道用于传送来自一个或多个传输器或接收器的信息信号，例如数字比特流。信道具有一定的信息传输能力，通常用其带宽(单位为Hz)或数据速率(单位为比特每秒)来衡量。通信信道(也称为路径)使用媒体和广播。基于网络的服务是指网络、物理电缆、Wi
‑
Fi、手机、蓝牙、RF和GPS。
[0023]本文描述的ECU、服务器、接收器或装置中的任何一个或多个包括可从使用各种编程语言和/或技术创建的计算机程序本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于检测和阻止对车辆的高级驾驶员辅助系统(ADAS)中的人工智能(AI)模型的恶意攻击的计算机实施的方法，所述方法包括以下步骤：接收训练数据以准备用于在所述ADAS中部署的车道和交通管理AI模型；从所接收的训练数据中识别由可验证源供应的数据；使用与所述可验证源相关联的私钥对由所述可验证源供应的所述数据执行签名验证；阻止除了所述签名验证数据之外的数据；以及在部署所述AI模型之前，将所述签名验证数据应用于所述AI模型以用于训练和测试。2.如权利要求1所述的方法，其中所述AI模型具有可控参数，并且还包括在部署所述AI模型之前加密所述AI模型的所述可控参数以保护所述AI模型的步骤。3.如权利要求2所述的方法，其还包括以下步骤：使用私钥来解密所述可控参数；部署所述AI模型；对将由安全AI模型在连续学习操作期间使用的动态学习数据进行签名验证；以及执行连续学习操作。4.如权利要求3所述的方法，其还包括在存储器的安全文件系统块中保护所述私钥的步骤。5.如权利要求1所述的方法，其中由所述可验证源供应的所述数据还包括车道管理和交通管理数据，并且所述可验证源是法律或政府机构。6.一种包括指令的非暂时性计算机可读存储介质，所述指令在由处理器执行时使得所述处理器执行用于检测和阻止对车辆高级驾驶员辅助系统(ADAS)的车道和交通管理AI模型的恶意攻击的步骤，所述步骤包括：接收训练数据；从所述训练数据中识别由可验证源供应的预定数据类型；使用与所述可验证源相关联的私钥来对由所述可验证源供应的所述预定数据类型执行签名验证；以及通过仅使用所述签名验证数据来训练人工智能(AI)模型而准备所述AI模型。7.如权利要求6所述的计算机可读存储介质，其还包括在部署所述AI模型之前保护所述AI模型的步骤。8.如权利要求7所述的计算机可读存储介质，其中保护所述AI模型包括...

【专利技术属性】
技术研发人员：A，
申请(专利权)人：哈曼国际工业有限公司，
类型：发明
国别省市：