保护用于自主系统中的车道/交通管理的人工智能模型技术方案

本发明专利技术提供了一种用于保护在高级驾驶员辅助系统(ADAS)或自主车辆中使用的车道和交通管理AI模型的系统和方法。只有从可验证源识别的车道和交通管理数据才被允许用于测试和训练所述AI模型。所有其他数据都被阻止。所述AI模型的可控参数在部署之前被加密。在部署之后，所述可控参数被解密，并且只有签名验证的动态学习数据被应用于所述AI模型以用于连续学习。学习。学习。

【技术实现步骤摘要】
【国外来华专利技术】保护用于自主系统中的车道/交通管理的人工智能模型
[0001]相关申请的交叉引用
[0002]本申请要求2020年7月16日提交的名称为“Securing Artificial Intelligence Models For Lane/Traffic Management In An Autonomous System(保护用于自主系统中的车道/交通管理的人工智能模型)”的印度临时专利申请序列号202011030333的优先权。


[0003]本公开涉及保护人工智能模型免受网络攻击，并且更具体地，涉及保护用于车辆的自动驾驶辅助系统(ADAS)和/或自主车辆中的车道/交通管理的人工智能模型。

技术介绍

[0004]高级驾驶员辅助系统(ADAS)旨在通过使车辆系统自动化来提高安全性并改善整体驾驶体验。ADAS的许多特征都是自适应的，并且因此依赖于来自多个数据源的输入。现代车辆由通过内部车辆网络协调的数十台数字计算机监控和控制，以向/从车辆内部和外部的许多数据源提供数据。自主驾驶不仅仅是帮助人类驾驶员，还能够在没有人类干预的情况下对道路本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于检测和阻止对车辆的高级驾驶员辅助系统(ADAS)中的人工智能(AI)模型的恶意攻击的计算机实施的方法，所述方法包括以下步骤：接收训练数据以准备用于在所述ADAS中部署的车道和交通管理AI模型；从所接收的训练数据中识别由可验证源供应的数据；使用与所述可验证源相关联的私钥对由所述可验证源供应的所述数据执行签名验证；阻止除了所述签名验证数据之外的数据；以及在部署所述AI模型之前，将所述签名验证数据应用于所述AI模型以用于训练和测试。2.如权利要求1所述的方法，其中所述AI模型具有可控参数，并且还包括在部署所述AI模型之前加密所述AI模型的所述可控参数以保护所述AI模型的步骤。3.如权利要求2所述的方法，其还包括以下步骤：使用私钥来解密所述可控参数；部署所述AI模型；对将由安全AI模型在连续学习操作期间使用的动态学习数据进行签名验证；以及执行连续学习操作。4.如权利要求3所述的方法，其还包括在存储器的安全文件系统块中保护所述私钥的步骤。5.如权利要求1所述的方法，其中由所述可验证源供应的所述数据还包括车道管理和交通管理数据，并且所述可验证源是法律或政府机构。6.一种包括指令的非暂时性计算机可读存储介质，所述指令在由处理器执行时使得所述处理器执行用于检测和阻止对车辆高级驾驶员辅助系统(ADAS)的车道和交通管理AI模型的恶意攻击的步骤，所述步骤包括：接收训练数据；从所述训练数据中识别由可验证源供应的预定数据类型；使用与所述可验证源相关联的私钥来对由所述可验证源供应的所述预定数据类型执行签名验证；以及通过仅使用所述签名验证数据来训练人工智能(AI)模型而准备所述AI模型。7.如权利要求6所述的计算机可读存储介质，其还包括在部署所述AI模型之前保护所述AI模型的步骤。8.如权利要求7所述的计算机可读存储介质，其中保护所述AI模型包括...

【专利技术属性】
技术研发人员：A，
申请(专利权)人：哈曼国际工业有限公司，
类型：发明
国别省市：