检测针对自动驾驶系统的欺骗攻击的方法和装置制造方法及图纸

公开了用于检测针对自动驾驶车辆(ADV)的欺骗攻击的方法和装置。所述方法包括确定从开始位置到目的地的规划路线，所述到目的地的规划路线是在所述ADV在所述规划路线上行驶时可更新的；从地图数据库获得沿着所述规划路线的多个预定义的静态对象，所述多个预定义的静态对象是在所述规划路线被更新时可更新的；检测对于所述多个预定义的静态对象的更新；响应于检测对于所述多个预定义的静态对象的所述更新，确定所述到目的地的规划路线的重新路由是异常的或者存在由到所述目的地的未授权改变导致的新路线；以及对所述规划路线的所述重新路由是异常的或所述新路线作出响应。路由是异常的或所述新路线作出响应。路由是异常的或所述新路线作出响应。

【技术实现步骤摘要】
检测针对自动驾驶系统的欺骗攻击的方法和装置


[0001]本公开的实施例总体上涉及操作自动车辆。更具体地，本公开的实施例涉及用于检测和减轻对自动驾驶车辆(ADV)的网络攻击和欺骗攻击的方法和装置以及机器可读介质。

技术介绍

[0002]以自动模式(例如，无人驾驶)操作的车辆可以减轻乘坐者，尤其是驾驶员的一些驾驶相关责任。当以自动模式操作时，车辆可以使用车载传感器导航到各种位置，从而允许车辆以最小的人机交互或者在一些情况下没有任何乘客的情况下行驶。
[0003]运动规划和控制是自动驾驶中的关键操作。运动规划和控制操作的准确性和效率很大程度上取决于车辆的传感器和从传感器提取的信息。诸如照相机、光检测和测距(LIDAR)单元、雷达等的传感器用于捕获车辆周围环境的视频和电磁图像用于运动规划和控制。ADV还可以通过通信网络与基础设施服务器或其他ADV通信，以获得实时交通信息、数据分析、路由服务、附近ADV的信息等，作为运动规划和控制的部分。随着ADV的扩散以及ADV与基础设施之间的连通性的增加，第三方针对ADV的脆弱点发起网络攻击或进行欺骗攻击以接管ADV的控制的风险增加。例如，可以通过车辆和基础设施之间的通信网关访问远程攻击，以改变车辆的行驶的路线或目的地。欺骗攻击也可针对车辆的传感器系统发起，以使传感器去激活、降级或以其他方式欺骗传感器向感知系统提供虚假信息，以操纵车辆离开其预期路线或目的地。
[0004]一些ADV尝试通过保护车辆通信网关、增强单个传感器的鲁棒性、或使用传感器信息改进感知系统的算法防御外部欺骗，从而减轻攻击的威胁。然而，这些措施中的一些可能实施起来成本高，并且可能不容易适应于对抗变化的威胁。

技术实现思路

[0005]鉴于上述问题，本专利技术的目的是提供用于利用沿着ADV的规划行驶路线的预定义的静态对象以检测和对抗试图访问ADV的通信网关以改变目的地或规划路线的攻击的方法。
[0006]本专利技术的一个方面提供了一种用于检测针对自动驾驶车辆(ADV)的欺骗攻击的方法，所述方法包括：确定从开始位置到目的地的规划路线，所述到目的地的规划路线是在所述ADV在所述规划路线上行驶时可更新的；从地图数据库获得沿着所述规划路线的多个预定义的静态对象，所述多个预定义的静态对象是在所述规划路线被更新时可更新的；检测对于所述多个预定义的静态对象的更新；响应于检测对于所述多个预定义的静态对象的所述更新，确定所述到目的地的规划路线的重新路由是异常的或者存在由到所述目的地的未授权改变导致的新路线；以及对所述规划路线的所述重新路由是异常的或所述新路线作出响应。
[0007]本专利技术的另一个方面提供了一种用于检测针对自动驾驶车辆(ADV)的欺骗攻击的
装置，所述装置包括：路由模块，用于确定从开始位置到目的地的规划路线，所述到目的地的规划路线是在所述ADV在所述规划路线上行驶时可更新的，并且用于从地图数据库获得沿着所述规划路线的多个预定义的静态对象，所述多个预定义的静态对象是在所述规划路线被更新时可更新的；安全模块，用于检测对于所述多个预定义的静态对象的更新，并且响应于检测对于所述多个预定义的静态对象的所述更新，确定所述到目的地的规划路线的重新路由是异常的或者存在由到所述目的地的未授权改变导致的新路线；以及决策模块，用于对所述规划路线的所述重新路由是异常的或所述新路线作出响应。
[0008]本专利技术的又一个方面提供了一种用于检测针对自动驾驶车辆(ADV)的传感器系统的欺骗攻击的方法，所述方法包括：确定从开始位置到目的地的规划路线；从地图数据库获得沿着所述规划路线的多个预定义的静态对象；当所述ADV处于与所述多个预定义的静态对象中的一个预定义的静态对象对应的位置处时，评估所述ADV的多个传感器中的每一个是否能够识别来自于所述地图数据库的所述一个预定义的静态对象；评估所述多个传感器中的每一个是否能够识别沿着所述规划路线的动态对象；以及基于一个或多个受损的传感器不能识别所述一个预定义的静态对象或动态对象的评估，识别所述一个或多个受损的传感器；以及将所述一个或多个受损的传感器从所述ADV的感知功能中排除。
[0009]本专利技术的又一个方面提供了一种用于检测针对自动驾驶车辆(ADV)的欺骗攻击的装置，所述装置包括：路由模块，用于确定从开始位置到目的地的规划路线，并且从地图数据库获得沿着所述规划路线的多个预定义的静态对象；安全模块，用于当所述ADV处于与所述多个预定义的静态对象中的一个预定义的静态对象对应的位置处时，评估所述ADV的多个传感器中的每一个是否能够识别来自于所述地图数据库的所述一个预定义的静态对象，评估所述多个传感器中的每一个是否能够识别沿着所述规划路线的动态对象，以及基于一个或多个受损的传感器不能识别所述一个预定义的静态对象或动态对象的评估，识别所述一个或多个受损的传感器；以及决策模块，用于将所述一个或多个受损的传感器从所述ADV的感知功能中排除。
[0010]本专利技术的又一个方面提供了一种具有存储在其中的指令的非暂时性机器可读介质，所述指令在由处理器执行时使得所述处理器执行如上文所述的各方法。
附图说明
[0011]本公开的实施例通过示例的方式示出并且不限于附图中的图，在附图中相同的附图标记表示相似的元件。
[0012]图1是示出根据一个实施例的联网系统的框图。
[0013]图2是示出根据一个实施例的自动车辆的示例的框图。
[0014]图3A-3B是示出根据一些实施例的由自动车辆使用的感知和规划系统的示例的框图。
[0015]图4是示出根据一个实施例的自动驾驶系统的架构的框图。
[0016]图5是示出根据一个实施例的使用地图上的预定义的静态对象作为地面实况以检测试图改变ADV的行驶的路线或目的地的攻击的技术的图。
[0017]图6是示出根据一个实施例的操作ADV的过程的示例的流程图。
[0018]图7是示出根据一个实施例的用于ADV使用预定义的静态对象作为地面实况点以
检测和对抗试图改变行驶的路线或目的地的网络攻击的方法的流程图。
[0019]图8是示出根据一个实施例的操作ADV的过程的示例的流程图。
[0020]图9是示出根据一个实施例的用于ADV使用预定义的静态对象、动态对象和各种传感器以检测和对抗针对传感器系统的欺骗攻击的方法的流程图。
具体实施方式
[0021]将参考以下讨论的细节描述本公开的各个实施例和方面，并且附图将示出各个实施例。以下描述和附图是本公开的说明并且不应被解释为限制本公开。描述了许多具体细节以提供对本公开的各个实施例的全面理解。然而，在某些情况下，为了提供对本公开的实施例的简要讨论，没有描述公知或常规的细节。
[0022]说明书中对“一个实施例”或“实施例”的引用意味着结合该实施例描述的特定特征、结构或特性可包括在本公开的至少一个实施例中。在说明书中的各个地方出现的短语“在一个实施例中”不一定都指同一实施例。
[0023]根据一些实施例，公开了一种用于本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于检测针对自动驾驶车辆(ADV)的欺骗攻击的方法，所述方法包括：确定从开始位置到目的地的规划路线，所述到目的地的规划路线是在所述ADV在所述规划路线上行驶时可更新的；从地图数据库获得沿着所述规划路线的多个预定义的静态对象，所述多个预定义的静态对象是在所述规划路线被更新时可更新的；检测对于所述多个预定义的静态对象的更新；响应于检测对于所述多个预定义的静态对象的所述更新，确定所述到目的地的规划路线的重新路由是异常的或者存在由到所述目的地的未授权改变导致的新路线；以及对所述规划路线的所述重新路由是异常的或所述新路线作出响应。2.如权利要求1所述的方法，其中确定所述到目的地的规划路线的重新路由是异常的包括：分析一个或多个因素，所述一个或多个因素包括交通状况、所述规划路线的过去的重新路由的频率、所述规划路线的距离、所述异常的重新路由与所述规划路线之间的距离的差、所述规划路线的行驶时间，或所述异常的重新路由与所述规划路线之间的行驶时间的差。3.如权利要求1所述的方法，其中确定所述到目的地的规划路线的重新路由是异常的或存在由到所述目的地的未经授权的改变导致的新路线还包括：验证经更新的预定义的静态对象被识别，以确认所述规划路线是被重新路由或新路线。4.如权利要求1所述的方法，其中确定存在由到所述目的地的未经授权的改变导致的新路线包括：分析通过多个经更新的预定义的静态对象勾画出的新路线，以确定到所述目的地的改变；以及如果在所述ADV中有乘客，则确认所述乘客没有请求到所述目的地的所述改变。5.如权利要求1所述的方法，其中确定存在由到所述目的地的未经授权的改变导致的新路线包括：分析通过多个经更新的预定义的静态对象勾画出的新路线，以确定到所述目的地的改变；以及确认所述ADV中没有乘客。6.如权利要求1所述的方法，其中对所述规划路线的所述重新路由是异常的或所述新路线作出响应包括：向所述ADV中的乘客或服务提供商警告到所述目的地的规划路径的异常的重新路由或到所述目的地的所述未授权的改变。7.如权利要求1所述的方法，其中对所述规划路线的所述重新路由是异常的或所述新路线作出响应包括：允许所述ADV中的乘客请求停止所述ADV。8.一种用于检测针对自动驾驶车辆(ADV)的欺骗攻击的装置，所述装置包括：路由模块，用于确定从开始位置到目的地的规划路线，所述到目的地的规划路线是在所述ADV在所述规划路线上行驶时可更新的，并且用于从地图数据库获得沿着所述规划路
线的多个预定义的静态对象，所述多个预定义的静态对象是在所述规划路线被更新时可更新的；安全模块，用于检测对于所述多个预定义的静态对象的更新，并且响应于检测对于所述多个预定义的静态对象的所述更新，确定所述到目的地的规划路线的重新路由是异常的或者存在由到所述目的地的未授权改变导致的新路线；以及决策模块，用于对所述规划路线的所述重新路由是异常的或所述新路线作出响应。9.一种具有存储在其中的指令的非暂时性机器可读介质，所述指令在由处理器执行时使得所述处理器执行如权利要求1-7中任一项所述的方法。10.一种用于检测针对自动驾驶车辆(ADV)的...

【专利技术属性】
技术研发人员：刘效东，曲宁，
申请(专利权)人：百度美国有限责任公司，
类型：发明
国别省市：