神经网络验证系统技术方案

本发明专利技术涉及一种神经网络验证系统。一种系统，包括计算机，所述计算机包括处理器和存储器。所述存储器包括指令，使得处理器被编程为：在第一神经网络处接收未标记的传感器数据，其中第一神经网络基于未标记的传感器数据生成输出，在第二神经网络处接收未标记的传感器数据，其中第二神经网络在验证模式期间基于未标记的传感器数据生成输出，第二神经网络不同于第一神经网络，将由第一神经网络生成的输出与由第二神经网络生成的输出进行比较，并且当由第一神经网络生成的输出和由第二神经网络生成的输出之间的差异大于预定比较阈值时生成警报。警报。警报。

【技术实现步骤摘要】
神经网络验证系统


[0001]本公开涉及利用来自多个其他神经网络模型的输出来验证（例如交叉检查）神经网络输出。

技术介绍

[0002]深度神经网络（DNN）可以用于执行许多图像理解任务，包括分类、分割和加说明文字。通常，DNN需要大量的训练图像（数万到数百万）。此外，出于训练和预测的目的，这些训练图像通常需要被注释，例如被标记。

技术实现思路

[0003]一种系统包括计算机，该计算机包括处理器和存储器。所述存储器包括指令，使得所述处理器被编程为：在第一神经网络处接收未标记的传感器数据，其中第一神经网络基于未标记的传感器数据生成输出，在第二神经网络处接收未标记的传感器数据，其中第二神经网络在验证模式期间基于未标记的传感器数据生成输出，第二神经网络不同于第一神经网络，将由第一神经网络生成的输出与由第二神经网络生成的输出进行比较，并且当由第一神经网络生成的输出和由第二神经网络生成的输出之间的差异大于预定比较阈值时生成警报。
[0004]在其他特征中，所述处理器进一步被编程为接收对于在验证模式和特征模式之间的转换的选择。
[0005]在其他特征中，所述处理器进一步被编程为在特征模式期间，基于由第一神经网络生成的输出来操作至少一个车辆致动器。
[0006]在其他特征中，选择从服务器传输。
[0007]在其他特征中，选择从车辆的电子控制器单元传输。
[0008]在其他特征中，使用第一数据集训练第一神经网络，并且使用第二数据集训练第二神经网络，其中所述第二数据集不同于所述第一数据集。
[0009]在其他特征中，所述处理器进一步被编程为防止由第一神经网络生成的输出用于在验证模式期间操作车辆。
[0010]在其他特征中，未标记的传感器数据包括由车队收集的传感器数据。
[0011]车辆包括一个系统。该系统包括计算机，该计算机包括处理器和存储器。存储器包括指令，使得处理器被编程为：在第一神经网络处接收未标记的传感器数据，其中第一神经网络基于未标记的传感器数据生成输出，在第二神经网络处接收未标记的传感器数据，其中第二神经网络在验证模式期间基于未标记的传感器数据生成输出，第二神经网络不同于第一神经网络，将由第一神经网络生成的输出与由第二神经网络生成的输出进行比较，并且当由第一神经网络生成的输出和由第二神经网络生成的输出之间的差异大于预定比较阈值时生成警报。
[0012]在其他特征中，处理器进一步被编程为接收对于在验证模式和特征模式之间的转
换的选择。
[0013]在其他特征中，所述处理器进一步被编程为在特征模式期间，基于由第一神经网络生成的输出来操作车辆的至少一个车辆致动器。
[0014]在其他特征中，选择从服务器传输。
[0015]在其他特征中，选择从车辆的电子控制器单元传输。
[0016]在其他特征中，使用第一数据集训练第一神经网络，并且使用第二数据集训练第二神经网络，其中第二数据集不同于第一数据集。
[0017]在其他特征中，所述处理器进一步被编程为防止由第一神经网络生成的输出用于在验证模式期间操作车辆。
[0018]在其他特征中，未标记的传感器数据包括由车队收集的传感器数据。
[0019]一种方法，包括在第一神经网络处接收未标记的传感器数据，其中第一神经网络基于未标记的传感器数据生成输出，在第二神经网络处接收未标记的传感器数据，其中第二神经网络在验证模式期间基于未标记的传感器数据生成输出，第二神经网络不同于第一神经网络，将由第一神经网络生成的输出与由第二神经网络生成的输出进行比较，并且当由第一神经网络生成的输出和由第二神经网络生成的输出之间的差异大于预定比较阈值时生成警报。
[0020]在其他特征中，该方法包括接收对于在验证模式和特征模式之间的转换的选择。
[0021]在其他特征中，该方法包括在特征模式期间，基于由第一神经网络生成的输出来操作至少一个车辆致动器。
[0022]在其他特征中，选择从服务器传输。
[0023]本公开提供了以下技术方案：1. 一种包括计算机的系统，所述计算机包括处理器和存储器，所述存储器包括指令，使得处理器被编程为：在第一神经网络处接收未标记的传感器数据，其中所述第一神经网络基于所述未标记的传感器数据生成输出；在第二神经网络处接收所述未标记的传感器数据，其中所述第二神经网络在验证模式期间基于所述未标记的传感器数据生成输出，所述第二神经网络不同于所述第一神经网络；将由所述第一神经网络生成的输出与由所述第二神经网络生成的输出进行比较；和当由所述第一神经网络生成的输出和由所述第二神经网络生成的输出之间的差异大于预定比较阈值时，生成警报。
[0024]2. 根据技术方案1所述的系统，其中所述处理器进一步被编程为接收对于在验证模式和特征模式之间的转换的选择。
[0025]3.根据技术方案2所述的系统，其中所述处理器进一步被编程为在特征模式期间基于由所述第一神经网络生成的输出来操作至少一个车辆致动器。
[0026]4. 根据技术方案2所述的系统，其中所述选择从服务器传输。
[0027]5. 根据技术方案2所述的系统，其中所述选择从车辆的电子控制器单元传输。
[0028]6. 根据技术方案1所述的系统，其中使用第一数据集来训练所述第一神经网络，
并且使用第二数据集来训练所述第二神经网络，其中所述第二数据集不同于所述第一数据集。
[0029]7. 根据技术方案1所述的系统，其中所述处理器进一步被编程为防止由所述第一神经网络生成的输出被用于在所述验证模式期间操作车辆。
[0030]8. 根据技术方案1所述的系统，其中所述未标记的传感器数据包括由车队收集的传感器数据。
[0031]9. 一种包括系统的车辆，所述系统包括计算机，所述计算机包括处理器和存储器，所述存储器包括指令，使得处理器被编程为：在第一神经网络处接收未标记的传感器数据，其中所述第一神经网络基于所述未标记的传感器数据生成输出；在第二神经网络处接收所述未标记的传感器数据，其中所述第二神经网络在验证模式期间基于所述未标记的传感器数据生成输出，所述第二神经网络不同于所述第一神经网络；将由所述第一神经网络生成的输出与由所述第二神经网络生成的输出进行比较；和当由所述第一神经网络生成的输出和由所述第二神经网络生成的输出之间的差异大于预定比较阈值时，生成警报。
[0032]10. 根据技术方案9所述的车辆，其中所述处理器进一步被编程为接收对于在验证模式和特征模式之间的转换的选择。
[0033]11. 根据技术方案10所述的车辆，其中所述处理器进一步被编程为在特征模式期间基于由所述第一神经网络生成的输出来操作车辆的至少一个车辆致动器。
[0034]12. 根据技术方案10所述的车辆，其中所述选择从服务器传输。
[0035]13. 根据技术方案10所述的系统，其中所述选择从车辆的电子控制器单元传输。
[0036]14. 根据本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种包括计算机的系统，所述计算机包括处理器和存储器，所述存储器包括指令，使得处理器被编程为：在第一神经网络处接收未标记的传感器数据，其中所述第一神经网络基于所述未标记的传感器数据生成输出；在第二神经网络处接收所述未标记的传感器数据，其中所述第二神经网络在验证模式期间基于所述未标记的传感器数据生成输出，所述第二神经网络不同于所述第一神经网络；将由所述第一神经网络生成的输出与由所述第二神经网络生成的输出进行比较；和当由所述第一神经网络生成的输出和由所述第二神经网络生成的输出之间的差异大于预定比较阈值时，生成警报。2.根据权利要求1所述的系统，其中所述处理器进一步被编程为接收对于在验证模式和特征模式之间的转换的选择。3.根据权利要求2所述的系统，其中所述处理器进一步被编程为在特征模式期间基于由所述第一神经网络生成的输出来操作至少一个车辆致动器。4.根据权利要求2所述的系统，其中所述选择从服务器传输。5.根据权利要求2所述的系统，其中所述选择从车辆的电子控制器单元传输。6.根据权利要求1所述的系统，其中使用第一数据集来训练所述第一神经网络...

【专利技术属性】
技术研发人员：佟维，S，
申请(专利权)人：通用汽车环球科技运作有限责任公司，
类型：发明
国别省市：