卷积神经网络中的错误校正制造技术

公开了用于卷积神经网络中的错误校正的系统和方法。在一个实现中，接收第一图像。针对卷积神经网络的第一层内的第一图像生成第一激活图。计算在第一激活图中反映的数据和在与第二图像相关联的第二激活图中反映的数据之间的相关性。基于所计算的相关性，使用第一激活图和第二激活图的线性组合来处理卷积神经网络的第二层内的第一图像。基于对卷积神经网络的第二层内的第一图像的处理，提供输出。

【技术实现步骤摘要】
【国外来华专利技术】卷积神经网络中的错误校正相关申请的交叉引用本申请与2018年1月8日提交的美国专利申请第62/614,602号有关，并主张优先权，其全部内容通过引用并入本文。
本公开涉及数据处理的方面和实现，更具体地说，包括但不限于卷积神经网络中的错误校正。
技术介绍
卷积神经网络是深度神经网络的一种形式。此类神经网络可用于分析视觉图像和/或其他内容。附图简要说明本披露的方面和实施将更充分地从下面给出的详细说明和所附图中更充分地理解披露的各个方面和实施情况，但是，不应将披露局限于具体方面或实施，而只是供解释和理解。图1说明了一个示例系统，并符合示例实施例。图2说明了本文描述的一个示例场景，根据示例实施例。图3说明了本文描述的一个示例场景，根据示例实施例。图4是一个流程图，说明一种卷积神经网络中错误校正的方法，并符合一个示例实施例。图5是一个框图，说明能够从机器可读介质读取指令并执行本文讨论的任何方法的机器部件，根据示例实施例。详细描述本公开的方面和实现都指向卷积神经网络中的错误校正。卷积神经网络是一种深度神经网络，可用于分析视觉图像和/或其他内容。此类神经网络可以包括多个连接层，包括以三维(宽度、高度和深度)排列的神经元。此类图层可以配置为分析或处理图像。例如，通过将各种滤镜应用于图像，可以生成一个或多个要素贴图/激活贴图。此类激活映射可以表示引用滤波器的应用响应或结果，例如，相对于与图像至少一部分相关的卷积神经网络层。在另一个示例中，输入图像可以通过卷积神经网络的一个或多个层进行处理，以创建一组要素/激活贴图。因此，卷积神经网络的各个图层可以生成激活映射的集或向量(反映对应于图像不同部分、区域或方面的激活映射)。在某些实现中，此类激活映射可以包括卷积神经网络("CNN")中一个或多个图层的输出，这是CNN处理图像期间生成的数据集(例如，在图像处理的任何阶段)。在某些实现中，引用的激活映射可以包括一个数据集，该数据集可能是在CNN中处理图像期间生成的数据的组合和/或操作(例如，此类数据是CNN生成的数据和存储库中的数据的组合)。在某些实现中，描述的系统可以配置为检测事件，例如当对象覆盖至少部分被观测到的对象时(例如，手盖住驱动程序的脸部，驱动程序持有的对象覆盖驱动程序的一部分，等等)。此外，在某些实现中，所述系统可实现用于驾驶员监控系统(DMS)、占用监测系统(OMS)等。例如，检测可能干扰检测与DMS相关的特征(例如与头部姿势、驾驶员眼睛位置、凝视方向、面部表情相关的特征)的遮挡。进一步的示例，检测可能干扰检测或预测驾驶员行为和活动的遮挡。公开系统的各个方面及相关技术可以包括或涉及机器学习。机器学习可以包括一个或多个技术、算法和/或模型(例如数学模型)，这些模型在处理设备上实现和运行。在机器学习系统中实现的模型可以使系统能够根据数据的统计特征而不是根据人类专家的预定义规则来学习和改进数据。机器学习侧重于开发可以访问数据并用它来学习执行特定任务的计算机程序。机器学习模型可根据机器学习系统的结构、监督或无人监督、系统内的数据流、输入数据和外部触发器进行成型。机器学习可以作为人工智能(AI)的应用而相关，它使系统能够在不进行显式编程的情况下自动从数据输入中学习和改进。机器学习可应用于各种任务，如功能学习、稀疏字典学习、异常检测、关联规则学习以及推荐系统的协作筛选。机器学习可用于特征提取、降维、聚类、分类、回归或指标学习。机器学习系统可以受到监督和半监督，不受监督，加强。机器学习系统可以通过各种方式实现，包括线性回归和逻辑回归、线性鉴别分析、支持向量机(SVM)、决策树、随机森林、植物、贝叶斯网络、增强、遗传算法、模拟退火或卷积神经网络(CNN)。深度学习是一种机器学习系统的特殊实现。在一个示例中，深度学习算法可以发现多个级别的表示或要素的层次结构，使用较低级别的要素提取更高级别、更抽象的要素。深度学习可以在各种前馈或循环架构中实现，包括多层感知器、卷积神经网络、深度神经网络、深度信念网络、自动编码器、长期短期记忆(LSTM)网络、生成对抗网络和深度强化网络。上述体系结构不是相互排斥的，可以组合或用作实现其他类型的深度网络的构建基块。例如，使用自动编码器可以实现深刻的信念网络。反过来，自动编码器可能使用多层感知器或卷积神经网络实现。深度神经网络的训练可以作为一个优化问题，涉及最小化预定义的目标(损耗)函数，这是网络参数、其实际预测和所需预测的函数。目标是通过调整网络参数来最小化实际预测和所需预测之间的差异。这种优化过程的许多实现都基于可以使用反传播算法实现的随机梯度下降方法。然而，对于一些操作机制，如在线学习场景，随机梯度下降有各种缺陷，并提出了其他优化方法。深度神经网络可用于预测输入传感器数据(如静止图像、视频、声音和语音)的各种人类特征、行为和动作。在另一个实现示例中，基于视频、触觉传感器和GPS等传感器数据的集合，使用深度循环LSTM网络在驾驶员发生前几秒钟预测驾驶员的行为或行为。在一些实施例中，处理器可以配置为实现一个或多个机器学习技术和算法，以方便检测/预测用户行为相关变量。术语"机器学习"是非限制的，可能包括(但不限于)计算机视觉学习、深度机器学习、深度学习、深度神经网络、神经网络、人工智能和在线学习，即系统操作期间的学习。机器学习算法可以检测收集的传感器数据中的一个或多个模式，例如图像数据、接近传感器数据和此处披露的其他类型的传感器的数据。处理器实现的机器学习组件可能基于收集的传感器数据或保存的数据与感兴趣的用户行为相关变量之间的相关性，使用一个或多个训练数据集进行训练。保存数据可能包括其他机器学习系统生成的数据、传感器输入的预处理分析、与系统观测到的对象相关的数据。机器学习组件可以根据新的训练数据集和反馈循环持续或定期更新。机器学习组件可用于检测或预测手势、运动、身体姿势、与用户警觉性相关的特征、驾驶员警觉性、疲劳度、对道路的专注性、分心、与用户表情或情绪相关的特征、与用户、驾驶员或乘客的凝视方向相关的特征。机器学习组件可用于检测或预测动作，包括说话、喊叫、唱歌、开车、睡觉、休息、吸烟、阅读、发短信、手持移动设备、将移动设备放在脸颊上、用手手持设备进行短信或扬声器通话、观看内容、玩数字游戏，使用头部安装设备，如智能眼镜，VR，AR，设备学习，与车内设备互动，固定安全带，系安全带，系安全带，正确系安全带，打开车窗，进入或出车，挑选物体，寻找物体，与其他乘客互动，固定眼镜，固定/放眼睛接触，固定头发/衣服，把唇膏，穿衣或脱衣服，参与性活动，参与暴力活动，看着镜子，使用数字设备与另一人或多人/系统/AIs通信，与用户行为相关的功能，与环境的交互，与他人的互动，活动，情绪状态，情绪反应：内容，事件，触发另一个人，一个或多个对象，学习车辆内部。机器学习组件可用于检测面部属性，包括头部姿势、凝视、面部和面部属性3D位置、面部表情、面部地标，包本文档来自技高网...

【技术保护点】
1.一种用于量化卷积神经网络的输出的有效性的系统，所述系统包括：/n处理设备；以及/n存储器，连接到所述处理设备并存储指令，所述指令在由所述处理设备执行时使所述系统执行操作，所述操作包括：/n接收第一图像；/n在卷积神经网络的第一层内生成关于所述第一图像的第一激活图；/n计算所述第一激活图中所反映的数据与在与第二图像相关联的第二激活图中所反映的数据之间的相关性；/n基于所计算的相关性，使用所述第一激活图或所述第二激活图的线性组合来处理所述卷积神经网络的第二层内的所述第一图像；以及/n基于对所述卷积神经网络的第二层内的所述第一图像的处理提供输出。/n

【技术特征摘要】
【国外来华专利技术】20180108 US 62/614,6021.一种用于量化卷积神经网络的输出的有效性的系统，所述系统包括：
处理设备；以及
存储器，连接到所述处理设备并存储指令，所述指令在由所述处理设备执行时使所述系统执行操作，所述操作包括：
接收第一图像；
在卷积神经网络的第一层内生成关于所述第一图像的第一激活图；
计算所述第一激活图中所反映的数据与在与第二图像相关联的第二激活图中所反映的数据之间的相关性；
基于所计算的相关性，使用所述第一激活图或所述第二激活图的线性组合来处理所述卷积神经网络的第二层内的所述第一图像；以及
基于对所述卷积神经网络的第二层内的所述第一图像的处理提供输出。


2.根据权利要求1所述的系统，其中，所述第二图像包括一个或多个图像，所述一个或多个图像在所述第一图像之前由捕获所述第一图像的设备捕获。


3.根据权利要求1所述的系统，其中，生成第一激活图包括：生成关于所述第一图像的一组激活图。


4.根据权利要求3所述的系统，其中，计算相关性包括：计算关于所述第一图像生成的所述一组激活图和与所述第二图像相关联的一组激活图之间的相关性。


5.根据权利要求1所述的系统，其中，计算相关性包括：计算关于所述第一图像生成的一个或多个激活图和与所述第二图像相关联的一个或多个激活图之间的一个或多个相关性。


6.根据权利要求1所述的系统，其中，所述存储器还存储指令以使所述系统执行操作，所述操作包括：
将关于所述第一图像生成的一组激活图和与所述第二图像相关联的一组或多组激活图进行比较；以及
基于所述比较，将与所述第二图像相关联的一组激活图识别为与关于所述第一图像生成的一组激活图最相关的一组激活图。


7.根据权利要求1所述的系统，其中，使用与所述第二图像相关联的激活图包括：将与所述第一图像相关联的所述第一激活图替换为与所述第二图像相关联的所述激活图。


8.根据权利要求1所述的系统，其中，使用与所述第二图像相关联的激活图包括：在关于所述第一图像生成的一组激活图内，将关于所述第一图像生成的所述第一激活图替换为与所述第二图像相关联的激活图。


9.根据权利要求1所述的系统，其中，使用所述第一激活图或所述第二激活图的组合包括：在与所述第一图像相关联的一组激活图内，将与所述第一图像相关联的一个或多个第一激活图替换为与所述第二图像相关联的一个或多个激活图。


10.根据权利要求1所述的系统，其中，提供输出包括：基于所计算的相关性，量化所述神经网络的输出的有效性。


11.根据权利要求1所述的系统，其中，使用所述第一激活图或所述第二激活图来处理所述卷积神经网络的第二层内的所述第一图像包括：基于与所计算的相关性相关的预定标准，使用所述第一激活图或所述第二激活图来处理所述卷积神经网络的第二层内的所述第一图像。


...

【专利技术属性】
技术研发人员：达莉娅·弗罗洛瓦，艾夏恩·西万，
申请(专利权)人：达莉娅·弗罗洛瓦，艾夏恩·西万，
类型：发明
国别省市：以色列;IL