训练对差异可预测地响应的函数制造技术

提供了训练对差异可预测地响应的函数。本发明专利技术涉及训练机器可学习函数（诸如图像分类器或图像特征提取器）的计算机实现的方法（600）。当在自主驾驶和类似应用领域中应用这样的机器可学习函数时，泛化能力是重要的。为了改进泛化能力，机器可学习函数因在机器可学习函数的一层处对输入观察之间的差异集合可预测地响应而被奖励。这是借助于包括在用于训练机器可学习函数的目标函数中的正则化目标来完成的。在给定指示输入观察之间的差异的差异标记的情况下，正则化目标奖励给定层处的输入观察的表示之间的互统计相关性。的表示之间的互统计相关性。的表示之间的互统计相关性。

【技术实现步骤摘要】
训练对差异可预测地响应的函数


[0001]本专利技术涉及训练机器可学习函数的计算机实现的方法，以及对应的系统。本专利技术还涉及包括指令和/或函数参数的计算机可读介质。

技术介绍

[0002]机器可学习函数具有比手动设计的算法更准确得多地执行任务的潜力。例如，机器可学习函数（例如基于卷积神经网络或类似技术）已示出能够针对诸如识别数位、在猫和狗之间进行区分等各种图像分类任务实现良好的准确度。典型地，这样的机器可学习函数在训练数据集（例如，包括用它们期望的分类标记的图像）上被训练。一般地，训练示例越多，经训练的函数的所得准确度就越好。
[0003]在许多实际情形中，获得覆盖足够广泛的输入的训练数据的可行性是阻碍机器学习解决方案的实际采用的主要障碍。例如，在（半）自主车辆领域中，机器可学习函数具有实行对于控制或监视车辆所需的各种任务的潜力，例如，车辆环境的相机图像的图像分析，从而例如对危险的交通情形进行警告。然而，获得用于这样的任务的训练数据需要在车辆周围的驾驶；这是昂贵的，并且甚至可能是危险的。此外，车辆环境的图像可以以许多不同的方式变化，例本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种训练机器可学习函数的计算机实现的方法（600），机器可学习函数将输入观察映射到函数输出，机器可学习函数包括一个或多个内部层和/或输出层，所述方法包括：
‑
访问（610）：包括多个训练输入观察的训练数据集；和机器可学习函数的参数集合；
‑
通过优化目标函数来学习（620）机器可学习函数的参数集合，其中优化包括因在机器可学习函数的一层处对输入观察之间的差异集合可预测地响应而奖励机器可学习函数，所述优化借助于包括在目标函数中的正则化目标来奖励所述可预测性，所述优化包括：
‑
获得（622）：来自训练数据集的第一输入观察；对应的第二输入观察；和来自差异集合的差异标记，其指示第一和第二输入观察之间的差异；
‑
应用（624）机器可学习函数，以在机器可学习函数的所述层处分别确定第一和第二输入观察的第一和第二表示；
‑
评估（626）正则化目标，其中正则化目标被配置为在给定第一和第二输入观察之间的差异标记的情况下，奖励第一和第二表示之间的互统计相关性。2.根据权利要求1所述的方法（600），其中机器可学习函数是图像分类器或图像特征提取器。3.根据权利要求2所述的方法（600），其中，机器可学习函数是用于在整体图像分类器中使用的图像特征提取器，所述图像特征提取器在未标记的训练数据集上被训练；所述方法还包括在标记的训练数据集上训练整体图像分类器。4.根据权利要求2或3所述的方法（600），其中目标函数包括用于多个相应层的多个相应正则化目标。5.根据权利要求2
‑
4中任一项所述的方法（600），其中，第一和第二输入观察是表示相同类型场景的图像，差异标记指示场景中对象的属性的差异和/或场景的观察条件的差异。6.根据权利要求5所述的方法（600），其中第一和第二图像表示车辆周围的环境；差异标记指示以下各项的群组中的至少一个：
‑
天气条件的差异，
‑
环境中对象遮挡水平的差异，
‑
环境中对象位置的差异，以及
‑
环境中对象取向的差异。7.根据任一前述权利要求所述的方法（600），其中机器可学习函数是卷积网络。8.根据任一前述权利要求所述的方法（600），其中评估...

【专利技术属性】
技术研发人员：T，
申请(专利权)人：罗伯特，
类型：发明
国别省市：