用于训练分类器的设备和方法技术

用于训练分类器的设备和方法。一种用于训练分类器以便对输入信号进行分类的计算机实现方法，所述输入信号特别包括图像数据，所述分类器包括嵌入部分和分类部分，所述嵌入部分被配置成取决于输入到所述分类器中的所述输入信号来确定嵌入，所述分类部分被配置成取决于所述嵌入来确定所述输入信号的分类，其中所述方法包括：

【技术实现步骤摘要】
用于训练分类器的设备和方法


[0001]本专利技术涉及用于训练分类器的方法、用于使用该分类器的方法、计算机程序和机器可读存储介质、控制系统以及训练系统。

技术介绍

[0002]以下文献公开了用于训练机器学习系统的对比性损失：
•
Hadsell, R., Chopra, S., LeCun, Y.： Dimensionality reduction by learning an in
‑
variant mapping. 2006 IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR
’
06)2, 1735
–
1742 (2006)
•
Chen, T., Kornblith, S., Norouzi, M., Hinton, G.E.： A simple framework for contrastive learning of visual representations. ArXivabs/2002.05709(2020)
•
Khosla,P.,Teterwak,P.,Wang,C.,Sarna,A.,Tian,Y.,Isola,P.,Maschinot, A.,Liu,C.,Krishnan,D.：Supervised contrastive learning.arXiv preprintarXiv：2004.11362 (2020)
•
Tian, Y., Wang, Y., Krishnan, D., Tenenbaum, J., Isola, P.： Rethinking few
‑
shot image classification： a good embedding is all you needIn： ECCV (2020)。
[0003]本专利技术的优点尤其是在开放世界的情景中（如例如，在自动驾驶中），不可能针对所有情景来训练分类器。因此，训练鲁棒且情景（或领域）不变的分类器是重要的。
[0004]具有独立权利要求1的特征的方法具有以下优点：分类器、特别是图像或音频分类器可以更好得多地被迁移到新的领域或情景，并且因此更准确。
[0005]从属权利要求中呈现了另外的改进。

技术实现思路

[0006]如例如深度学习这样的机器学习技术在如例如计算机视觉这样的任务中实现了高准确度。然而，当它们面对领域改变时，即，一旦它们被用在与其训练领域不同的领域中，它们的准确度可能就不那么好。
[0007]例如，利用来自第一组道路标志的道路标志训练的道路标志识别模型（例如，用于在德国识别道路标志）在利用来自第二组道路标志的道路标志的国家中可能例如由于不同的道路标志标准而表现较差。
[0008]具有独立权利要求1的特征的方法使得能够基于可以作为“附加信息”提供的先验知识（例如，关于领域或情景）进行跨领域迁移学习。
[0009]知识图用作用于编码这种先验知识的媒介，然后该媒介经由嵌入方法被变换成密集向量表示。
[0010]由于知识图是由人类专家手动组织的，因此它们是可解释的，并且可以利用机器学习方法和语言信息来丰富化（enrich）。
[0011]因此，形成了领域不变的嵌入空间（基于先验知识），其独立于从观测中收集的数据分布。
[0012]通过使用对比性损失函数（即，训练目标函数），可能的是引导机器学习系统根据领域不变空间来调整其数据嵌入空间。
[0013]这允许神经网络并入来自已经在知识图中表示的不同目标领域的训练数据。
附图说明
[0014]将参考以下各图更详细地讨论本专利技术的实施例。各图示出了：图1 包括控制其环境中的致动器的分类器的控制系统；图2 控制至少部分自主的机器人的控制系统；图3 控制制造机器的控制系统；图4 控制自动个人助理的控制系统；图5 控制访问控制系统的控制系统；图6 控制监控系统的控制系统；图7 控制成像系统的控制系统；图8 控制医学分析系统的控制系统；图9 分类器的示例性结构；图10 用于训练分类器的训练系统；图11 知识图的图示；图12 由所述训练系统实行的训练方法的流程图。
具体实施方式
[0015]图1中示出的是在其环境（20）中的致动器（10）的实施例。致动器（10）与控制系统（40）交互。致动器（10）及其环境（20）将被统称为致动器系统。在优选地均匀间隔的时间点处，传感器（30）感测致动器系统的状况。传感器（30）可以包括若干个传感器。优选地，传感器（30）是取得环境（20）的图像的光学传感器。传感器（30）的输出信号（S）（或者，在传感器（30）包括多个传感器的情况下，针对每一个传感器的输出信号（S））被传输到控制系统（40），该输出信号（S）对感测到的状况进行编码。
[0016]因此，控制系统（40）接收传感器信号（S）流。然后，它取决于传感器信号（S）流来计算一系列控制信号（A），该系列控制信号（A）然后被传输到致动器（10）。
[0017]控制系统（40）在可选接收单元（50）中接收传感器（30）的传感器信号（S）流。接收单元（50）将传感器信号（S）变换成输入信号（x）。替代地，在没有接收单元（50）的情况下，每个传感器信号（S）可以直接取作输入信号（x）。输入信号（x）可以例如作为来自传感器信号（S）的摘录（excerpt）而给出。替代地，可以处理传感器信号（S）以产生输入信号（x）。换句话说，根据传感器信号（S）来提供输入信号（x）。
[0018]输入信号（x）然后被传递到分类器（60）。
[0019]分类器（60）由存储在参数存储装置（St1）中并且由其提供的参数（Φ）来参数化。
[0020]分类器（60）根据输入信号（x）来确定输出信号（y）。输出信号（y）包括向输入信号（x）指派一个或多个标签的信息。输出信号（y）被传输到可选的转换单元（80），该转换单元（80）将输出信号（y）转换成控制信号（A）。然后，控制信号（A）被传输到致动器（10）以用于相应地控制致动器（10）。替代地，输出信号（y）可以直接取作控制信号（A）。
[0021]致动器（10）接收控制信号（A），被相应地控制，并且实行对应于控制信号（A）的动作。致动器（10）可以包括控制逻辑，该控制逻辑将控制信号（A）变换成另外的控制信号，该另外的控制信号然后用于控制致动器（10）。
[0022]在另外的实施例中，控制系统（40）可以包括传感器（30）。在再另外的实施例中，控制系统（40）替代地或附加地可以包括致动器（10）。
[0023]在仍另外的实施例中，可以设想的是，代替于致动器（10）或者除了致动器（10）之外，控制系统（40）还控制显示器（10a）。
[0024]此外，控制系统（40）可以包括至少一个本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于训练分类器（60）以便对输入信号（x）进行分类的计算机实现方法，所述输入信号（x）特别地包括图像数据，所述分类器（60）包括嵌入部分（61）和分类部分（62），所述嵌入部分（61）被配置成取决于输入到所述分类器（60）中的所述输入信号（x）来确定嵌入（h），所述分类部分（62）被配置成取决于所述嵌入（h）来确定所述输入信号（x）的分类（y），其中所述方法包括：
‑ꢀ
提供训练样本的第一训练数据集，每个训练样本包括输入信号（x）和多个类当中的对应期望分类（），
‑ꢀ
在知识图（KG）中提供与所述目标分类（）中的至少一个相关联的附加信息，
‑ꢀ
提供所述知识图（KG）的知识图嵌入方法（KGE（
⋅
）），
‑ꢀ
提供通过使用所述知识图嵌入方法（KGE（
⋅
））获得的所述知识图（KG）的知识图嵌入（h
KG
），
‑ꢀ
取决于所述知识图嵌入（h
KG
）和所述第一训练数据集来训练所述嵌入部分（61）。2.根据权利要求1所述的方法，其中训练所述嵌入部分（61）的步骤进一步包括如下步骤：根据训练目标函数（）来调整所述分类器（60）的所述嵌入部分（61）的参数（Φ），所述训练目标函数（）表征输入信号（x
a
）的目标分类（）的知识图嵌入（h
KG,a
）与具有与所述输入信号（x
a
）相同目标分类（）的训练样本的输入信号（x
p
）的所确定嵌入（z
p
）之间的相似程度。3.根据权利要求2所述的方法，其中所述训练目标函数（）是对比性学习训练目标。4.根据权利要求1或2所...

【专利技术属性】
技术研发人员：S，
申请(专利权)人：罗伯特，
类型：发明
国别省市：