处理基于损失函数被训练的模型制造技术

技术编号:29404310 阅读:26 留言:0更新日期:2021-07-23 22:42
处理基于损失函数被训练的模型。本发明专利技术涉及一种用于处理模型的系统(100)。该模型在给定输入实例的情况下提供模型输出。通过根据用于训练数据集的训练实例的损失函数迭代地优化包括损失的目标函数,在训练数据集上训练模型。一旦接收到标识训练数据集的一个或多个不期望的训练实例的移除请求消息,就使模型独立于一个或多个不期望的训练实例。为了该目的,从训练数据集移除一个或多个不期望的训练实例以获得剩余数据集,并且为剩余数据集确定适配模型。首先基于训练模型的参数集初始化适配模型的参数,并且然后通过相对于剩余数据集优化目标函数来迭代地对适配模型的参数进行适配。

【技术实现步骤摘要】
处理基于损失函数被训练的模型
本专利技术涉及用于处理基于损失函数训练的模型的系统,以及对应的计算机实现的方法。本专利技术进一步涉及一种包括执行该方法的指令的计算机可读介质。
技术介绍
诸如智能手表、健身追踪器和身体安装传感器之类的可佩戴设备允许测量和跟踪用户的各种量,例如,诸如心率或血压之类的生理量,或者诸如位置、速度、旋转速度等其他种类的物理量。然后,典型地集中收集这样的测量,并且可以提供利用所述测量的各种服务,例如,活动存记、睡眠建议等。许多这些服务将机器学习模型应用于从用户收集的信息,以例如识别模式或做出预测。机器学习模型的流行的类是所谓的“经验风险最小化”(ERM)型模型的类,其通过迭代地优化目标函数而在训练数据集上进行训练,该目标函数包括根据典型的非线性损失函数被确定的相应训练实例的损失。这样的模型的示例包括神经网络,或者最小二乘或逻辑回归模型。除了将模型应用于从用户收集的信息之外,服务还通常使用该信息来进一步细化机器学习模型,并且从而改进它们的服务。此外,在许多其他设置中,例如,在医学图像处理或面部识别中,针对个人信息对机器学习模型本文档来自技高网...

【技术保护点】
1.一种用于处理基于损失函数被训练的模型的系统(100),模型被配置为在给定输入实例的情况下提供模型输出,模型是通过迭代地优化目标函数在训练数据集上被训练的,目标函数包括根据用于训练数据集的相应训练实例的损失函数的相应损失,所述系统包括:/n-数据接口(120),被配置用于访问模型(030)和已经在其上训练模型的训练数据集(040);/n-移除请求接口(160),被配置用于接收移除请求消息,移除请求消息标识训练数据集的一个或多个不期望的训练实例;/n-处理器子系统(140),被配置为在接收到移除请求消息时,通过以下各项使模型独立于所述一个或多个不期望的训练实例:/n-从训练数据集移除所述一个或...

【技术特征摘要】
20200107 EP 20150536.91.一种用于处理基于损失函数被训练的模型的系统(100),模型被配置为在给定输入实例的情况下提供模型输出,模型是通过迭代地优化目标函数在训练数据集上被训练的,目标函数包括根据用于训练数据集的相应训练实例的损失函数的相应损失,所述系统包括:
-数据接口(120),被配置用于访问模型(030)和已经在其上训练模型的训练数据集(040);
-移除请求接口(160),被配置用于接收移除请求消息,移除请求消息标识训练数据集的一个或多个不期望的训练实例;
-处理器子系统(140),被配置为在接收到移除请求消息时,通过以下各项使模型独立于所述一个或多个不期望的训练实例:
-从训练数据集移除所述一个或多个不期望的训练实例,以获得剩余数据集;
-通过以下各项确定用于剩余数据集的适配模型:
-基于训练模型的参数集初始化适配模型的参数集;
-通过相对于剩余数据集优化目标函数,迭代地对适配模型的参数集进行适配。


2.根据权利要求1所述的系统(100),其中训练数据集包括从相应用户收集的多个训练实例,移除请求消息指示其训练实例将从训练数据集移除的用户。


3.根据权利要求2所述的系统(100),其中用户的训练实例包括用户的一个或多个传感器测量,例如图像。


4.根据权利要求3所述的系统(100),其中处理器子系统(140)进一步被配置为通过从用户设备接收训练实例来收集用户的训练实例,训练实例包括用户设备对用户的生理量的传感器测量。


5.根据前述权利要求中任一项所述的系统(100),其中训练模型包括通过第一参数集被参数化的特征提取器和通过第二参数集被参数化的另外训练模型,特征提取器在不包括不期望的训练实例的另外数据集上被训练,处理器子系统(140)被配置为通过适配第二参数集来确定适配模型。


6.根据前述权利要求中任一项所述的系统(100),其中,处理器子系统(140)被配置为在适配模型的参数集的迭代适配的迭代中,确定目标函数相对于所述参数集的一个或多个二阶导数,并且基于所确定的二阶导数适配所述参数集。


7.根据权利要求6所述的系统(100),其中,处理器子系统(140)被配置为在适配模型的参数集的迭代适配的另外迭代中,使用一阶优化方法来适配所述参数集。


8.根...

【专利技术属性】
技术研发人员:M·B·扎法尔C·齐默M·R·鲁道夫M·席格S·格尔温
申请(专利权)人:罗伯特·博世有限公司
类型:发明
国别省市:德国;DE

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1