用于生成机器学习多任务模型的系统和方法技术方案

技术编号:37891683 阅读:21 留言:0更新日期:2023-06-18 11:55
本公开的系统和方法涉及一种用于生成被配置为执行任务的机器学习多任务模型的方法。方法能够包括获得包括候选节点的机器学习多任务搜索模型。方法能够包括获得任务和与任务相关联的机器学习任务控制器模型。作为示例,对于任务,方法能够包括使用任务控制器模型来路由对应任务的机器学习任务子模型中的候选节点的子集。方法能够包括将任务输入数据输入到任务子模型以获得任务输出。方法能够包括使用任务输出基于目标函数来生成反馈值。方法能够包括基于反馈值来调整任务控制器模型的参数。数。数。

【技术实现步骤摘要】
【国外来华专利技术】用于生成机器学习多任务模型的系统和方法


[0001]本公开一般涉及用于多个任务的联合和/或共享机器学习模型。更具体地,本公开涉及用于经由神经架构搜索生成多任务模型的(多个)机器学习多任务搜索模型。

技术介绍

[0002]特定于任务的机器学习模型已经在许多
(例如,计算机视觉、对象检测、统计预测等)取得了显著的成功。这些模型是针对单个任务开发的,因此,通常无法有效地用于多个任务或不同于它们接受训练的特定单个任务的其他任务。然而,这些(多个)模型的当代应用(例如,在移动设备上的智能相机等)通常需要或受益于多项机器学习任务(例如图像分类、对象检测、实例分割等)的执行。

技术实现思路

[0003]本专利技术实施例的各方面和优点将在以下描述中部分地阐述,或者可以从描述中了解,或者能够通过实施例的实践而了解。
[0004]本公开的一个示例方面针对一种用于生成被配置为执行多个任务的机器学习多任务模型的计算机实现的方法。该方法能够包括获得包括多个候选节点的机器学习多任务搜索模型。该方法能够包括获得多个任务和与多个任务相关联的一个或本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于生成被配置为执行多个任务的机器学习多任务模型的计算机实现的方法,所述方法包括:通过一个或多个计算设备获得包括多个候选节点的机器学习多任务搜索模型;通过所述一个或多个计算设备获得所述多个任务和与所述多个任务相关联的一个或多个机器学习任务控制器模型;对于所述多个任务中的每个任务:通过所述一个或多个计算设备使用分别与所述任务相关联的所述机器学习任务控制器模型来生成路由,所述路由指定所述机器学习多任务搜索模型的所述多个候选节点的子集以包括在对应任务的机器学习任务子模型中;通过所述一个或多个计算设备将与所述任务相关联的任务输入数据输入到对应机器学习任务子模型以获得任务输出;通过所述一个或多个计算设备使用所述任务输出基于目标函数来生成反馈值;以及通过所述一个或多个计算设备至少部分地基于所述反馈值来调整分别关联的机器学习任务控制器模型的一个或多个参数。2.根据权利要求1所述的计算机实现的方法,其中,所述方法还包括:通过所述一个或多个计算设备生成所述机器学习多任务模型,其中,所述机器学习多任务模型包括所述多个机器学习任务子模型的至少机器学习任务子模型的子集的组合。3.根据权利要求2所述的计算机实现的方法,其中,所述方法还包括:通过所述一个或多个计算设备将与至少所述机器学习任务子模型的子集中的机器学习任务子模型相关联的多任务训练数据输入到所述机器学习多任务模型以获得多任务训练输出;以及通过所述一个或多个计算设备至少部分地基于所述多任务训练输出来调整所述机器学习多任务模型的一个或多个参数。4.根据任一项前述权利要求所述的计算机实现的方法,其中:所述反馈值包括奖励值;以及所述目标函数包括强化学习奖励函数。5.根据权利要求1

3所述的计算机实现的方法,其中,通过所述一个或多个计算设备至少部分地基于所述反馈值来调整所述分别关联的机器学习任务控制器模型的所述一个或多个参数包括:反向传播所述目标函数通过所述对应机器学习任务子模型到达所述分别关联的机器学习任务控制器模型。6.根据任一项前述权利要求所述的计算机实现的方法,其中:对于所述多个任务中的每个任务:通过所述一个或多个计算设备将与所述任务相关联的所述任务输入数据输入到所述对应机器学习任务子模型以获得所述任务输出进一步包括:通过所述一个或多个计算设备将与所述任务相关联的训练数据输入到所述对应机器学习任务子模型以获得训练输出;通过所述一个或多个计算设备使用所述任务输出基于所述目标函数来生成所述反馈值进一步包括:通过所述一个或多个计算设备使用所述训练输出基于任务损失函数来生成损失值;以及所述方法还包括:通过所述一个或多个计算设备基于分别与所述多个任务相关联的所
述多个损失值来调整所述机器学习多任务搜索模型的至少一个候选节点的所述一个或多个参数。7.根据权利要求6所述的计算机实现的方法,其中:所述任务输入数据包括所述训练数据;以及所述任务输出包括所述训练输出。8.根据权利要求6或7所述的计算机实现的方法,其中,所述任务输入数据包括图像数据,并且所述任务输出包括以下中的至少一个:图像分类数据;图像识别数据;对应于所述图像数据中描述的一个或多个对象的对象识别数据;以及对象分割数据。9.根据权利要求6

8所述的计算机实现的方法,其中:相应的任务权重与所述多个任务中的每个任务相关联;以及至少所述目标函数被配置为评估与相应的任务相关联的所述任务权重。10.根据权利要求6

9所述的计算机实现的方法,其中:所述多个损失值中的第一损失值大于所述多个损失值中的第二损失值;以及所述至少一个候选节点的所述一个或多个参数是基于所述多个损失值和自适应损失函数来调整的,其中,所述自适应损失函数被配置为至少评估所述第一损失值与所述第二损失值之间的差。11.根据任一项前述权利要求所述的计算机实现的方法,其中:所述一个或多个机器学习任务控制器模型包括分别与所述多个任务相关联的多个任务控制器模型;与第一任务相关联的第一机器学习任务控制器模型用于生成指定所述多个候选节点的第一子集的第一路由;与第二任务相关联的第二机器学习任务控制器模型用于生成指定所述多个候选节点的第二子集的第二路由;以及所述多个候选节点的所述第一子集和所述多个候选节点的所述第二子集包含至少一个共享候选节点。12.根...

【专利技术属性】
技术研发人员:汪启扉柯均洁楚小雨加布里尔
申请(专利权)人:谷歌有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1