【技术实现步骤摘要】
一种混合机器学习模型的运行方法、装置及相关设备
本专利技术涉及机器学习
,尤其涉及一种混合机器学习模型的运行方法、装置及相关设备。
技术介绍
随着人工智能科学技术的快速发展,机器学习技术不断提高。当前,现有技术在需要使用混合机器学习模型为用户提供相关服务时,可以将混合机器学习模型中的各机器学习模型部署在服务端,将调用各机器学习模型运行的控制逻辑部署在客户端。服务端可以将混合机器学习模型的输出数据返回至客户端,为用户提供相关服务。其中,现有技术在使用混合机器学习模型提供服务时,客户端需通过发送多次网络请求至服务端来控制各机器学习模型开始运行,比如,当混合机器学习模型中包含两个机器学习模型时,客户端需发送一次数据指令至服务端以控制一个机器学习模型开始运行,之后需再发送一次数据指令至服务端以控制另一个机器学习模型开始运行。但是,客户端向服务端发送的数据指令次数多,会导致客户端与服务端交互次数多,服务效率低。
技术实现思路
鉴于上述问题,本专利技术提供一种克服上述问题或者至少部分地解 ...
【技术保护点】
1.一种混合机器学习模型的运行方法,所述混合机器学习模型中包括有多个机器学习模型,其特征在于,所述方法应用于电子设备,所述电子设备保存有流水线定义文件,所述电子设备部署有流水线引擎、各所述机器学习模型和各所述机器学习模型分别对应的各运行环境,所述方法包括:/n获得待输入至所述混合机器学习模型的初始输入数据;/n使用所述流水线引擎解析所述流水线定义文件,以确定各所述机器学习模型的运行次序,所述流水线定义文件中包括各所述机器学习模型间的运行次序;/n将所述初始输入数据输入至所述混合机器学习模型中所述运行次序为第一的至少一个机器学习模型,按照已确定的各所述机器学习模型的运行次序, ...
【技术特征摘要】
1.一种混合机器学习模型的运行方法,所述混合机器学习模型中包括有多个机器学习模型,其特征在于,所述方法应用于电子设备,所述电子设备保存有流水线定义文件,所述电子设备部署有流水线引擎、各所述机器学习模型和各所述机器学习模型分别对应的各运行环境,所述方法包括:
获得待输入至所述混合机器学习模型的初始输入数据;
使用所述流水线引擎解析所述流水线定义文件,以确定各所述机器学习模型的运行次序,所述流水线定义文件中包括各所述机器学习模型间的运行次序;
将所述初始输入数据输入至所述混合机器学习模型中所述运行次序为第一的至少一个机器学习模型,按照已确定的各所述机器学习模型的运行次序,依次使用运行环境运行相应的机器学习模型,获得由所述混合机器学习模型输出的最终输出数据。
2.根据权利要求1所述的方法,其特征在于,所述电子设备保存有多个流水线定义文件,所述获得待输入至所述混合机器学习模型的初始输入数据,包括:
接收对第一服务的服务请求指令,所述服务请求指令中包含所述初始输入数据和所述第一服务的服务类别;
在所述使用所述流水线引擎解析所述流水线定义文件之前,所述方法还包括:
从各所述流水线定义文件中,确定所述第一服务的服务类别匹配的第一流水线定义文件;
所述使用所述流水线引擎解析所述流水线定义文件,以确定各所述机器学习模型的运行次序,包括:
使用所述流水线引擎解析所述第一流水线定义文件,以确定所述第一服务的服务类别匹配的各所述机器学习模型的运行次序。
3.根据权利要求1所述的方法,其特征在于,所述按照已确定的各所述机器学习模型的运行次序,依次使用运行环境运行相应的机器学习模型,包括:
获得当前运行的机器学习模型的输出数据,将当前运行的机器学习模型的输出数据输入至下一运行次序的机器学习模型,并使用相应的运行环境运行所述下一运行次序的机器学习模型,返回执行所述获得当前运行的机器学习模型的输出数据的步骤。
4.根据权利要求3所述的方法,其特征在于,所述电子设备还部署有各所述机器学习模型分别对应的各动态库,在所述将当前运行的机器学习模型的输出数据输入至下一运行次序的机器学习模型之前,所述方法还包括:
使用相应的动态库对当前运行的机器学习模型的输出数据进行处理,以获得适配于下一运行次序的机器学习模型的数据;
所述将当前运行的机器学习模型的输出数据输入至下一运行次序的机器学习模型,包括:
将所述适配于下一运行次序的机器学习模型的数据输入至下一运行次序的机器学习模型。
5.根据权利要求1所述的方法,其特征在于,在所述依次使用运行环境运行相应的机器学习模型之前,所述方法还包括:
依次使用运行环境加载相应的机器学习模型;
所述依次使用运行环境运行相应的机器学习模型,包括:
依次使用...
【专利技术属性】
技术研发人员:郝滋雨,
申请(专利权)人:北京奇艺世纪科技有限公司,
类型:发明
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。