一种目标插件运行方法、装置、电子设备及存储介质制造方法及图纸

技术编号:34948421 阅读:10 留言:0更新日期:2022-09-17 12:24
本申请涉及一种目标插件运行方法、装置、电子设备及存储介质,方法包括:获取目标插件对应的文件包;将文件包存储到算法平台,并获取文件包在算法平台中配置信息,配置信息包括文件包在算法平台中的存储路径和文件名;获取目标插件对应的脚本内容,将配置信息写入脚本内容指定位置,以更新脚本内容,脚本内容用于生成启动目标插件的脚本文件;将脚本内容写入到本地路径以生成脚本文件,并执行脚本文件以启动目标插件,通过在目标插件运行时,根据文件包在算法平台中的配置信息更改脚本内容,避免了在脚本内容中直接设置文件包在算法平台中的位置,使得目标插件在运行时,脚本内容与文件包能够对应。文件包能够对应。文件包能够对应。

【技术实现步骤摘要】
一种目标插件运行方法、装置、电子设备及存储介质


[0001]本申请涉及计算机
,尤其涉及一种目标插件运行方法、装置、电子设备及存储介质。

技术介绍

[0002]随着互联网的发展,相关人员将算法封装在机器学习算法平台中进行使用,而机器学习算法平台上的各插件都保存到数据库中,包括插件对应的脚本内容(或脚本文件地址)、文件包文件地址、版本号等,并且将文件包文件地址、版本号等直接写入脚本内容中。而当机器学习算法平台的插件要运行时,首先将插件对应的脚本内容复制到对应环境中并实例化参数,然后文件包拷贝到对应算法平台路径下,通过脚本启动该插件;而插件在迭代过程中,插件属性会被覆盖成最新版本,且插件各版本未必向下兼容,在插件对应的文件包更新之后,若未及时更新脚本内容,就会破坏离线模式的环境,因此可能会导致离线任务要么被篡改了版本,导致数据不正确,要么因文件包版本和调度脚本提供的参数不一致,导致任务执行失败,造成生产事故,因此,如何避免插件运行错误,导致任务执行失败成了亟需解决的问题。

技术实现思路

[0003]本申请提供了一种目标插件运行方法、装置、电子设备及存储介质,以解决相关技术中,插件运行错误,导致任务执行失败的问题。
[0004]第一方面,本申请提供了一种目标插件运行方法,所述目标插件运行方法,包括:获取目标插件对应的文件包;将所述文件包存储到算法平台,并获取所述文件包在所述算法平台中的配置信息,所述配置信息包括所述文件包在所述算法平台中的存储路径和文件名;获取所述目标插件对应的脚本内容,将所述配置信息写入所述脚本内容指定位置,以更新所述脚本内容,所述脚本内容用于生成启动所述目标插件的脚本文件;将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件以启动所述目标插件。
[0005]可选地,将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件以启动所述目标插件,包括:在手动任务时,在更新所述脚本内容完成后,直接将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件以启动所述目标插件。
[0006]可选地,将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件以启动所述目标插件,包括:在离线任务时,在更新所述脚本内容完成后,将所述脚本内容保存到快照表中,所述快照表用于根据所述脚本内容生成对应的脚本标识;将所述脚本标识提交到工作流调度平台,以使得所述工作流调度平台生成新的调度任务;在接收到所述工作流调度平台发起的带所述脚本标识的调度任务时,将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件以启动所述目标插件。
[0007]可选地,在接收到所述工作流调度平台发起的带所述脚本标识的调度任务时,将
所述脚本内容写入到本地路径以生成脚本文件中,并执行所述脚本文件以启动所述目标插件,包括:根据所述脚本标识获取所述脚本内容;将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件中以启动所述目标插件。
[0008]可选地,将所述脚本内容写入到本地路径以生成所述脚本文件中,并执行所述脚本文件以启动所述目标插件之后,所述方法还包括:保存执行记录,所述执行记录包括当前执行的所述脚本内容。
[0009]可选地,获取所述目标插件对应的文件包,包括:从自动化构建工具中获取所述目标插件对应的所述文件包,所述自动化构建工具用于根据所述目标插件对应的逻辑文件和依赖文件自动构建所述文件包。
[0010]可选地,所述目标插件对应的脚本内容,包括:从仓库管理系统获取所述目标插件对应的所述脚本内容,所述仓库管理系统用于对所述目标插件对应的多个所述脚本内容进行管理。
[0011]第二方面,本申请提供了一种目标插件运行装置,所述目标插件运行装置,包括:获取模块,所述获取模块用于获取目标插件对应的文件包;上传模块,所述上传模块用于将所述文件包上传到算法平台,并获取所述文件包在所述算法平台中的配置信息,所述配置信息包括所述文件包在所述算法平台中的存储路径和文件名;所述获取模块还用于获取所述目标插件对应的脚本内容,将所述配置信息写入所述脚本内容指定位置,以更新所述脚本内容,所述脚本内容用于生成启动所述目标插件的脚本文件;执行模块,所述执行模块用于将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件以启动所述目标插件。
[0012]第三方面,提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
[0013]存储器,用于存放计算机程序;
[0014]处理器,用于执行存储器上所存放的程序时,实现第一方面任一项实施例所述的目标插件运行方法的步骤。
[0015]第四方面,提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面任一项实施例所述的目标插件运行方法的步骤。
[0016]本申请实施例提供的上述技术方案与现有技术相比具有如下优点:
[0017]本申请实施例提供的该方法,包括:获取目标插件对应的文件包,所述文件包用于存储所述目标插件对应的逻辑文件和依赖文件;将所述文件包存储到算法平台,并获取所述文件包在所述算法平台中配置信息,所述配置信息包括所述文件包在所述算法平台中的存储路径和文件名;获取所述目标插件对应的脚本内容,将所述配置信息写入所述脚本内容指定位置,以更新所述脚本内容,所述脚本内容用于生成启动所述目标插件的脚本文件;将所述脚本内容写入到本地路径以生成所述脚本文件中,并执行所述脚本文件以启动所述目标插件,通过在运行插件时,获取目标插件对应文件包在算法平台中的配置信息,并将其写入脚本内容中,进而在目标插件运行时,根据文件包在算法平台中的配置信息更改脚本内容,避免了在脚本内容中直接设置文件包在算法平台中的位置,导致脚本内容与文件包不匹配的问题;使得目标插件在运行时,脚本内容与文件包能够对应,进而能够成功启动运行对应的目标插件,避免插件运行错误,导致任务执行失败的问题,提升了用户体验。
System)算法平台;算法平台还可以采用完全无中心架构

计算模式,如Ceph系统;再者算法平台还可以采用完全无中心架构

一致性哈希,如swift算法平台。
[0031]承接上例,在将文件包存储到算法平台后,文件包在算法平台内会有一个存储路径,以及该存储路径下唯一的文件名,根据该存储路径以及该存储路径下唯一的文件名可以确定该文件包。
[0032]应当理解的是,获取所述目标插件对应的脚本内容,其中,脚本内容用于生成脚本文件,脚本文件为启动目标插件的必要文件,通常为shell文件,脚本内容包含任务相关信息,如任务名、任务ID、用户名、Hadoop队列、任务参数等,且脚本内容中存在通配符,通配符所在位置为指定位置,该通配符用于替代表示文件包在算法平台中的配置信息(存储路径和文件名);其中,通配符如"${JAR_PATH}",在获取到目标插件对本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种目标插件运行方法,其特征在于,所述目标插件运行方法,包括:获取目标插件对应的文件包;将所述文件包存储到算法平台,并获取所述文件包在所述算法平台中的配置信息,所述配置信息包括所述文件包在所述算法平台中的存储路径和文件名;获取所述目标插件对应的脚本内容,将所述配置信息写入所述脚本内容指定位置,以更新所述脚本内容,所述脚本内容用于生成启动所述目标插件的脚本文件;将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件以启动所述目标插件。2.根据权利要求1所述的方法,其特征在于,将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件以启动所述目标插件,包括:在手动任务时,在更新所述脚本内容完成后,直接将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件以启动所述目标插件。3.根据权利要求1所述的方法,其特征在于,将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件以启动所述目标插件,包括:在离线任务时,在更新所述脚本内容完成后,将所述脚本内容保存到快照表中,所述快照表用于根据所述脚本内容生成对应的脚本标识;将所述脚本标识提交到工作流调度平台,以使得所述工作流调度平台生成新的调度任务;在接收到所述工作流调度平台发起的带所述脚本标识的调度任务时,将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件以启动所述目标插件。4.根据权利要求3所述的方法,其特征在于,在接收到所述工作流调度平台发起的带所述脚本标识的调度任务时,将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件以启动所述目标插件,包括:根据所述脚本标识获取所述脚本内容;将所述脚本内容写入到本地路径以生成所述脚本文件,并执行所述脚本文件中以启动所述目标插件。5.根据权利要求1

4任一项所述的方法,其特征在于,将所...

【专利技术属性】
技术研发人员:李晨曦
申请(专利权)人:北京奇艺世纪科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1