多模型的管理方法、系统、介质及服务器技术方案

技术编号:25755731 阅读:20 留言:0更新日期:2020-09-25 21:05
本发明专利技术提供一种多模型的管理方法、系统、介质及服务器,所述多模型的管理方法包括:根据模型的依赖库的依赖关系确定所述模型适用的运行环境;比较所述模型的依赖库与所述运行环境的依赖库之间版本信息的差异;判断差异的程度,并根据所述差异的程度对所述运行环境进行更新。本发明专利技术提供了一种自动化升级管理模型运行环境的管理策略,最大化减少多模型所需的运行环境数量。同时,降低模型过程的硬件资源消耗,以及提升运行环境维护效率。

【技术实现步骤摘要】
多模型的管理方法、系统、介质及服务器
本专利技术属于模型部署的
,涉及一种模型管理方法,特别是涉及一种多模型的管理方法、系统、介质及服务器。
技术介绍
在诸多模型的生产过程中,例如机器学习模型,为了让模型能够顺利的运行,需要运行环境能够提供和模型所匹配的依赖环境。然而,不同模型所需要的依赖环境并不一致。如何正确的管理运行环境和模型,使得它们能够匹配,是模型部署阶段的一个难点。尽管存在Docker等容器化技术,能够可靠对特定的模型创建匹配的运行环境,但是这会导致每个模型都需要一个独立的Docker容器包,造成大量硬件资源的浪费。例如,如果存在100个模型,那么服务器上要运行100个独立的服务,如果这些模型需要用到TensorFlow,Pandas等常见的第三方库,那么每个环境都可能需要占用超过1G的硬盘空间。其中,TensorFlow是一个基于数据流编程的符号数学系统,被广泛应用于各类机器学习算法的编程实现,Pandas是python的一个数据分析包,为了解决数据分析任务而创建。与此同时,依赖库的升级也会变得困难。例如,如果发现有个依赖库存在bug,需要升级修复,那么需要对所有模型的依赖库进行替换和升级。因此,如何提供一种多模型的管理方法、系统、介质及服务器,以解决现有技术无法简化依赖库的升级过程并通过优化运行环境数量进行硬件资源的有效利用等缺陷,成为本领域技术人员亟待解决的技术问题。
技术实现思路
鉴于以上所述现有技术的缺点,本专利技术的目的在于提供一种多模型的管理方法、系统、介质及服务器,用于解决现有技术无法简化依赖库的升级过程并通过优化运行环境数量进行硬件资源的有效利用的问题。为实现上述目的及其他相关目的,本专利技术一方面提供一种多模型的管理方法,所述多模型的管理方法包括:根据模型的依赖库的依赖关系确定所述模型适用的运行环境;比较所述模型的依赖库与所述运行环境的依赖库之间版本信息的差异;判断差异的程度,并根据所述差异的程度对所述运行环境进行更新。于本专利技术的一实施例中,根据模型的依赖库的依赖关系确定所述模型适用的运行环境的步骤包括:遍历所有的运行环境的依赖关系,在所有的运行环境中查找与所述模型匹配的运行环境。于本专利技术的一实施例中,判断差异的程度,并根据所述差异的程度对所述运行环境进行更新的步骤包括:根据是否需要向后兼容的升级,将所述差异的程度分为次版本号升级和主版本号升级;若为次版本号升级,则对所述运行环境进行升级;若为主版本号升级,则在所述运行环境的基础上创建新的运行环境。于本专利技术的一实施例中,若为次版本号升级,则对所述运行环境进行升级的步骤包括:逐一确定所述模型依赖的多个依赖库的版本;在所述运行环境中确定待升级的依赖库和/或待补充的依赖库;将所述运行环境中待升级的依赖库替换为所述模型依赖的依赖库和/或在所述运行环境中补入待补充的依赖库。于本专利技术的一实施例中,若为主版本号升级,则在所述运行环境的基础上创建新的运行环境的步骤包括:逐一确定所述模型依赖的多个依赖库的版本;按照所述模型的依赖库版本与依赖关系,创建新的运行环境。于本专利技术的一实施例中,根据模型的依赖库的依赖关系确定所述模型适用的运行环境的步骤之前,所述多模型的管理方法还包括:在所述模型的训练过程中,记录所述模型需要调用的各个依赖库之间的依赖关系。于本专利技术的一实施例中,在判断差异的程度,并根据所述差异的程度对所述运行环境进行更新的步骤之后,所述多模型的管理方法还包括:在所述运行环境更新完毕后,将所述模型部署于所述运行环境中,以使所述模型调用与之对应的运行环境中的依赖库后进行运行与测试。本专利技术另一方面提供一种多模型的管理系统,所述多模型的管理系统包括:运行环境确定模块,用于根据模型的依赖库的依赖关系确定所述模型适用的运行环境;差异比较模块,用于比较所述模型的依赖库与所述运行环境的依赖库之间版本信息的差异;更新模块,用于判断差异的程度,并根据所述差异的程度对所述运行环境进行更新。本专利技术又一方面提供一种介质,其上存储有计算机程序,该计算机程序被处理器执行时实现所述的多模型的管理方法。本专利技术最后一方面提供一种服务器,包括:处理器及存储器;所述存储器用于存储计算机程序,所述处理器用于执行所述存储器存储的计算机程序,以使所述服务器执行所述的多模型的管理方法。如上所述,本专利技术所述的多模型的管理方法、系统、介质及服务器,具有以下有益效果:本专利技术通过是否需要向后兼容升级的判断分别对主版本号和次版本号采用不同的运行环境更新方式,简化了依赖库的升级过程。提供了一种自动化升级管理模型运行环境的管理策略,最大化减少多模型所需的运行环境数量。同时,降低模型过程的硬件资源消耗,以及提升运行环境维护效率。附图说明图1显示为本专利技术的多模型的管理方法于一实施例中的原理流程图。图2显示为本专利技术的多模型的管理方法于一实施例中的运行环境更新流程图。图3显示为本专利技术的多模型的管理方法于一实施例中的次版本号依赖树示意图。图4显示为本专利技术的多模型的管理方法于一实施例中的次版本号升级示意图。图5显示为本专利技术的多模型的管理方法于一实施例中的主版本号依赖树示意图。图6显示为本专利技术的多模型的管理方法于一实施例中的主版本号升级示意图。图7显示为本专利技术的多模型的管理系统于一实施例中的结构原理图。图8显示为本专利技术的服务器于一实施例中的结构连接示意图。元件标号说明7多模型的管理系统71运行环境确定模块72差异比较模块73更新模块8服务器81处理器82存储器83通信接口84系统总线S11~S13步骤S131~S133步骤。具体实施方式以下通过特定的具体实例说明本专利技术的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本专利技术的其他优点与功效。本专利技术还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本专利技术的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。需要说明的是,以下实施例中所提供的图示仅以示意方式说明本专利技术的基本构想,遂图式中仅显示与本专利技术中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。本专利技术所述的多模型的管理方法提供了一种模型和运行环境管理系统,实现了能让同一个运行环境支持多个模型的运行,最大限度的减少需要维护的运行环境的数量。以下将结合图1至图8详细阐述本实施例的一种多模型的管理方法、系统、介质及服务器的原理及实施方式,使本领域技术人员不需要创造性劳动即可理解本实施例的多模型的管理方法、系统、介质及服务器。请参阅图1,显示为本专利技术的多模型的管理方法于一实施例中的原理流程图。所述多模型的管理方法本文档来自技高网...

【技术保护点】
1.一种多模型的管理方法,其特征在于,所述多模型的管理方法包括:/n根据模型的依赖库的依赖关系确定所述模型适用的运行环境;/n比较所述模型的依赖库与所述运行环境的依赖库之间版本信息的差异;/n判断差异的程度,并根据所述差异的程度对所述运行环境进行更新。/n

【技术特征摘要】
1.一种多模型的管理方法,其特征在于,所述多模型的管理方法包括:
根据模型的依赖库的依赖关系确定所述模型适用的运行环境;
比较所述模型的依赖库与所述运行环境的依赖库之间版本信息的差异;
判断差异的程度,并根据所述差异的程度对所述运行环境进行更新。


2.根据权利要求1所述的多模型的管理方法,其特征在于,根据模型的依赖库的依赖关系确定所述模型适用的运行环境的步骤包括:
遍历所有的运行环境的依赖关系,在所有的运行环境中查找与所述模型匹配的运行环境。


3.根据权利要求1所述的多模型的管理方法,其特征在于,判断差异的程度,并根据所述差异的程度对所述运行环境进行更新的步骤包括:
根据是否需要向后兼容的升级,将所述差异的程度分为次版本号升级和主版本号升级;
若为次版本号升级,则对所述运行环境进行升级;若为主版本号升级,则在所述运行环境的基础上创建新的运行环境。


4.根据权利要求3所述的多模型的管理方法,其特征在于,若为次版本号升级,则对所述运行环境进行升级的步骤包括:
逐一确定所述模型依赖的多个依赖库的版本;
在所述运行环境中确定待升级的依赖库和/或待补充的依赖库;
将所述运行环境中待升级的依赖库替换为所述模型依赖的依赖库和/或在所述运行环境中补入待补充的依赖库。


5.根据权利要求3所述的多模型的管理方法,其特征在于,若为主版本号升级,则在所述运行环境的基础上创建新的运行环境的步骤包括:
逐一确定所述模型...

【专利技术属性】
技术研发人员:殷嘉珩蔡俊杰李鹏飞
申请(专利权)人:上海森亿医疗科技有限公司
类型:发明
国别省市:上海;31

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1