人工智能模型管理方法技术

本申请涉及一种人工智能模型管理方法

【技术实现步骤摘要】
人工智能模型管理方法、装置、设备及可读存储介质


[0001]本申请涉及网络智能运维
，特别涉及一种人工智能模型管理方法
、
装置
、
设备及可读存储介质
。

技术介绍

[0002]目前，对于网络智能运维的要求越来越高，而基于人工智能
(Artificial Intelligence
，
AI)
的应用也逐渐增多，其不仅进一步加大了网络智能运维的难度，且由于各种人工智能应用对应的模型所需的
Runtime(
运行时
)
环境各有区别，而且所需的拓展性也不同，以致统一部署模型的兼容性难以保证
。
由此可见，如何提高
Runtime
环境的拓展性，以实现不同人工智能应用对应模型的统一部署是当前亟需解决的问题
。

技术实现思路

[0003]本申请提供一种人工智能模型管理方法
、
装置
、
设备及可读存储介质，以提高
Runtime
环境的拓展性，进而实现不同人工智能应用对应模型的统一部署
。
[0004]第一方面，提供了一种人工智能模型管理方法，包括以下步骤：
[0005]读取与目标模型对应的二进制文件
、
配置文件以及元数据文件；
[0006]当通过所述元数据文件确定目标模型存在新增依赖关系时，判断运行时模块内的独立实例组中是否存在与所述新增依赖关系对应的目标进程实例；
[0007]若不存在，则将所述配置文件中的新增依赖关系添加至
Python
安装包所在的目标文件夹；
[0008]加载所述目标文件夹以更新运行时环境，基于更新后的运行时环境派生新的进程实例，并将新的进程实例添加至独立实例组中；
[0009]在独立实例组上加载所述二进制文件和所述配置文件，使所述目标模型加载至新的进程实例上运行，以完成模型部署
。
[0010]一些实施例中，在所述判断运行时模块内的独立实例组中是否存在与所述新增依赖关系对应的目标进程实例的步骤之后，还包括：
[0011]若存在，则在独立实例组上加载所述二进制文件和所述配置文件，以使目标模型加载至目标进程实例上运行
。
[0012]一些实施例中，在所述读取与目标模型对应的二进制文件
、
配置文件以及元数据文件的步骤之后，还包括：
[0013]当通过元数据文件确定目标模型不存在新增依赖关系时，在运行时模块内的常规实例组上加载所述二进制文件和所述配置文件，以使目标模型加载至常规实例组中与目标模型对应的进程实例上运行
。
[0014]一些实施例中，通过动态导入
importlib
的方式加载所述二进制文件和所述配置文件
。
[0015]一些实施例中，在所述在独立实例组上加载所述二进制文件和所述配置文件，使
所述目标模型加载至新的进程实例上运行的步骤之后，还包括：
[0016]当接收到训练请求时，调用所述配置文件中的训练方法以及目标模型在实际部署环境下的数据对所述目标模型进行在线训练；
[0017]根据训练精度对目标模型进行更新
。
[0018]一些实施例中，所述方法还包括：
[0019]当接收到推理请求时，根据推理请求中的模型标签确定出第一进程实例，并调用与第一进程实例对应的已加载模型进行推理
。
[0020]一些实施例中，所述方法还包括：
[0021]获取物理节点的实时可用资源；
[0022]根据实时可用资源与资源阈值间的大小关系确定出目标物理节点，以用于执行模型部署请求
、
模型训练请求或模型推理请求
。
[0023]第二方面，提供了一种人工智能模型管理装置，包括：
[0024]读取模块，其用于读取与目标模型对应的二进制文件
、
配置文件以及元数据文件；
[0025]管理模块，其用于当通过所述元数据文件确定目标模型存在新增依赖关系时，判断运行时模块内的独立实例组中是否存在与所述新增依赖关系对应的目标进程实例；若不存在，则将所述配置文件中的新增依赖关系添加至
Python
安装包所在的目标文件夹；加载所述目标文件夹以更新运行时环境，基于更新后的运行时环境派生新的进程实例，并将新的进程实例添加至独立实例组中；
[0026]运行模块，其用于在独立实例组上加载所述二进制文件和所述配置文件，使所述目标模型加载至新的进程实例上运行，以完成模型部署
。
[0027]第三方面，提供了一种人工智能模型管理设备，包括：存储器和处理器，所述存储器中存储有至少一条指令，所述至少一条指令由所述处理器加载并执行，以实现前述的人工智能模型管理方法
。
[0028]第四方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，当所述计算机指令被计算机执行时，使得所述计算机执行前述的人工智能模型管理方法
。
[0029]本申请提供了一种人工智能模型管理方法
、
装置
、
设备及可读存储介质，包括读取与目标模型对应的二进制文件
、
配置文件以及元数据文件；当通过所述元数据文件确定目标模型存在新增依赖关系时，判断运行时模块内的独立实例组中是否存在与所述新增依赖关系对应的目标进程实例；若不存在，则将所述配置文件中的新增依赖关系添加至
Python
安装包所在的目标文件夹；加载所述目标文件夹以更新运行时环境，基于更新后的运行时环境派生新的进程实例，并将新的进程实例添加至独立实例组中；在独立实例组上加载所述二进制文件和所述配置文件，使所述目标模型加载至新的进程实例上运行，以完成模型部署
。
本申请通过识别模型的元数据中是否携带用于表征需要进行
Runtime
环境拓展的新增依赖关系，来决定是否向指定
Runtime
中添加拓展依赖，并在独立实例组上部署运行存在新增依赖关系的模型，以提高
Runtime
环境的拓展性，进而实现不同模型的统一部署；此外，还通过指定
Python
路径的方式来启动对应进程，以隔离不同的运行时环境，进而有效避免对原有进程的影响
。
附图说明
[0030]为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图
。
[0031]图1为本申请实施例提供的一种人工智能模型管理方法的流程示意图；
[0032]图2为本申请实施例提供的
AI
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种人工智能模型管理方法，其特征在于，包括以下步骤：读取与目标模型对应的二进制文件
、
配置文件以及元数据文件；当通过所述元数据文件确定目标模型存在新增依赖关系时，判断运行时模块内的独立实例组中是否存在与所述新增依赖关系对应的目标进程实例；若不存在，则将所述配置文件中的新增依赖关系添加至
Python
安装包所在的目标文件夹；加载所述目标文件夹以更新运行时环境，基于更新后的运行时环境派生新的进程实例，并将新的进程实例添加至独立实例组中；在独立实例组上加载所述二进制文件和所述配置文件，使所述目标模型加载至新的进程实例上运行，以完成模型部署
。2.
如权利要求1所述的人工智能模型管理方法，其特征在于，在所述判断运行时模块内的独立实例组中是否存在与所述新增依赖关系对应的目标进程实例的步骤之后，还包括：若存在，则在独立实例组上加载所述二进制文件和所述配置文件，以使目标模型加载至目标进程实例上运行
。3.
如权利要求1所述的人工智能模型管理方法，其特征在于，在所述读取与目标模型对应的二进制文件
、
配置文件以及元数据文件的步骤之后，还包括：当通过元数据文件确定目标模型不存在新增依赖关系时，在运行时模块内的常规实例组上加载所述二进制文件和所述配置文件，以使目标模型加载至常规实例组中与目标模型对应的进程实例上运行
。4.
如权利要求1至3中任一项所述的人工智能模型管理方法，其特征在于：通过动态导入
importlib
的方式加载所述二进制文件和所述配置文件
。5.
如权利要求1所述的人工智能模型管理方法，其特征在于，在所述在独立实例组上加载所述二进制文件和所述配置文件，使所述目标模型加载至新的进程实例上运行的步骤之后，还包括：当接收到训练请求时，调用所述配置文件中的训练方法以及目...

【专利技术属性】
技术研发人员：赵昱，涂志龙，
申请(专利权)人：烽火通信科技股份有限公司，
类型：发明
国别省市：