一种用于人工智能算法模型远程批量部署系统及方法技术方案

本发明专利技术涉及一种用于人工智能算法模型远程批量部署系统及方法，它包括算法模型管理服务器、多个算法模型部署节点服务器、多个终端设备；所述算法模型管理服务器用于管理多个算法模型部署节点服务器，并通过两种方式配置算法模型部署节点服务器的节点服务；所述算法模型部署节点服务器用于执行批量下发部署算法模型到多个终端设备的作业任务；所述终端设备用于接收所述算法模型部署节点服务器下发部署的算法模型并使用。本发明专利技术部署任务分配模块可以根据服务节点的性能压力情况合理分配任务，充分利用好服务资源，做到服务性能自控提高效率；多个节点服务同时并行执行部署任务且全面自动化处理，无须人工干预操作。无须人工干预操作。无须人工干预操作。

【技术实现步骤摘要】
一种用于人工智能算法模型远程批量部署系统及方法


[0001]本专利技术涉及数据处理
，尤其涉及一种用于人工智能算法模型远程批量部署系统及方法。

技术介绍

[0002]随着人工智能技术的快速发展，人工智能算法模型也越来越成熟，而且随着深度学习框架的出现降低了入门的门槛，不需要从复杂的神经网络开始编写代码，可以根据需要选择已有的模型，通过训练得到模型参数，也可以在已有模型的基础上增加自己的layer，或者在顶端选择自己需要的分类器和优化算法；当然也正因为如此，没有什么框架是完美的，不同的框架适用的领域不完全一致；总的来说深度学习框架提供了一系列的深度学习的组件(对于通用的算法，里面会有实现)，当需要使用新的算法的时候就需要用户自己去定义，然后调用深度学习框架的函数接口使用用户自定义的新算法。因此，目前大多数时候是可以直接复制现有的算法模型来使用的。
[0003]传统的应用程序从远程服务器上复制拉取算法模型的方式有：1.使用手工复制粘贴的方式将算法模型从人工智能算法模型训练服务器上复制到需要使用该算法模型的终端设备上；2.登录终端设备利本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于人工智能算法模型远程批量部署系统，其特征在于：它包括算法模型管理服务器、多个算法模型部署节点服务器、多个终端设备、算法模型存储库；所述算法模型管理服务器用于管理多个算法模型部署节点服务器，并通过两种方式配置算法模型部署节点服务器的节点服务；所述算法模型部署节点服务器用于执行批量下发部署算法模型到多个终端设备的作业任务；所述终端设备用于接收所述算法模型部署节点服务器下发部署的算法模型并使用；所述算法模型存储库用于存储算法模型文件，并被多个算法模型部署节点服务器调用拉取和推送。2.根据权利要求1所述的一种用于人工智能算法模型远程批量部署系统，其特征在于：所述算法模型管理服务器包括任务进度收集模块和部署任务分配模块；所述部署任务分配模块用于查询各个算法模型部署节点服务器的性能情况，按照性能积分进行排序，并优先将任务发布到性能状态最好的算法模型部署节点服务器上执行任务；所述任务进度收集模块用于获取所述算法模型部署节点服务器的任务执行进度。3.根据权利要求1所述的一种用于人工智能算法模型远程批量部署系统，其特征在于：所述算法模型管理服务器通过两种方式配置算法模型部署节点服务器的节点服务包括：通过WEB界面操作算法模型部署节点服务器的节点服务信息；算法模型部署节点服务器的节点服务启动时自动将节点服务器配置信息传输到算法模型管理服务器中，算法模型管理服务器根据现有算法模型部署节点服务器的节点服务进行修改、增加相关服务节点信息。4.根据权利要求1所述的一种用于人工智能算法...

【专利技术属性】
技术研发人员：孟莹，罗凯，
申请(专利权)人：成都云图睿视科技有限公司，
类型：发明
国别省市：