一种云平台的大模型配置管理方法及系统技术方案

技术编号:43082720 阅读:20 留言:0更新日期:2024-10-26 09:33
本发明专利技术涉及大数据处理技术领域,具体为一种云平台的大模型配置管理方法及系统,包括以下方法:配置编写;大模型配置下发;大模型配置脚本生成及执行;采集监控信息及告警;有益效果为:本发明专利技术提出的云平台的大模型配置管理方法及系统,利用云平台资源编排管理技术自定义资源实现大模型配置的灵活加载。通过节点标签,提供统一的配置下发方法,并根据资源监控数据实时反馈给用户,方便灵活的根据监控数据指导制定配置文件。同时,在大模型发生异常时及时,通过告警及时通知运维人员。

【技术实现步骤摘要】

本专利技术涉及大数据处理,具体为一种云平台的大模型配置管理方法及系统


技术介绍

1、随着人工智能和大数据技术的快速发展,大模型(如深度学习模型)在各个领域得到了广泛应用。然而,大模型的配置管理却面临诸多挑战,如资源利用率低、性能优化困难、数据安全问题等。

2、传统的配置管理方法往往无法满足大模型在云平台上的高效、灵活和安全需求。

3、因此,有必要设计一种新型的基于云平台的大模型配置管理方法及系统。


技术实现思路

1、本专利技术的目的在于提供一种云平台的大模型配置管理方法及系统,以解决上述
技术介绍
中提出的问题。

2、为实现上述目的,本专利技术提供如下技术方案:一种云平台的大模型配置管理方法,所述方法包括以下方法:

3、配置编写;

4、大模型配置下发;

5、大模型配置脚本生成及执行;

6、采集监控信息及告警。

7、优选的,配置编写的具体操作包括:

8、在web界面查看当前各个节点监控信息,填写大模型配置信本文档来自技高网...

【技术保护点】

1.一种云平台的大模型配置管理方法,其特征在于:所述方法包括以下方法:

2.根据权利要求1所述的一种云平台的大模型配置管理方法,其特征在于:配置编写的具体操作包括:

3.根据权利要求1所述的一种云平台的大模型配置管理方法,其特征在于:大模型配置下发的具体操作包括:

4.根据权利要求1所述的一种云平台的大模型配置管理方法,其特征在于:大模型配置脚本生成及执行的具体操作包括:

5.根据权利要求1所述的一种云平台的大模型配置管理方法,其特征在于:采集监控信息及告警的具体操作包括:

6.一种云平台的大模型配置管理系统,用于权利要求1-5...

【技术特征摘要】

1.一种云平台的大模型配置管理方法,其特征在于:所述方法包括以下方法:

2.根据权利要求1所述的一种云平台的大模型配置管理方法,其特征在于:配置编写的具体操作包括:

3.根据权利要求1所述的一种云平台的大模型配置管理方法,其特征在于:大模型配置下发的具体操作包括:

4.根据权利要求1所述的一种云平台的大模型配置管理方法,其特征在于:大模型配置脚本生成及执行的具体操作包括:

5.根据权利要求1所述的一种云平台的大模型配置管理方法,其特征在于:采集监控信息及告警的具体操作包括:

6.一种云平台的大模型配置管理系统,用于权利要求1-5任意一项所述的云平台的大模型配置管理方法,其特征在于:所述系统包括大模型配置操作模块、大模型配置代理模块、数据库模块以及监控采集模块组成;

7.根据权利要求6所述的一种云平台的大模型配置管理系统,...

【专利技术属性】
技术研发人员:吕书宁薛娇朱芳娟姜建彪张忠瑞
申请(专利权)人:浪潮云信息技术股份公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1