一种基于公有云的AIGC训练任务的分配方法和系统技术方案

技术编号:41251704 阅读:23 留言:0更新日期:2024-05-09 23:59
本申请提供了一种基于公有云的AIGC训练任务的分配方法和系统;其中,AIGC训练任务的分配方法包括:获取AIGC模型的AIGC训练任务,根据AIGC训练任务的任务发起强度和日均访问次数,划分AIGC训练任务的发起用户的用户等级;使用DRS算法,根据GPU裸金属服务器的资源使用情况,对AIGC训练任务对应的服务器主机和虚拟机分别进行评分,分别得到主机评分和虚拟机评分;根据主机评分和虚拟机评分,设置AIGC训练任务对应的虚拟机迁移建议敏感度;根据用户等级和虚拟机迁移建议敏感度,向AIGC训练任务分配服务器算力,执行AIGC训练任务对应的虚拟机迁移操作。本申请的技术方案能解决现有技术难以进行灵活的AIGC训练任务分配,服务器负载分布不均衡的问题。

【技术实现步骤摘要】

本申请涉及生成式人工智能,尤其涉及一种基于公有云的aigc训练任务的分配方法和系统。


技术介绍

1、aigc(artificial intelligence generated content,生成式人工智能)是指基于生成对抗网络或大型预训练模型等人工智能的技术方法,通过已有数据的学习和识别,以适当的泛化能力生成相关内容的技术。

2、aigc技术的核心思想是利用人工智能算法生成具有一定创意和质量的内容。通过训练模型和大量数据的学习,aigc能够根据输入的条件或指导,生成与之相关的内容。aigc的训练需要选择对应的训练模型,为了实现快速高效的aigc,需要配备高性能的aigc训练模型用gpu服务器。每一aigc训练模型都存在大量的aigc训练任务,这对gpu服务器的性能提出了更高要求。

3、传统背景下,aigc的训练任务多,数据量大,导致难以进行灵活的aigc训练任务的分配,进而导致gpu裸金属服务器负载量大,任务繁多,出现多个服务器中,一些服务器利用率过高,一些服务器过于空闲的情况。综上,一个灵活的aigc的训练任务分配机制在此刻显本文档来自技高网...

【技术保护点】

1.一种基于公有云的AIGC训练任务的分配方法,其特征在于,包括:

2.根据权利要求1所述的AIGC训练任务的分配方法,其特征在于,所述根据所述AIGC训练任务的任务发起强度和日均访问次数,划分所述AIGC训练任务对应发起用户的用户等级的步骤,包括:

3.根据权利要求1所述的AIGC训练任务的分配方法,其特征在于,所述使用DRS算法,根据GPU裸金属服务器的资源使用情况,对所述AIGC训练任务对应的服务器主机和虚拟机分别进行评分,分别得到主机评分和虚拟机评分的步骤,包括:

4.根据权利要求1所述的AIGC训练任务的分配方法,其特征在于,所述使用DRS算...

【技术特征摘要】

1.一种基于公有云的aigc训练任务的分配方法,其特征在于,包括:

2.根据权利要求1所述的aigc训练任务的分配方法,其特征在于,所述根据所述aigc训练任务的任务发起强度和日均访问次数,划分所述aigc训练任务对应发起用户的用户等级的步骤,包括:

3.根据权利要求1所述的aigc训练任务的分配方法,其特征在于,所述使用drs算法,根据gpu裸金属服务器的资源使用情况,对所述aigc训练任务对应的服务器主机和虚拟机分别进行评分,分别得到主机评分和虚拟机评分的步骤,包括:

4.根据权利要求1所述的aigc训练任务的分配方法,其特征在于,所述使用drs算法,根据gpu裸金属服务器的资源使用情况,对所述aigc训练任务对应的服务器主机和虚拟机分别进行评分,分别得到主机评分和虚拟机评分的步骤,包括:

5.根据权利要求4所述的aigc训练任务...

【专利技术属性】
技术研发人员:顾斌刘涛于中阳王亚菁
申请(专利权)人:上海极目银河数字科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1