一种提供AI模型服务的方法和AI模型服务平台技术

技术编号:43967281 阅读:30 留言:0更新日期:2025-01-10 19:56
本申请实施例提供了一种AI模型服务的方法和AI模型服务平台,该方法包括:接收用户的第一需求任务;获取该第一需求任务的第一分类信息,该第一分类信息包括第一需求任务的应用领域返分类结果和/或复杂程度的分类结果;根据该第一分类信息,从该一个或者多个AI模型中确定解决该第一需求任务的第一AI模型;使用该第一AI模型处理该第一需求任务;根据该第一AI模型,确定该用户的计费信息。本申请的技术方案在保证了AI模型处理结果准确度的情况下,节省了AI模型运行的成本,提高了用户使用AI模型的体验。

【技术实现步骤摘要】

本申请实施例涉及人工智能(artificial intelligence,ai)领域,并且更具体地,涉及一种提供ai模型服务的方法和ai模型服务平台。


技术介绍

1、现阶段,ai模型先后经历了预训练模型、大规模预训练模型、超大规模预训练模型三个阶段,ai模型的参数规模持续提升,参数量实现了从亿级到万亿级的突破。目前参数规模超过千亿级的ai大模型逐渐成为主流。

2、一般来说,ai大模型的参数量越多,则模型的预测结果就更准确,但是调用以及运行ai大模型的成本就越高,提供给用户的收费价格就越高,导致用户的使用体验较差。此外,ai大模型处理的任务种类很多,对于不同
的需求任务,ai大模型的处理结果各有优劣。因此,如何既节省提供ai模型服务时的成本又能提升用户的使用体验,成为一个亟待解决的问题。


技术实现思路

1、本申请提供一种提供ai模型服务的方法和装置,通过获取用户提供的需求任务的分类信息,确定对应的ai模型,在保证了ai模型处理结果准确度的情况下,节省了ai模型运行的成本,提高了用户使用ai模型本文档来自技高网...

【技术保护点】

1.一种提供人工智能AI模型服务的方法,其特征在于,所述方法应用于提供一个或者多个AI模型的AI模型服务平台,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述第一AI模型,确定所述用户的计费信息包括:

3.根据权利要求2所述的方法,其特征在于,在所述历史需求任务为所述第一需求任务之前已解决的需求任务的情况下,所述根据所述一个或者多个历史AI模型和所述第一AI模型,确定所述用户的计费信息,包括:

4.根据权利要求2所述的方法,其特征在于,在所述历史需求任务包括所述第一需求任务的情况下,所述一个或者多个历史AI模型包括所述第一AI模型...

【技术特征摘要】

1.一种提供人工智能ai模型服务的方法,其特征在于,所述方法应用于提供一个或者多个ai模型的ai模型服务平台,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述第一ai模型,确定所述用户的计费信息包括:

3.根据权利要求2所述的方法,其特征在于,在所述历史需求任务为所述第一需求任务之前已解决的需求任务的情况下,所述根据所述一个或者多个历史ai模型和所述第一ai模型,确定所述用户的计费信息,包括:

4.根据权利要求2所述的方法,其特征在于,在所述历史需求任务包括所述第一需求任务的情况下,所述一个或者多个历史ai模型包括所述第一ai模型,所述根据所述一个或者多个历史ai模型,确定所述用户的计费信息,包括:

5.根据权利要求2至4中任一项所述的方法,其特征在于,所述历史ai模型包括指定周期内或者指定任务数量内的所有解决需求任务的ai模型。

6.根据权利要求1至5中任一项所述的方法,其特征在于,在所述第一分类信息包括所述第一需求任务的复杂程度的分类结果时,所述第一ai模型的规模程度与所述第一需求任务的复杂程度的分类结果呈正相关。

7.根据权利要求6所述的方法,其特征在于,所述根据所述第一分类信息,从所述一个或者多个ai模型中确定解决所述第一需求任务的第一ai模型,包括:

8.根据权利要求1至7中任一项所述的方法,其特征在于,所述接收用户的第一需求任务包括:

9.根据权利要求1至8中任一项所述的方法,其特征在于,所述获取所述第一需求任务的第一分类信息包括:

10.根据权利要求9所述的方法,其特征在于,所述第二ai模型是所述一个或者多个ai模型中的其中一个ai模型。

11.根据权利要求1至10中任一项所述的方法,其特征在于,所述一个或者多个ai模型为语言模型。

12.一种ai模型服务平台,其特征在于,所述ai模型服务平台提供一个或者多个ai模型,所述ai模型服务平台包括:

13.根据权利要求12所述的ai模型服...

【专利技术属性】
技术研发人员:杨奕
申请(专利权)人:华为云计算技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1