【技术实现步骤摘要】
本公开属于通信,尤其涉及一种ai模型调度方法、系统及装置。
技术介绍
1、一方面,随着人工智能技术的高速发展,生成式ai、通用大模型、行业大模型等逐渐成熟,并走进人们的日常生活。另一方面,随着移动通信技术的发展,移动通信已成为生产生活密不可分的一部分。5g、5g-a大带宽、低时延、广连接等特点天然适应ai技术应用需求,如何结合两者,进一步提升社会生产力,逐步赋能千行百业,已成为重点探索方向。
2、当前移动通信网边缘智算的网络架构可分为如下四种:
3、第1种:边缘智算算力由移动用户终端提供,在移动终端本地部署边缘推理模型;
4、第2种:边缘智算算力设置在边缘数据中心(如:地市机房、园区机房)内,用户通过移动通信网络访问对应dn(data network,数据网络)获取边缘智算业务;
5、第3种:智算算力与移动通信网络网关(如:upf(user plane function,用户面功能))相结合,如mec(mobile edge computing,移动边缘计算)技术;
6、第4种
...【技术保护点】
1.一种AI模型调度方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.一种AI模型调度方法,其特征在于,所述方法包括:
4.根据权利要求3所述的方法,其特征在于,拜访地AI能力管理模块向部署地AI能力管理模块发送AI模型调度业务请求,包括:
5.根据权利要求3或4所述的方法,其特征在于,在部署地AI能力应用模块利用智算业务标识和智算模型标识选择智算模型,将选择的智算模型副本传递给拜访地AI能力应用模块之后,所述方法还包括:
6.根据权利要求3或4所述的方法,其特征在于,
...【技术特征摘要】
1.一种ai模型调度方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.一种ai模型调度方法,其特征在于,所述方法包括:
4.根据权利要求3所述的方法,其特征在于,拜访地ai能力管理模块向部署地ai能力管理模块发送ai模型调度业务请求,包括:
5.根据权利要求3或4所述的方法,其特征在于,在部署地ai能力应用模块利用智算业务标识和智算模型标识选择智算模型,将选择的智算模型副本传递给拜访地ai能力应用模块之后,所述方法还包括:
6.根据权利要求3或4所述的方法,其特征在于,拜访地ai能力管理模块利用以下两种方式中的任一种进行寻址:
7.一种ai模型调度方法,其特征在于,应用在拜访地ai能力管理模块,包括:
8.根据权利要求7所述的方法,其特征在于,在确定拜访地业务传送通道用户面网元和部署地业务传送通道用户面网元为不同网元时,转发拜访地业务传送通道控制面网元发送的第二核心网隧道信息至拜访地ai能力应用模块,转发第三核心网隧道信息至部署地ai能力应用模块,其中,第三核心网隧道信息是部署地业务传送通道用户面网元端的核心网隧道信息。
9.一种ai模型调度方法,其特征在于,应用在拜访地ai能力管理模块,包括:
10.根据权利要求9所述的方法,其特征在于,还包括:
11.根据权利要求9或10所述的方法,其特征在于,利用以下两种方式种的任一种进行寻址:
12.一种ai模型调度方法,其特征在于,应用在拜访地ai能力应用模块,包括:
13.一种ai模型调度方法,其特征在于,应用在拜访地业务传送通道控制面网元,在进行同区调度时,所述方法包括:
14.根据权利要求13所述的方法,其特征在于,所述方法还包括:
15.一种ai模型调度方法,其特征在于,应用在拜访地业务传送通道控制面网元,在进行跨区调度时,所述方法包括:
16.一种ai模型调度方法,其特征在于,应用在部署地ai能力应用模块,在进行同区调度时,包括:
17.根据权利要求16所述的方法,其特征在于,在确定拜访地业务传送通道用户面网元和部署地业务传送通道用户面网元不为同一网元时,接收拜访地ai能力管理模块发送的第三核心网隧道信息,其中,第三核心网隧道信息是部署地业务传送通道用户面网元端的核心网隧道信息。
18.一种ai模型调度方法,其特征在于,应用在部署地ai能力应用模块,在进行跨区调度时,包括:...
【专利技术属性】
技术研发人员:徐远思,刘小刚,王雪涵,袁朋,蒋英豪,毕猛,田彦豪,陈小奎,李斯博,朱佳,吕正春,侯彦庄,吴迪,
申请(专利权)人:中国铁塔股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。