System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 算力资源处理方法、装置、存储介质及电子设备制造方法及图纸_技高网

算力资源处理方法、装置、存储介质及电子设备制造方法及图纸

技术编号:40121043 阅读:8 留言:0更新日期:2024-01-23 20:39
本申请公开了一种算力资源处理方法、装置、存储介质及电子设备,涉及人工智能技术领域,其中方法包括:获取第一资源池内目标算法的算力资源的历史使用信息;根据历史使用信息,预测第一资源池内目标算法的算力资源的调用高峰时间段;确定在调用高峰时间段内针对目标算法具有空闲算力资源的第二资源池;利用第二资源池中的空闲算力资源,在调用高峰时间段到来前对第一资源池进行资源扩容。本申请的技术方案通过提前分析并利用调用高峰时间段内有空闲算力资源的第二资源池对第一资源池进行资源扩容,极大的提升了空闲资源池内的算法利用率,降低了调用高峰时间段内第一资源池的算法服务压力,提升了用户的使用体验感。

【技术实现步骤摘要】

本申请涉及人工智能(artificial intelligence,ai),尤其涉及一种算力资源处理方法、装置、存储介质及电子设备


技术介绍

1、随着ai技术的发展,ai算法越来越丰富,如文字识别、卡证识别、短视频分析算法等等。当这些ai算法想给用户提供全网的能力调用时,会将这些ai算法的算力资源分别部署在不同地域的资源池。

2、目前,每个资源池都部署对应的网关,每个网关各自有一个独立的域名访问地址。用户根据所在区域调用对应的域名访问地址进行ai算法调用,网关再将对应的调用转发给具体的ai算法服务。

3、然而,资源池中的算力资源有限,如果某个域名访问地址的资源池中的算力资源紧张,会造成该域名访问地址的ai算法调用的延迟较高,影响了用户的使用体验。


技术实现思路

1、有鉴于此,本申请提供了一种算力资源处理方法、装置及电子设备,主要目的在于改善当算法调用处于高峰期时,资源池中算力资源紧张,算法调用延迟较高,影响用户体验的技术问题。

2、第一方面,本申请提供了一种算力资源处理方法,包括:

3、获取第一资源池内目标算法的算力资源的历史使用信息;

4、根据所述历史使用信息,预测所述第一资源池内目标算法的算力资源的调用高峰时间段;

5、确定在所述调用高峰时间段内针对所述目标算法具有空闲算力资源的第二资源池;

6、利用所述第二资源池中的空闲算力资源,在所述调用高峰时间段到来前对所述第一资源池进行资源扩容。>

7、第二方面,本申请提供了一种算力资源处理装置,包括:

8、获取模块,被配置为获取第一资源池内目标算法的算力资源的历史使用信息;

9、预测模块,被配置为根据所述历史使用信息,预测所述第一资源池内目标算法的算力资源的调用高峰时间段;

10、确定模块,被配置为确定在所述调用高峰时间段内针对所述目标算法具有空闲算力资源的第二资源池;

11、扩容模块,被配置为利用所述第二资源池中的空闲算力资源,在所述调用高峰时间段到来前对所述第一资源池进行资源扩容。

12、第三方面,本申请提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现第一方面所述的方法。

13、第四方面,本申请提供了一种电子设备,包括存储介质、处理器及存储在存储介质上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现第一方面所述的方法。

14、借由上述技术方案,本申请提供的一种算力资源处理方法、装置、存储介质及电子设备,首先获取第一资源池内目标算法的算力资源的历史使用信息;再根据历史使用信息,预测第一资源池内目标算法的算力资源的调用高峰时间段;确定在调用高峰时间段内针对目标算法具有空闲算力资源的第二资源池;然后利用第二资源池中的空闲算力资源,在调用高峰时间段到来前对第一资源池进行资源扩容。与目前现有技术相比,本申请提出了一种针对多资源池目标算法全网调用的优化设计方案,提前分析预测第一资源池内目标算法的算力资源的调用高峰时间段,并利用调用高峰时间段内有空闲算力资源的第二资源池对第一资源池进行资源扩容,极大的提升了空闲资源池内的算法利用率,降低了调用高峰时间段内第一资源池的算法服务压力,提升了用户的使用体验感。

15、上述说明仅是本申请技术方案的概述,为了能够更清楚了解本申请的技术手段,而可依照说明书的内容予以实施,并且为了让本申请的上述和其它目的、特征和优点能够更明显易懂,以下特举本申请的具体实施方式。

本文档来自技高网...

【技术保护点】

1.一种算力资源处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述历史使用信息包括算力资源在历史不同时间分别对应的使用指标;

3.根据权利要求2所述的方法,其特征在于,所述利用所述第二资源池中的空闲算力资源,在所述调用高峰时间段到来前对所述第一资源池进行资源扩容,包括:

4.根据权利要求3所述的方法,其特征在于,在所述利用所述第二资源池中的空闲算力资源,在所述调用高峰时间段到来前对所述第一资源池进行资源扩容之后,所述方法还包括:

5.根据权利要求3所述的方法,其特征在于,所述方法还包括:

6.根据权利要求5所述的方法,其特征在于,所述目标算法为异步类算法,转发的所述调用请求中携带有所述第一资源池的标志位;

7.根据权利要求1至6中任一项所述的方法,其特征在于,所述确定在所述调用高峰时间段内针对所述目标算法具有空闲算力资源的第二资源池,包括:

8.一种算力资源处理装置,其特征在于,包括:

9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法。

10.一种电子设备,包括存储介质、处理器及存储在存储介质上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的方法。

...

【技术特征摘要】

1.一种算力资源处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述历史使用信息包括算力资源在历史不同时间分别对应的使用指标;

3.根据权利要求2所述的方法,其特征在于,所述利用所述第二资源池中的空闲算力资源,在所述调用高峰时间段到来前对所述第一资源池进行资源扩容,包括:

4.根据权利要求3所述的方法,其特征在于,在所述利用所述第二资源池中的空闲算力资源,在所述调用高峰时间段到来前对所述第一资源池进行资源扩容之后,所述方法还包括:

5.根据权利要求3所述的方法,其特征在于,所述方法还包括:

6.根据权利要求5所述的方法,其特征...

【专利技术属性】
技术研发人员:徐伟
申请(专利权)人:中移苏州软件技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1