一种基于时间序列预测的并行策略调整系统及方法技术方案

技术编号:43413307 阅读:17 留言:0更新日期:2024-11-22 17:49
本发明专利技术涉及一种基于时间序列预测的并行策略调整系统及方法,属于数据处理技术领域,包括获取前端业务请求,将前端业务请求加入任务队列;配置时间粒度,建立时间序列预测模型,根据时间粒度运行时间序列预测模型,预测下一时间窗口的业务请求数量;根据预测的业务请求数量选择GPU并行策略;基于选定的GPU并行策略生成工作线程,从任务队列中取出前端业务请求,执行前端业务请求的并行计算任务,通过时间序列预测模型预测业务请求数量选择合适的GPU并行策略,使计算资源能够根据前端业务请求量的变化灵活配置,避免资源浪费,能够在前端业务请求量较少时加速处理速度,在前端业务请求量较多时保证每个请求的响应速度。

【技术实现步骤摘要】

本专利技术涉及数据处理,具体涉及一种基于时间序列预测的并行策略调整系统及方法


技术介绍

1、随着人工智能技术的快速发展,gpu因其强大的并行计算能力得到了广泛应用。与传统的cpu相比,gpu拥有成千上万个核心,能够同时处理大量数据,极大地加速了机器学习和深度神经网络的训练过程。因此,gpu成为了推动人工智能发展的关键技术之一,无论是在自动驾驶汽车、语音识别、图像分析还是复杂的科学计算中,gpu都提供了必要的计算动力。

2、然而,在实际业务场景中,gpu处理计算前端业务请求量时,前端业务请求量往往存在波动,由于无法检测前端业务请求的数量而导致无法对并行策略做一个很好的调整,导致计算资源利用不充分或响应速度下降,如cn115248728a面向智能计算的分布式训练任务调度方法、系统和装置中的根据各子任务的资源消耗信息及多个所述计算节点的gpu运行情况,将各子任务分配到匹配的计算节点的gpu进行训练,并构建各子任务之间的通信拓扑,并在各计算节点的gpu训练对应子任务的过程中,监控各计算节点的gpu的计算资源运行情况,以及根据所有计算节点的gpu的计算本文档来自技高网...

【技术保护点】

1.一种基于时间序列预测的并行策略调整系统,其特征在于,包括:

2.根据权利要求1所述的基于时间序列预测的并行策略调整系统,其特征在于,所述并行策略调整模块中,基于所述业务请求数量计算前端业务请求的总处理时间,判断所述总处理时间与阈值大小关系选择GPU并行策略:

3.根据权利要求1所述的基于时间序列预测的并行策略调整系统,其特征在于,所述并行策略调整模块还包括:基于所述业务请求数量的大小自动调整所述GPU并行策略为第一GPU并行策略或第二GPU并行策略。

4.根据权利要求2所述的基于时间序列预测的并行策略调整系统,其特征在于,所述总处理时间基于如下计算...

【技术特征摘要】

1.一种基于时间序列预测的并行策略调整系统,其特征在于,包括:

2.根据权利要求1所述的基于时间序列预测的并行策略调整系统,其特征在于,所述并行策略调整模块中,基于所述业务请求数量计算前端业务请求的总处理时间,判断所述总处理时间与阈值大小关系选择gpu并行策略:

3.根据权利要求1所述的基于时间序列预测的并行策略调整系统,其特征在于,所述并行策略调整模块还包括:基于所述业务请求数量的大小自动调整所述gpu并行策略为第一gpu并行策略或第二gpu并行策略。

4.根据权利要求2所述的基于时间序列预测的并行策略调整系统,其特征在于,所述总处理时间基于如下计算模型计算得到:

5.根据权利要求2或4所述的基于时间序列预测的并行策略调整系统,其特征在于,所述阈值s的计算公式为:

【专利技术属性】
技术研发人员:宋佳颖张强强俞茂学苏亮徐言坤张澜
申请(专利权)人:青岛国实科技集团有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1