【技术实现步骤摘要】
本专利技术涉及数据处理,具体涉及一种基于时间序列预测的并行策略调整系统及方法。
技术介绍
1、随着人工智能技术的快速发展,gpu因其强大的并行计算能力得到了广泛应用。与传统的cpu相比,gpu拥有成千上万个核心,能够同时处理大量数据,极大地加速了机器学习和深度神经网络的训练过程。因此,gpu成为了推动人工智能发展的关键技术之一,无论是在自动驾驶汽车、语音识别、图像分析还是复杂的科学计算中,gpu都提供了必要的计算动力。
2、然而,在实际业务场景中,gpu处理计算前端业务请求量时,前端业务请求量往往存在波动,由于无法检测前端业务请求的数量而导致无法对并行策略做一个很好的调整,导致计算资源利用不充分或响应速度下降,如cn115248728a面向智能计算的分布式训练任务调度方法、系统和装置中的根据各子任务的资源消耗信息及多个所述计算节点的gpu运行情况,将各子任务分配到匹配的计算节点的gpu进行训练,并构建各子任务之间的通信拓扑,并在各计算节点的gpu训练对应子任务的过程中,监控各计算节点的gpu的计算资源运行情况,以及根据所有计
...【技术保护点】
1.一种基于时间序列预测的并行策略调整系统,其特征在于,包括:
2.根据权利要求1所述的基于时间序列预测的并行策略调整系统,其特征在于,所述并行策略调整模块中,基于所述业务请求数量计算前端业务请求的总处理时间,判断所述总处理时间与阈值大小关系选择GPU并行策略:
3.根据权利要求1所述的基于时间序列预测的并行策略调整系统,其特征在于,所述并行策略调整模块还包括:基于所述业务请求数量的大小自动调整所述GPU并行策略为第一GPU并行策略或第二GPU并行策略。
4.根据权利要求2所述的基于时间序列预测的并行策略调整系统,其特征在于,所述总
...【技术特征摘要】
1.一种基于时间序列预测的并行策略调整系统,其特征在于,包括:
2.根据权利要求1所述的基于时间序列预测的并行策略调整系统,其特征在于,所述并行策略调整模块中,基于所述业务请求数量计算前端业务请求的总处理时间,判断所述总处理时间与阈值大小关系选择gpu并行策略:
3.根据权利要求1所述的基于时间序列预测的并行策略调整系统,其特征在于,所述并行策略调整模块还包括:基于所述业务请求数量的大小自动调整所述gpu并行策略为第一gpu并行策略或第二gpu并行策略。
4.根据权利要求2所述的基于时间序列预测的并行策略调整系统,其特征在于,所述总处理时间基于如下计算模型计算得到:
5.根据权利要求2或4所述的基于时间序列预测的并行策略调整系统,其特征在于,所述阈值s的计算公式为:
【专利技术属性】
技术研发人员:宋佳颖,张强强,俞茂学,苏亮,徐言坤,张澜,
申请(专利权)人:青岛国实科技集团有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。