算力任务处理方法、装置、电子设备及存储介质制造方法及图纸

技术编号:41763446 阅读:19 留言:0更新日期:2024-06-21 21:43
本申请提供了一种算力任务处理方法、装置、电子设备及存储介质。方法包括:根据算力任务的算力请求信息,确定算力任务的多个算力子任务,及多个算力子任务中每个算力子任务的算力需求信息;根据每个算力子任务的所述算力需求信息,确定每个算力子任务对应的目标算力网元;根据目标算力网元,确定每个算力子任务的算力路由策略;将每个算力子任务和每个算力子任务的算力路由策略发送至目标算力网元对应的转发网元,以由转发网元根据算力路由策略将算力子任务转发至对应的目标算力网元进行处理,并转发每个算力子任务的处理结果。本申请可以在实现算力并行计算的基础上,避免造成通信开销和延迟、负载不均衡或计算冗余的问题。

【技术实现步骤摘要】

本申请涉及算力处理,特别是涉及一种算力任务处理方法、装置、电子设备及存储介质


技术介绍

1、算力并行计算是一种将计算任务分布到多个计算设备或节点上进行同时或交替执行的方法,可以提高计算效率和吞吐量。算力并行计算的实现方式和策略取决于计算任务的特点、计算设备的性能、计算网络的拓扑等因素。目前,常见的算力并行计算的实现方式包括:

2、1、网络结构分布到不同的设备中:这种方式是将一个复杂的计算模型或网络拆分成多个部分,然后将不同的部分分配给不同的设备进行计算,例如将一个深度神经网络的不同层分配给不同的gpu进行计算。此种方式需要在设备之间进行频繁的数据传输和同步,可能造成通信开销和延迟的问题。

3、2、不同的数据分布到不同的设备中,执行相同的任务:这种方式是将一个计算模型或网络的输入数据划分成多个部分,然后将不同的部分分配给不同的设备进行相同的计算,例如将一个批量的图像数据划分成多个小批量,然后将不同的小批量分配给不同的gpu进行相同的深度神经网络的计算。此种方式无法保证数据的划分和汇总的准确性和一致性。

r/>

技本文档来自技高网...

【技术保护点】

1.一种算力任务处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述将每个所述算力子任务和每个所述算力子任务的算力路由策略发送至所述目标算力网元对应的转发网元,包括:

3.根据权利要求1所述的方法,其特征在于,所述根据算力任务的算力请求信息,确定所述算力任务的多个算力子任务,及多个所述算力子任务种每个算力子任务的算力需求信息,包括:

4.根据权利要求1所述的方法,其特征在于,所述根据每个算力子任务的所述算力需求信息,确定每个所述算力子任务对应的目标算力网元,包括:

5.根据权利要求1所述的方法,其特征在于,多...

【技术特征摘要】

1.一种算力任务处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述将每个所述算力子任务和每个所述算力子任务的算力路由策略发送至所述目标算力网元对应的转发网元,包括:

3.根据权利要求1所述的方法,其特征在于,所述根据算力任务的算力请求信息,确定所述算力任务的多个算力子任务,及多个所述算力子任务种每个算力子任务的算力需求信息,包括:

4.根据权利要求1所述的方法,其特征在于,所述根据每个算力子任务的所述算力需求信息,确定每个所述算力子任务对应的目标算力网元,包括:

5.根据权利要求...

【专利技术属性】
技术研发人员:谢文龙刘必龙杨春晖王艳辉
申请(专利权)人:视联动力信息技术股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1