【技术实现步骤摘要】
本申请涉及数据读写,特别是涉及一种本地数据的存取调度方法、存取调度装置以及计算机存储介质。
技术介绍
1、随着ai(人工智能,artificial intelligence)技术的广泛应用,模型越来越大,数据越来越多;这自然对算力要求越来越高,尤其是训练场景。然而,受工艺和功耗等限制,单颗soc(system on chip,片上系统)芯片,如ai专用芯片、gpu(图形处理器,graphicsprocessing unit)等的算力已不能满足需求。所以,多颗芯片联合工作,如多卡gpu分布式训练以提高算力是业界通用的方式。分布式架构中多个gpu之间的通信方式分为点对点通信(point-to-point communication)和聚合通信(collective communication)。相比点对点通信(如send和isend等)的1个sender对应1个receiver而导致的通信效率降低,聚合通信(如broadcast,scatter,gather,reduce,all-reduce,reduce-scatter,all-to-a
...【技术保护点】
1.一种本地数据的存取调度方法,其特征在于,所述存取调度方法应用于一种处理器,所述存取调度方法包括:
2.根据权利要求1所述的存取调度方法,其特征在于,
3.根据权利要求2所述的存取调度方法,其特征在于,
4.根据权利要求1所述的存取调度方法,其特征在于,
5.根据权利要求4所述的存取调度方法,其特征在于,
6.根据权利要求5所述的存取调度方法,其特征在于,
7.一种本地数据的存取调度方法,其特征在于,所述存取调度方法应用于一种处理器系统,其中,所述处理器系统至少包括第一处理器、第二处理器以及第三
...【技术特征摘要】
1.一种本地数据的存取调度方法,其特征在于,所述存取调度方法应用于一种处理器,所述存取调度方法包括:
2.根据权利要求1所述的存取调度方法,其特征在于,
3.根据权利要求2所述的存取调度方法,其特征在于,
4.根据权利要求1所述的存取调度方法,其特征在于,
5.根据权利要求4所述的存取调度方法,其特征在于,
6.根据权利要求5所述的存取调度方法,其特征在于,
7.一种本地数据的存取调度方法,其特...
【专利技术属性】
技术研发人员:刘文龙,冷祥纶,占惠花,刘晨,
申请(专利权)人:上海阵量智能科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。