应用于分布式系统的数据处理方法及装置、设备和介质制造方法及图纸

技术编号:43091574 阅读:24 留言:0更新日期:2024-10-26 09:38
本公开提供了一种应用于分布式系统的数据处理方法及装置、设备和介质,涉及计算机技术领域,尤其涉及芯片技术和分布式数据处理技术领域。实现方案为:针对待处理数据包括的多个数据块中的每个数据块,将该数据块划分为与所述多个计算单元组分别对应的多个第一子块;基于与该数据块对应的目标计算单元组,将所述多个第一子块中的每个第一子块划分为与所述目标计算单元组中的多个计算单元分别对应的多个第二子块;通过利用每个第二子块相应的计算单元处理该第二子块,确定所述多个计算单元分别输出的多个第一处理结果;以及通过利用所述目标计算单元组执行针对所述多个第一处理结果的数据归约操作,确定该数据块的处理结果。

【技术实现步骤摘要】

本公开涉及计算机,尤其涉及芯片技术和分布式数据处理,具体涉及一种应用于分布式系统的数据处理方法、装置、电子设备、计算机可读存储介质和计算机程序产品。


技术介绍

1、人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

2、随着人工智能技术的发展,越来越多的应用基于人工智能技术取得了远超过传统算法的效果。深度学习是数据密集型算法和计算密集型算法,为了提高大规模深度学习模型的训练速度和推理速度,可以利用包含多个计算单元或是多个计算单元组的分布式系统来执行数据处理,满足算力要求。

3、在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地,除非另有本文档来自技高网...

【技术保护点】

1.一种应用于分布式系统的数据处理方法,其中,所述分布式系统中的多个计算单元能够构成多个计算单元组,待处理数据包括多个数据块,所述方法包括:

2.如权利要求1所述的方法,其中,所述目标计算单元组中的多个计算单元构成环形拓扑,所述通过利用所述目标计算单元组执行针对所述多个第一处理结果的数据归约操作,确定该数据块的处理结果包括:

3.如权利要求2所述的方法,其中,所述基于所述目标计算单元组中的多个计算单元在所述环形拓扑中的排列顺序,依次累加每个计算单元相应的第一处理结果包括:

4.如权利要求1-3中任一项所述的方法,其中,所述待处理数据是利用特征编码网络得...

【技术特征摘要】

1.一种应用于分布式系统的数据处理方法,其中,所述分布式系统中的多个计算单元能够构成多个计算单元组,待处理数据包括多个数据块,所述方法包括:

2.如权利要求1所述的方法,其中,所述目标计算单元组中的多个计算单元构成环形拓扑,所述通过利用所述目标计算单元组执行针对所述多个第一处理结果的数据归约操作,确定该数据块的处理结果包括:

3.如权利要求2所述的方法,其中,所述基于所述目标计算单元组中的多个计算单元在所述环形拓扑中的排列顺序,依次累加每个计算单元相应的第一处理结果包括:

4.如权利要求1-3中任一项所述的方法,其中,所述待处理数据是利用特征编码网络得到的,并且其中,所述待处理数据包括的多个数据块是利用如下的划分操作得到的:基于所述特征编码网络的输出维数,将所述待处理数据划分为大小相同的多个数据块。

5.如权利要求4所述的方法,其中,基于所述特征编码网络的输出维数,将所述待处理数据划分为大小相同的多个数据块包括:基于所述特征编码网络的输出维数和所述待处理数据的数据格式,将所述待处理数据划分为大小相同的多个数据块。

6.一种应用于分布式系统的数据处理装置,其中,所述分布式系统中的多个计算单元能够...

【专利技术属性】
技术研发人员:张孝慈陈庆澍王勇欧阳剑
申请(专利权)人:昆仑芯北京科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1