一种数据处理的方法、数据处理装置和电子设备制造方法及图纸

本公开涉及一种数据处理的方法、数据处理装置和电子设备。其中该数据处理装置可以包括在组合处理装置中，该组合处理装置还可以包括通用互联接口和其他处理装置。该数据处理装置与其他处理装置进行交互，共同完成用户指定的计算操作。组合处理装置还可以包括存储装置，该存储装置分别与数据处理装置和其他处理装置连接，用于数据处理装置和其他处理装置的数据服务。借助于本公开的内容，可以避免数据处理装置内部的逐级反馈，保证数据处理装置在单条管道模型中实现最大程度的无阻塞。

A data processing method, data processing device and electronic equipment

【技术实现步骤摘要】
一种数据处理的方法、数据处理装置和电子设备
本公开涉及计算机领域，更具体地涉及一种数据处理的方法、数据处理装置和电子设备。
技术介绍
在现有的多核并行方案中需要通过设置模型并行度(mp)、数据并行度(dp)、多线程(multi-thread)、网络结构参数(n)四个参数来实现，现有的多核并行计算的设置方式参数复杂，对用户不够友好。具体情况如下：例如在图1中示出了现有技术的多核并行的技术方案100。数据提供器102(dataprovider)负责准备输入数据，推理机104(inferencer)进行数据处理，然后把处理完的数据传递出去，即传递给后处理器106(postprocessor)。但是推理机104传递完了之后还要等待后处理器106处理的结果。等后处理器106处理结果出来之后，后处理器106才告诉推理机104数据处理完毕。推理机104然后从数据提供器102再拿数据，继续进行上述的操作。后处理器106负责收集处理结果，处理完以后把处理结果传递回去让推理机104继续向后处理器106传递数据。当前管道模型(pipeline)的问题在于推理本文档来自技高网...

【技术保护点】
1.一种数据处理的方法，包括：/n将数据提供器、具有多核的推理机、后处理器依次布置在同一管道模型中；/n所述后处理器将具有多核的所述推理机并行处理后的数据分叉到相应的工作线程进行后处理，并将后处理得到的反馈数据流经由相应的反馈部件反馈至所述数据提供器。/n

【技术特征摘要】
1.一种数据处理的方法，包括：
将数据提供器、具有多核的推理机、后处理器依次布置在同一管道模型中；
所述后处理器将具有多核的所述推理机并行处理后的数据分叉到相应的工作线程进行后处理，并将后处理得到的反馈数据流经由相应的反馈部件反馈至所述数据提供器。


2.根据权利要求1所述的数据处理的方法，所述推理机根据核的数量将输入数据流拆分至所述多核的相应核上进行并行处理。


3.根据权利要求2所述的数据处理的方法，其中所述推理机上设置的所述多核中的任一个核空闲的情况下，将来自所述数据提供器的输入数据流的数据进行处理，并且在所述推理机上设置的所述多核中的任一个核处理完成的情况下，将所述核上处理后的数据传递给所述后处理器。


4.根据权利要求3所述的数据处理的方法，其中所述反馈部件包括：
流线、输出缓存器、输入缓存器。


5.根据权利要求1-4中任一项所述的数据处理的方法，其中所述多核包括图形处理器、语音处理器、现场可编程门阵列和/或专用数据处理装置。


6.根据权利要求5所述的数据处理的方法，其中所述数据提供器和后处理器布置在中央处理器中，所述具有多核的推理机布置在具有多核的机器学习芯片上。


7.根据权利要求6所述的数据处理的方法，其中管道模型的任务并发度为所述机器学习芯片上的总核数量除以所述推理机上设置的核数量。


8.一种数据处理装置，包括：
依次...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：中科寒武纪科技股份有限公司，
类型：发明
国别省市：北京;11