数据搬移装置与有重叠的数据搬移方法制造方法及图纸

一种数据搬移装置与有重叠的数据搬移方法。数据搬移装置包括一个命令分割器电路以及多个小块处理电路。命令分割器电路将块级搬移命令分为多个小块搬移任务。命令分割器电路可以分多个批次派发这些小块搬移任务给这些小块处理电路。这些小块处理电路可以执行目前批次的这些小块搬移任务，而将在来源块的多个来源小块中的多个对应小块的数据读取至这些小块处理电路。在目前批次的这些小块搬移任务都已被这些小块处理电路执行后，命令分割器电路才会派发这些批次中的一个下一批次的这些小块搬移任务给这些小块处理电路。

Data moving device and overlapping data moving method

【技术实现步骤摘要】
数据搬移装置与有重叠的数据搬移方法
本专利技术是有关于一种数据处理电路，且特别是有关于一种数据搬移装置与有重叠的数据搬移方法。
技术介绍
在图形处理单元(graphicsprocessingunit，GPU)、人工智能(artificialintelligence,AI)芯片或是其他数据处理电路(装置)中，块级搬移(blockleveltransfer，BLT)是一种常见的存储器操作。块级搬移是指，在虚拟地址空间中，一个连续的存储器区域(源块)的数据整个搬移到另外一个连续的存储器区域(目的块)。图1是说明在虚拟地址空间中，没有相互重叠的来源块10和目的块20的示意图。在实现块级搬移时，数据处理电路通常会把来源块10和目的块20划分为许多固定大小的小块(tile)。如图1所示，来源块10被分为许多小块(虚线块)，而目的块20的小块的数量相同于来源块10的小块的数量。数据的搬移是基于小块去完成的。如果来源块10和目的块20之间没有地址空间重叠，那么来源块10的这些小块可以被并行地搬移至目的块20，这种并行的数据搬移不会引入任何“读后写(wr本文档来自技高网...

【技术保护点】
1.一种数据搬移装置，用以搬移有重叠的数据，包括：/n命令分割器电路，被配置为接收块级搬移命令，将所述块级搬移命令分为多个小块搬移任务，将所述多个小块搬移任务分为多个批次，以及派发所述多个批次中的目前批次的所述多个小块搬移任务；以及/n多个小块处理电路，被配置为执行所述目前批次的所述多个小块搬移任务而将在来源块的多个来源小块中的多个第一对应小块的数据读取至所述多个小块处理电路作为多个快取小块数据，其中在所述目前批次的所述多个小块搬移任务都已被所述多个小块处理电路执行后，所述命令分割器电路才会派发所述多个批次中的下一批次的所述多个小块搬移任务给所述多个小块处理电路。/n

【技术特征摘要】
1.一种数据搬移装置，用以搬移有重叠的数据，包括：
命令分割器电路，被配置为接收块级搬移命令，将所述块级搬移命令分为多个小块搬移任务，将所述多个小块搬移任务分为多个批次，以及派发所述多个批次中的目前批次的所述多个小块搬移任务；以及
多个小块处理电路，被配置为执行所述目前批次的所述多个小块搬移任务而将在来源块的多个来源小块中的多个第一对应小块的数据读取至所述多个小块处理电路作为多个快取小块数据，其中在所述目前批次的所述多个小块搬移任务都已被所述多个小块处理电路执行后，所述命令分割器电路才会派发所述多个批次中的下一批次的所述多个小块搬移任务给所述多个小块处理电路。


2.根据权利要求1所述的数据搬移装置，其中当所述下一批次的所述多个小块搬移任务被派发给所述多个小块处理电路时，所述多个小块处理电路将所述多个快取小块数据写至目的块，然后所述多个小块处理电路执行所述下一批次的所述多个小块搬移任务而将所述来源块的多个第二对应小块的数据读取至所述多个小块处理电路。


3.根据权利要求2所述的数据搬移装置，其中所述来源块部分重叠于所述目的块。


4.根据权利要求2所述的数据搬移装置，其中所述来源块与所述目的块被存放在存储器中。


5.根据权利要求2所述的数据搬移装置，其中
当所述来源块的地址先于所述目的块的地址时，所述目前批次的所述多个小块搬移任务的地址后于所述下一批次的所述多个小块搬移任务的地址；以及
当所述来源块的地址后于所述目的块的地址时，所述目前批次的所述多个小块搬移任务的地址先于所述下一批次的所述多个小块搬移任务的地址。


6.根据权利要求2所述的数据搬移装置，其中
在地址空间中，当所述来源块的首行地址先于所述目的块的首行地址时，所述命令分割器电路以从后行到先行的顺序派发所述多个批次；以及
在所述地址空间中，当所述来源块的所述首行地址后于所述目的块的首行地址时，所述命令分割器电路以从先行到后行的顺序派发所述多个批次。


7.根据权利要求1所述的数据搬移装置，其中所述多个来源小块在地址空间中被分为多个来源行，所述目前批次的所述多个小块搬移任务对应于所述多个来源行中的至少一行。


8.根据权利要求1所述的数据搬移装置，其中所述多个小块处理电路被分为多个群组，所述多个群组的每一个还包括：
同步电路，耦接至属于所述群组的所述多个小块处理电路，其中在属于所述群组的所述多个小块处理电路都已完成所述目前批次的对应小块搬移任务后，所述同步电路回馈批次完成信号给所述命令分割器电路，
其中当所述多个群组的所有同步电路都回馈所述批次完成信号给所述命令分割器电路时，所述命令分割器电路才会派发所述下一批次的所述多个小块搬移任务给所述多个小块处理电路。


9.根据权利要求1所述的数据搬移装置，其中所述多个小块处理电路的每一个包括：
缓冲器；
小块处理单元，耦接至所述命令分割器电路以接收所述目前批次的多个对应小块搬移任务，被配置为依据所述多个对应小块搬移任务发出多个小块配置请求至所述缓冲器；以及
快取电路，耦接至所述缓冲器，被配置为执行...

【专利技术属性】
技术研发人员：阙恒，王渊峰，顾德明，武凤霞，
申请(专利权)人：上海兆芯集成电路有限公司，
类型：发明
国别省市：上海;31