数据生产主体单元、数据消费主体单元、相关装置和方法制造方法及图纸

本公开提供了一种数据生产主体单元、数据消费主体单元、相关装置和方法。该数据生产主体单元包括：第一通信控制单元和第二通信控制单元中的至少一个，分别用于向对等主体单元和调度主体单元中的至少一个发送写请求；同步指令执行单元，用于针对一个线程组执行：基于同步指令生成第一反馈追踪指令和第二反馈追踪指令中的至少一个，分别发送到所述第一通信控制单元和所述第二通信控制单元中的至少一个，以分别进行第一追踪和第二追踪中的至少一个；如果所述第一追踪和第二追踪都成功，发送置位指令。本公开使得在批量数据写入的目标体有多个的情况下，能够执行正确的指令级写入，且保证目标体对写入数据的使用不会发生错误。证目标体对写入数据的使用不会发生错误。证目标体对写入数据的使用不会发生错误。

【技术实现步骤摘要】
数据生产主体单元、数据消费主体单元、相关装置和方法


[0001]本公开涉及芯片领域，具体而言，涉及一种数据生产主体单元、数据消费主体单元、相关装置和方法。

技术介绍

[0002]在大数据时代，由于处理任务的大型化，通常要求处理单元(包括用于执行常规运算处理的CPU以及用于图形处理、深度神经网络中的复杂运算处理的GPU、NPU、张量处理器等)协同处理一件大型化任务。每个处理单元各自处理一部分任务，保存任务相关数据。由于这些处理单元处理的部分可能是互相关联的，因此，一个处理单元经常会在执行其本身的部分任务时发现需要其它处理单元存储的数据，这时就需要其它处理单元将其数据写入该处理单元。传统技术中，需要借助于各主机(各计算装置)间的主机间传统通信网络，来完成这种写入。主机间传统通信网络的速度很慢，且数据在主机内部还要经由例如PCIe的内部总线传输，处理单元间数据调用速度低下。为了解决此问题，提出了片间互连网络(ICN)。片间互连网络直接在各主机(计算装置)的各处理单元建立互连。通过ICN可以快速实现处理单元之间的数据调用。
[0003]如果处理本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据生产主体单元，用于按线程组向目标体写入数据，所述目标体包括对等主体单元、调度主体单元中的至少一个，所述数据生产主体单元包括：第一通信控制单元和第二通信控制单元中的至少一个，所述第一通信控制单元用于向所述对等主体单元发送写请求，所述第二通信控制单元用于向所述调度主体单元发送写请求；同步指令执行单元，用于针对一个线程组执行：基于同步指令生成第一反馈追踪指令和第二反馈追踪指令中的至少一个，分别发送到所述第一通信控制单元和所述第二通信控制单元中的至少一个，其中，如果所述第一通信控制单元接收到所述第一反馈追踪指令，对于向所述对等主体单元发出的写请求的第一应答进行计数，如果接收到的第一应答数目与向所述对等主体单元发出的写请求的数目相等，则第一追踪成功；如果所述第二通信控制单元接收到所述第二反馈追踪指令，向所述调度主体单元发送第一假读指令，如果接收到所述调度主体单元对所述第一假读指令的第二应答，则第二追踪成功；如果所述第一追踪和第二追踪都成功，向所述对等主体单元和调度主体单元发送置位指令，以便所述数据消费主体单元在接收到所述置位指令后，在确保该置位指令之前接收到的该数据生产主体单元的写请求都成功写入的情况下，允许使用写入的数据。2.根据权利要求1所述的数据生产主体单元，还包括：第一线程组执行单元，用于针对线程组将写请求向所述第一通信控制单元和所述第二通信控制单元中的至少一个发送后，接收所述第一通信控制单元、所述第二通信控制单元、或第一多级缓存中缓存所述写请求的缓存中的至少一个的内部确认应答，并与其它线程组交换第一信息，所述第一多级缓存为位于所述第一线程组执行单元、以及所述第一通信控制单元或第二通信控制单元之间的多个级别的缓存，所述第一信息指示是否接收到全部写请求的内部确认应答，其中，在所有线程组接收到全部写请求的内部确认应答后，所述同步指令执行单元开始工作。3.根据权利要求2所述的数据生产主体单元，其中，如果所述第一多级缓存中缓存了所述线程组发送的写请求，所述第一多级缓存基于所述同步指令执行第一刷空和第二刷空中的至少一个，其中，所述第一刷空是针对缓存的要发送给所述对等主体单元的数据，从所述第一多级缓存刷出并经更上级的缓存从第一通信控制单元发往所述对等主体单元，并接收所述对等主体单元的第三应答；所述第二刷空是针对缓存的要发送给所述调度主体单元的数据，从所述第一多级缓存刷出并经更上级的缓存从第二通信控制单元发往所述调度主体单元，并向所述调度主体单元发送第二假读指令，并接收所述调度主体单元对所述第二假读指令的第四应答；其中，所述置位指令在第一追踪和第二追踪都成功、对于刷出的缓存的要发送给所述对等主体单元的数据都接收到第三应答、且对于第二假读指令接收到第四应答的情况下，才向所述对等主体单元和调度主体单元发出。4.根据权利要求3所述的数据生产主体单元，其中，所述同步指令执行单元在所述第一通信控制单元和所述第二通信控制单元中的至少一个分别执行所述第一反馈追踪指令和第二反馈追踪指令中的至少一个之后，执行等待反馈追踪指令，用于保证在所述第一反馈追踪指令和第二反馈追踪指令中的至少一个执行完毕后，所述置位指令才能发出；在所述第一多级缓存执行第一刷空和第二刷空中的至少一个后，执行等待刷空指令，用于保证在所述第一刷空和第二刷空中的至少一个执行完毕后，所述置位指令才能发出。
5.根据权利要求2所述的数据生产主体单元，其中，在向所述对等主体单元和调度主体单元发送置位指令之后，第一线程组执行单元还使该线程组与其它线程组交换第三信息，所述第三信息指示已经向所述对等主体单元和调度主体单元发送置位指令。6.根据权利要求2所述的数据生产主体单元，其中，所述目标体还包括所述数据生产主体单元的片上内存，所述第一线程组执行单元还在针对线程组将要到所述片上内存的写请求传递到所述片上内存后，接收所述片上内存的内部确认应答，所述置位指令在所述第一追踪和第二追踪都成功、且对于所述将要到所述片上内存的写请求接收到所述片上内存的内部确认应答的情况下才发出。7.根据权利要求1或2所述的数据生产主体单元，其中，所述数据生产主体单元是第一处理单元，所述数据消费主体单元是第二处理单元，所述第一处理单元和所述第二处理单元通过片间互连网络通信，所述第一处理单元将所述第一处理单元的第一片上内存的数据通过所述片间互连网络写入所述第二处理单元的第二片上内存。8.根据权利要求7所述的数据生产主体单元，其中，所述第一处理单元是...

【专利技术属性】
技术研发人员：韩亮，邹云晓，焦阳，朱国瑜，吴政原，尹莉，钟嵘，李云，刘璐，吴炜，陆叶，沈恬，
申请(专利权)人：平头哥上海半导体技术有限公司，
类型：发明
国别省市：