流处理方法、处理电路和电子设备技术

本文描述了一种用于流处理的方法、处理电路、电子设备、计算机可读存储介质和计算机程序产品。在此提出的方法包括：由流处理器运行流处理程序，以使一组页被加载到片上存储器中以作为具有至少一个维度的段，其中至少一个维度中的一个维度由流处理程序指定为流处理维度；以及由处理引擎运行内核程序以处理段的至少部分，其中至少部分是基于段在流处理维度的偏移位置而被确定。基于这样的方式，可以将数据流式加载到片上存储器中，以提高数据处理的效率。效率。效率。

【技术实现步骤摘要】
流处理方法、处理电路和电子设备


[0001]本公开的实施例一般地涉及电子领域，更具体而言涉及一种用于流处理的方法、处理电路、电子设备、计算机可读存储介质和计算机程序产品。

技术介绍

[0002]诸如图形处理器(GPU)之类的并行高性能多线程多核处理系统处理数据的速度比过去快得多。这些处理系统可以将复杂的计算分解为较小的任务，并且由多核并行处理以增加处理效率并且减少处理时间。
[0003]在一些情形下，诸如GPU之类的处理电路对具有大量相同或相似形式的数据的张量的处理尤为有利。张量数据在计算机领域通常表示一维或多维数组的数据，例如图像数据就是一种常规的二维张量数据，其可以由二维数组表示。对图像数据进行处理时，可以由多个处理电路或者处理电路中的多个处理核(或处理引擎)对图像数据中的不同部分并行处理以减少处理时间。
[0004]对于诸如GPU等处理电路而言，片上存储器通常具有更快的访问速度。然而，片上存储器的存储空间往往是受限的。这使得在利用处理电路进行张量运算的过程中，可能需要进行频繁地访问外部存储器(也称为片外存储器)，这将严重影本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种流处理的方法，由处理电路执行，所述处理电路包括片上存储器、流处理器和处理引擎，所述方法包括：由所述流处理器运行流处理程序，以使一组页被加载到所述片上存储器中以作为具有至少一个维度的段，其中所述至少一个维度中的一个维度由所述流处理程序指定为流处理维度；以及由处理引擎运行内核程序以处理所述段的至少部分，其中所述至少部分是基于所述段在所述流处理维度的偏移位置而被确定。2.根据权利要求1所述的方法，其中由所述流处理器运行流处理程序以使一组页被加载到所述片上存储器中以作为具有至少一个维度的段包括：由所述流处理器运行流处理程序，以向直接存储器访问DMA控制器发送第一组加载指令，所述第一组加载指令用于将所述一组页加载到所述片上存储器中。3.根据权利要求2所述的方法，其中所述一组页中的目标页与第一计数器和第二计数器相关联，所述第一计数器用于指示所述目标页的加载状态，所述第二计数器用于指示引用所述目标页的处理引擎的数目。4.根据权利要求3所述的方法，还包括：响应于完成将所述目标页加载到所述片上存储器器中，更新所述第一计数器的值，以指示所述目标页加载完成。5.根据权利要求3所述的方法，还包括：响应于所述目标页的所述第一计数器指示所述目标页完成加载且所述第二计数器指示没有处理引擎引用所述目标页，确定所述片上存储器中与所述目标页对应的空间能够被用于加载来自片外存储器的新的数据。6.根据权利要求1所述的方法，其中所述至少一个维度包括多个维度，所述方法还包括：基于所述偏移位置和所述处理引擎在所述多个维度中的非流处理维度的起始锚点，确定所述段的所述至少部分。7.根据权利要求1所述的方法，其中所述一组页为第一组页，所述方法还包括：响应于所述内核程序中...

【专利技术属性】
技术研发人员：王磊，李甲，徐立宝，葛建明，彭永超，袁红岗，仇小钢，
申请(专利权)人：海飞科南京信息技术有限公司，
类型：发明
国别省市：