用于加速串行化算法的具有可变等待时间的位置感知型存储器制造技术

本发明专利技术提出了一种于加速串行化算法的具有可变等待时间的位置感知型存储器，本发明专利技术的实施例可以通过根据存储器组的物理位置信息重新分配存储器访问来提供技术解决方案。首先，在多代理系统中识别代理的物理位置。根据所述代理的指令确定存储器访问请求。在另一实施例中，基于所述代理的物理位置，调度器可确定物理位置最接近所述代理的所述物理位置的存储器单元组。调度器然后可以将所确定的存储器访问请求分配给所述存储器单元组。

Position aware memory with variable waiting time for accelerating serialization algorithm

【技术实现步骤摘要】
用于加速串行化算法的具有可变等待时间的位置感知型存储器
本专利技术的实施例大体上涉及提供用于串行化算法的物理位置感知型存储器配置。
技术介绍
标量处理一次仅处理一个数据项，典型数据项是整数或浮点数。通常，标量处理被分类为SISD处理（单指令，单数据）。此方法的另一变化是单指令、多线程（SIMT）处理。传统的SIMT多线程处理器通过将线程组织成组并在单独的处理管线、标量或向量管线上执行每个线程来提供多个线程的并行执行。在单个周期中调度由一个组中的线程执行的指令。生成处理管线控制信号，使得当线程跨越处理管线的各级时，组中的所有线程执行一组类似的操作。例如，一组中的所有线程从寄存器文件读取源操作数，执行处理单元中的指定算术运算，并将结果写回到寄存器文件。当在处理器中支持多个语境时，SIMT需要额外存储器用于复制同一内核中使用的恒定值。因而，当从主存储器或缓存加载不同恒定值时，引入等待时间开销。还应理解，在整体计算处理时间和等待时间时，对存储器的访问是整体计算的重要部分。还众所周知，为了获得期望的速度，芯片当中现在已经包括存储器或存储单元，使得物理距离被极大地降到最低。然而，在芯片上包括具有大存储容量的存储器单元并不具有成本效益。因此，将存在位于芯片外部同时经由总线连接并且在系统存储器组/单元上的存储器单元，或其他存储单元，如硬盘驱动器，固态驱动器（SSD）等。此外，在当今世界，典型的企业应用程序将具有多个组件，并将分布在各种系统和网络上。如果两个组件想要相互通信，则需要一种交换数据的机制。实现此目标的一种方法是定义自己的协议并传输对象。这意味着接收端必须知道发送者用来重新创建对象的协议，这会使得很难与第三方组件交谈。因此，需要一种通用且有效的协议来在组件之间传输对象。为此目的定义的串行化操作使用此协议来传输对象。因此，由于具有不同物理距离的存储器宏之间的平衡访问等待时间，所以可以将平均存储器访问等待时间创建为开销，所述存储器宏用于组成大型高性能存储器阵列。此外，在只访问存储器的一小部分时，整体上不必要的功耗在存储器阵列中与平衡访问等待时间相联系。当片上存储器由在芯片上物理远离的多个代理共享时，额外的等待时间和功耗是更不利的。因此，本专利技术的实施例试图解决或应对上文所指出的一个或多个技术问题。
技术实现思路
本专利技术的实施例可以通过将大型存储器组或阵列划分、区分或分开为较小的存储器宏来提供技术解决方案，这些较小的存储器宏是基于这些宏的物理位置（水平和竖直）并且基于与每个代理的接口对应的访问等待时间周期分组的。在一个实施例中，较小的存储器组的粒度可以由性能目标和设计可以承受的面积开销确定。在另一个实施例中，对于等待时间关键的串行化算法，在对应的代理可能的情况下可以将较小的存储器组分配给具有较小等待时间的区域。可以将非等待时间关键线程或较不经常存取的存储器组/阵列分配给远离代理的相对较远的存储器组，以节省总体等待时间和电力。而且，可以以访问每个代理的最近存储器组可能具有最高优先级的方式来调度来自不同代理的存储器访问。此外，多通道缓存器各自可以包括存储器组，以避免返回路径冲突，并且可以被配置成实现最低等待时间或最高带宽能力。附图说明本领域的普通技术人员可以了解，为了简单和清晰起见，示出了附图中的元件，因此为了避免混淆本专利技术的方面并未示出所有的连接和选项。例如，在商业上可行的实施例中有用或必需的常见但易于理解的元件通常不进行描绘，以便有助于较少阻挡对本公开的这些各种实施例的观察。将进一步了解，可以以特定的发生次序描述或描绘某些动作和/或步骤，而所属领域的技术人员将理解，实际上不需要关于序列的此类特异性。还应当理解，本文所用的术语和表达将关于其各自的相应探究和研究领域进行限定，除非本文中另外阐述了特定含义。图1是图示存储器位置布置的现有技术方法的图。图2是图示根据本专利技术的一个实施例的存储器宏组的图。图3是图示根据本专利技术的一个实施例的新存储器宏组缓冲区的数据内容的图。图4是图示根据本专利技术的一个实施例用于根据存储器组的物理位置信息重新分配存储器访问的方法的流程图。图5是图示被配置成实施本专利技术的一个或多个方面的计算机系统的框图。图6是根据本专利技术的一个实施例的用于图5的计算机系统的并行处理子系统的框图。具体实施方式现在可以参考附图更全面地描述本专利技术，附图形成本专利技术的一部分，并且以图示的方式示出了可以实施本专利技术的具体示例性实施例。可以在理解本公开是对一个或多个专利技术的原理的举例说明的情况下呈现这些图示和示例性实施例，并且可能不旨在将任何一个专利技术限制于所示的实施例。本专利技术可以以许多不同形式实现，并且不应解释为限于本文所阐述的实施例；相反，提供这些实施例，使得本公开将是全面的完整的，并将本专利技术的范围完全传达给本领域的技术人员。此外，本专利技术可以体现为方法、系统、计算机可读介质、设备或装置。因此，本专利技术可采取完全硬件实施例、完全软件实施例或组合软件和硬件方面的实施例的形式。因此，以下详细描述不应以限制性意义理解。一般来说，计算核心（参见下面的GPC514）利用可编程顶点着色器、几何着色器和像素着色器。这些操作不是将这些组件的功能实现为具有不同的设计和指令集的单独的固定功能着色器单元，而是由具有统一指令集的执行单元池执行。这些执行单元中的每一个可以设计相同，并且可配置用于程序化操作。在一个实施例中，每个执行单元能够同时进行多线程操作。由于各种着色任务可以由顶点着色器、几何着色器和像素着色器生成，因此它们可以被传递到执行单元以被执行。在生成单个任务时，执行控制单元（可以是下文GPC514的一部分）处理将这些任务分配给各种执行单元中的可用线程的操作。当完成任务时，执行控制单元进一步管理相关线程的释放。就这一点而言，执行控制单元负责将顶点着色器、几何着色器和像素着色器任务分配给各种执行单元的线程，并且还执行任务和线程的相关“记帐（bookkeeping）”。具体来说，执行控制单元为所有执行单元维护线程和存储器的资源表（未具体说明）。执行控制单元具体管理哪些线程已经被分配任务并且被占用，在线程终止后已经释放了哪些线程，占用了多少公用寄存器文件存储寄存器，以及每个执行单元有多少自由空间。线程控制器也可以设置在每个执行单元内部，并且可以负责调度、管理或标记每个线程为活动的（例如，执行的）或可用的。根据一个实施例，标量寄存器文件可以连接到线程控制器和/或与线程任务接口连接。线程控制器为整个执行单元（例如，GPC514）提供控制功能，其中功能包括每个线程的管理和决策功能，例如确定将如何执行线程。此外，如以下部分中所提及，代理（例如，106或206）可以是物理或虚拟实体，其作用、感知其环境并与其他实体进行通信，是自主的并具有在多代理系统（MAS）中实现其目标和倾向的技能。在此类MAS中，MAS包含环境、对象和代理（代理是唯一起作用的）、所有实体之间的关系、可由实体执行的一组操作以及时空的变化和由于这些动作本文档来自技高网...

【技术保护点】
1.一种用于根据存储器组的物理位置信息重新分配存储器访问的计算机实现的方法，所述方法包括：/n在多代理系统中识别代理的物理位置；/n根据所述代理的指令确定存储器访问请求；/n基于所述代理的物理位置，确定物理位置最接近所述代理的所述物理位置的存储器单元组；以及/n将所确定的存储器访问请求分配给所述存储器单元组。/n

【技术特征摘要】
20190220 US US16/2810551.一种用于根据存储器组的物理位置信息重新分配存储器访问的计算机实现的方法，所述方法包括：
在多代理系统中识别代理的物理位置；
根据所述代理的指令确定存储器访问请求；
基于所述代理的物理位置，确定物理位置最接近所述代理的所述物理位置的存储器单元组；以及
将所确定的存储器访问请求分配给所述存储器单元组。


2.根据权利要求1所述的计算机实现的方法，其中，确定所述存储器单元组包括检索对应于所述存储器单元组的物理位置的数据。


3.根据权利要求1所述的计算机实现的方法，其中，确定所述存储器单元组包括确定存在优先级数据。


4.根据权利要求3所述的计算机实现的方法，还包括基于所述优先级数据将所确定的存储器访问请求分配到所述存储器单元组。


5.根据权利要求1所述的计算机实现的方法，其中，所述存储器单元组的所述物理位置包括识别相对于所述代理的水平或竖直信息的物理位置。


6.一种用于根据存储器组的物理位置信息重新分配存储器访问的图形处理子系统，所述图形处理子系统包括：
图形处理单元（GPU），所述图形处理单元可操作以：
在多代理系统中识别代理的物理位置；
根据所述代理的指令确定存储器访问请求；
基于所述代理的物理位置，确定物理位置最接近所述代理的所述物理位置的存储器单元组；以及
将所确定的存储器访问请求分配给所述存储器单元组。


7.根据权利要求6所述的图形处理子系统，其中，确定所述存储器单元组包括检索对应于所述存储器单元组的物理位置的数据。


8...

【专利技术属性】
技术研发人员：邵平平，骆培，李成，
申请(专利权)人：上海天数智芯半导体有限公司，
类型：发明
国别省市：上海;31