用于高效访问多维数据结构和/或其他大型数据块的方法和装置制造方法及图纸

本公开涉及用于高效访问多维数据结构和/或其他大型数据块的方法和装置。并行处理单元包括多个处理器，每个处理器被耦合到存储器访问硬件电路。每个存储器访问硬件电路被配置为从耦合的处理器接收指定多维数据结构的坐标的存储器访问请求，其中存储器访问硬件电路是多个存储器访问电路之一，每个存储器访问电路被耦合到相应的处理器之一；以及，响应于存储器访问请求，将多维数据结构的坐标转换为多维数据结构的多个存储器地址，并使用多个存储器地址异步传输多维数据结构的至少一部分以便由耦合的处理器处理。存储器位置可以在耦合的处理器的共享存储器和/或外部存储器中。处理器的共享存储器和/或外部存储器中。处理器的共享存储器和/或外部存储器中。

【技术实现步骤摘要】
用于高效访问多维数据结构和/或其他大型数据块的方法和装置
[0001]相关申请的交叉引用
[0002]本申请涉及以下共同转让的共同未决的美国专利申请，将这些专利申请中的每一个的全部内容通过引用合并：
[0003]2022年3月10日提交的题目为“用于高效访问多维数据结构和/或其他大数据块的方法和装置(Method And Apparatus For Efficient Access To Multidimensional Data Structures and/or other Large Data Blocks)”的美国申请No.17/691,276；
[0004]2022年3月10日提交的题目为“协作组阵列(Cooperative Group Arrays)”的美国申请No.17/691,621；
[0005]2022年3月10日提交的题目为“分布式共享存储器(Distributed Shared Memory)”的美国申请No.17/691,690；
[0006]2022年3月10日提交的题目为“虚拟化处理器中的硬件处理资源(Vir本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种并行处理器，包括：到外部存储器的接口；多个多核心处理器，每个多核心处理器具有相应的共享存储器；以及多个存储器访问硬件电路，每个存储器访问硬件电路被耦合到所述多个多核心处理器中的多核心处理器，并被配置为：从所耦合的多核心处理器接收对数据块的存储器访问请求；以及响应于所述存储器访问请求，在所耦合的多核心处理器的共享存储器和所述外部存储器中的一个或两个中的存储器位置之间异步传输所述数据块。2.如权利要求1所述的并行处理器，其中所述异步传输是从所述外部存储器中的位置到所述外部存储器中的另一位置。3.如权利要求1所述的并行处理器，其中所述异步传输是从所耦合的多核心处理器的所述共享存储器中的位置到所耦合的多核心处理器的所述共享存储器中的另一个位置。4.如权利要求1所述的并行处理器，其中所述异步传输是在所述外部存储器中的位置与所耦合的多核心处理器的共享存储器中的位置之间进行。5.如权利要求4所述的并行处理器，其中耦合到所述多核心处理器的所述存储器访问硬件电路进一步被配置为：响应于存储器访问请求，向所述外部存储器发送多个请求以传输所述数据块，并且其中所述多个请求中的每一个请求包括由所述存储器访问硬件电路生成的所述数据块中相应的不同的存储器地址。6.如权利要求1所述的并行处理器，其中耦合到所述多核心处理器的所述存储器访问硬件电路被配置为：对耦合到所述存储器访问硬件电路的所述多核心处理器的共享存储器和所述外部存储器进行读取和写入。7.如权利要求1所述的并行处理器，其中耦合到所述多核心处理器的所述存储器访问硬件电路被配置为：将所述数据块从所述外部存储器复制到所耦合的多核心处理器的所述共享存储器。8.如权利要求1所述的并行处理器，其中耦合到所述多核心处理器的所述存储器访问硬件电路进一步被配置为：通过将所述数据块从所述外部存储器直接写入所述多核心处理器的所述共享存储器，从所述多核心处理器的所述共享存储器直接写入所述外部存储器，从所述共享存储器中的第一位置直接写入所述共享存储器中的第二位置，或者从所述外部存储器中的第一位置直接写入所述外部存储器中的第二位置，来执行所述异步传输，其中所述共享存储器中的所述第一位置和所述第二位置能够由所述多个多核心处理器的相应的不同多核心处理器访问。...

【专利技术属性】
技术研发人员：A，
申请(专利权)人：辉达公司，
类型：发明
国别省市：