GPU制造技术

本申请涉及计算机技术领域，尤其涉及一种

【技术实现步骤摘要】
GPU的数据访问处理方法、装置及存储介质


[0001]本申请涉及计算机
，尤其涉及一种GPU的数据访问处理方法、装置及存储介质。

技术介绍

[0002]随着图形处理器(Graphics Processing Unit，GPU)的应用越来越广泛，对GPU的性能要求也越来越高。
[0003]其中GPU内部通常包括多个不同的模块，多个不同的模块在跨分区(英文：partition)进行数据访问时，若模块间的距离较远，则会无法满足一定的时序要求。目前，为了满足模块间通信的时序要求，可以在模块间加入触发器(英文：filp
‑
flop)或先进先出(First Input First Output，FIFO)存储器。
[0004]但是上述方式会导致跨分区的模块从发出访问请求到接收到返回数据的时延过长，进而导致系统性能降低。基于上述问题，相关技术中尚未提供一种合理且有效的处理方法。

技术实现思路

[0005]有鉴于此，提出了一种GPU的数据访问处理方法、装置及存储介质。
[0006]第一方面，本申请的实施例提供了一种GPU的数据访问处理装置，所述装置包括：桥接模块和调度模块，所述桥接模块包括请求单元和调度复用单元，所述调度模块包括标量寄存器(slot register，SRS)；
[0007]所述桥接模块，用于通过所述请求单元输出第一访问请求，所述第一访问请求用于指示本次访问的跨分区的所述调度模块和所述调度模块中的所述SRS的数据地址；
[0008]所述桥接模块，还用于通过所述调度复用单元对所述第一访问请求进行命中测试；
[0009]所述桥接模块，还用于当所述命中测试的结果为第一测试结果时，从所述调度模块的缓存行中读取并返回所述数据地址对应的数据，所述第一测试结果指示本次访问的所述数据地址命中。
[0010]在一种可能的实现方式中，所述第一测试结果指示本次访问的所述数据地址命中，且历史访问的数据地址命中或未命中。
[0011]在另一种可能的实现方式中，所述桥接模块还包括仲裁器，所述桥接模块还用于：
[0012]当所述命中测试的结果为第二测试结果时，将所述第一访问请求的访问信息写入未命中队列，所述第二测试结果指示本次访问的数据地址未命中，所述访问信息包括本次访问的所述数据地址；
[0013]将所述第一访问请求发送至所述仲裁器，所述仲裁器用于对多个跨分区的访问请求进行选择。
[0014]在另一种可能的实现方式中，所述未命中队列的深度是根据从输出所述第一访问
请求到返回数据的数据周期设置的。
[0015]在另一种可能的实现方式中，所述未命中队列用于存储未命中的访问请求的访问信息。
[0016]在另一种可能的实现方式中，所述未命中队列的更新条件包括：
[0017]当所述命中测试的结果为所述第二测试结果时，将所述第一访问请求的访问信息更新在所述未命中队列中；以及，
[0018]当所述未命中队列中最早的数据地址与返回地址队列中的返回地址相同时，将所述未命中队列中的数据进行更新。
[0019]在另一种可能的实现方式中，所述桥接模块还包括FIFO存储器，所述桥接模块还用于：
[0020]通过所述仲裁器轮询命中第二访问请求，所述第二访问请求为所述多个跨分区的访问请求中的一个访问请求；
[0021]通过所述FIFO存储器将所述第二访问请求指示的数据地址发送至所述调度模块中的所述SRS；
[0022]将所述SRS返回的返回数据更新在返回数据队列中，将所述返回数据对应的返回地址更新在返回地址队列中，将对应的返回有效标识更新在返回有效队列中，所述返回有效标识用于指示对应的所述返回数据是否有效。
[0023]在另一种可能的实现方式中，所述桥接模块还包括比较单元，所述桥接模块还用于：
[0024]通过所述比较单元对所述未命中队列、所述返回地址队列和所述返回有效队列进行检测；
[0025]当所述未命中队列中的数据地址与所述返回地址队列中的返回地址相同，且对应的返回有效标识指示对应的返回数据有效时，从所述缓存行中读取并返回所述返回数据。
[0026]在另一种可能的实现方式中，所述装置通过硬件电路实现。
[0027]第二方面，本申请的实施例提供了一种GPU的数据访问处理方法，所述方法包括：
[0028]输出第一访问请求，所述第一访问请求用于指示本次访问的跨分区的调度模块和所述调度模块中的SRS的数据地址；
[0029]对所述第一访问请求进行命中测试；
[0030]当所述命中测试的结果为第一测试结果时，从所述调度模块的缓存行中读取并返回所述数据地址对应的数据，所述第一测试结果指示本次访问的所述数据地址命中。
[0031]在一种可能的实现方式中，所述第一测试结果指示本次访问的所述数据地址命中，且历史访问的数据地址命中或未命中。
[0032]在另一种可能的实现方式中，所述方法还包括：
[0033]当所述命中测试的结果为第二测试结果时，将所述第一访问请求的访问信息写入未命中队列，所述第二测试结果指示本次访问的数据地址未命中，所述访问信息包括本次访问的所述数据地址；
[0034]将所述第一访问请求发送至仲裁器，所述仲裁器用于对多个跨分区的访问请求进行选择。
[0035]在另一种可能的实现方式中，所述未命中队列的深度是根据从输出所述第一访问
请求到返回数据的数据周期设置的。
[0036]在另一种可能的实现方式中，所述未命中队列用于存储未命中的访问请求的访问信息。
[0037]在另一种可能的实现方式中，所述未命中队列的更新条件包括：
[0038]当所述命中测试的结果为所述第二测试结果时，将所述第一访问请求的访问信息更新在所述未命中队列中；以及，
[0039]当所述未命中队列中最早的数据地址与返回地址队列中的返回地址相同时，将所述未命中队列中的数据进行更新。
[0040]在另一种可能的实现方式中，所述方法还包括：
[0041]通过所述仲裁器轮询命中第二访问请求，所述第二访问请求为所述多个跨分区的访问请求中的一个访问请求；
[0042]将所述第二访问请求指示的数据地址发送至所述调度模块中的所述SRS；
[0043]将所述SRS返回的返回数据更新在返回数据队列中，将所述返回数据对应的返回地址更新在返回地址队列中，将对应的返回有效标识更新在返回有效队列中，所述返回有效标识用于指示对应的所述返回数据是否有效。
[0044]在另一种可能的实现方式中，所述方法还包括：
[0045]对所述未命中队列、所述返回地址队列和所述返回有效队列进行检测；
[0046]当所述未命中队列中的数据地址与所述返回地址队列中的返回地址相同，且对应的返回有效标识指示对应的返回数据有效时，从所述缓存行中读取并返回所述返回数据。
[0047]在另一种可能的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种GPU的数据访问处理装置，其特征在于，所述装置包括：桥接模块和调度模块，所述桥接模块包括请求单元和调度复用单元，所述调度模块包括标量寄存器SRS；所述桥接模块，用于通过所述请求单元输出第一访问请求，所述第一访问请求用于指示本次访问的跨分区的所述调度模块和所述调度模块中的所述SRS的数据地址；所述桥接模块，还用于通过所述调度复用单元对所述第一访问请求进行命中测试；所述桥接模块，还用于当所述命中测试的结果为第一测试结果时，从所述调度模块的缓存行中读取并返回所述数据地址对应的数据，所述第一测试结果指示本次访问的所述数据地址命中。2.根据权利要求1所述的装置，其特征在于，所述第一测试结果指示本次访问的所述数据地址命中，且历史访问的数据地址命中或未命中。3.根据权利要求1或2所述的装置，其特征在于，所述桥接模块还包括仲裁器，所述桥接模块还用于：当所述命中测试的结果为第二测试结果时，将所述第一访问请求的访问信息写入未命中队列，所述第二测试结果指示本次访问的数据地址未命中，所述访问信息包括本次访问的所述数据地址；将所述第一访问请求发送至所述仲裁器，所述仲裁器用于对多个跨分区的访问请求进行选择。4.根据权利要求3所述的装置，其特征在于，所述未命中队列的深度是根据从输出所述第一访问请求到返回数据的数据周期设置的。5.根据权利要求3或4所述的装置，其特征在于，所述未命中队列用于存储未命中的访问请求的访问信息。6.根据权利要求3至5任一所述的装置，其特征在于，所述未命中队列的更新条件包括：当所述命中测试的结果为所述第二测试结果时，将所述第一访问请求的访问信息更新在所述未命中队列中；以及，当所述未命中队列中最早的数据地址与返回地址队列中的返回地址相同时，将所述未命中队列中的数据进行更新。7.根据权利要求3至6任一所述的装置，其特征在于，所述桥接模块还包括先进先出FIFO存储器，所述桥接模块还用于：通过所述仲裁器轮询命中第二访问请求，所述第二访问请求为所述多个跨分区的访问请求中的一个访问请求；通过所述FIFO存储器将所述第二访问请求指示的数据地址发送至所述调度模块中的所述SRS；将所述SRS返回的返回数据更新在返回数据队列中，将所述返回数据对应的返回地址更新在返回地址队列中，将对应的返回有效标识更新在返回有效队列中，所述返回有效标识用于指示对应的所述返回数据是否有效。8.根据权利要求7所述的装置，其特征在于，所述桥接模块还包括比较单元，所述桥接模块还用于：通过所述比较单元对所述未命中队列、所述返回地址队列和所述返回有效队列进行检测；
当所述未命中队列中的数据地址与所述返回地址队列中的返回地址相同，且对应的返回有效标识指示对应的返回数据有效时，从所述缓存行中读取并返回所述返回数据。9.根据权利要求1至8任一所述的装置，其特征在于，所述装置通过硬件电路实现。10.一种GPU的数据访问处理方法，其特征在于，所述方法包括：输出第一访问请求，所述第一访问请求用于指示本次访问的跨分区的调度模块和所述调度模块中的SRS的数据地址；对所述第一访问请求进...

【专利技术属性】
技术研发人员：请求不公布姓名，
申请(专利权)人：摩尔线程智能科技北京有限责任公司，
类型：发明
国别省市：