访存策略管理方法及装置、处理器和计算设备制造方法及图纸

本公开提供了一种访存策略管理方法及装置、处理器和计算设备。该方法包括：基于历史访问请求的命中情况，更新地址管理表，地址管理表包括与地址区间对应的命中统计数据，历史访问请求为针对地址区间内的历史目标地址的访问请求；基于命中统计数据，确定与地址区间对应的访存策略参数；响应于接收到针对地址区间内的目标地址的访问请求，将访存策略参数添加至访问请求，以更新访问请求；将更新后的访问请求发送至缓存单元。该方法可以实现访存策略参数的自适应动态调整，有助于优化缓存访问策略，并提升数据交互效率和处理器处理效率。并提升数据交互效率和处理器处理效率。并提升数据交互效率和处理器处理效率。

【技术实现步骤摘要】
访存策略管理方法及装置、处理器和计算设备


[0001]本公开涉及缓存
，具体地，涉及一种访存策略管理方法及装置、处理器和计算设备。

技术介绍

[0002]随着相关技术的发展，对于诸如GPU（Graphics Processing Unit，图形处理器）、CPU（Central Processing Unit，中央处理器）等的处理器而言，其运算速度往往高于内存的读写速度，因此，通常在这类处理器中设置一级或多级缓存，以解决处理器运算速度与内存读写速度不匹配的问题。具体而言，缓存可以用于存储处理器频繁使用的数据，从而减少访问这些数据所需要的时延，以便提升处理效率。然而，由于缓存存储空间的大小往往远小于内存存储空间的大小，故其仅能够根据预先设置的访存策略容纳小部分来自内存的数据。因此，如何更好地优化访存策略成为优化处理器处理效率的重要环节。

技术实现思路

[0003]有鉴于此，本申请提供了一种访存策略管理方法、访存策略管理装置、处理器和计算设备，可以缓解、减轻或甚至消除上述问题。
[0004]根据本公开的一方面，提供了一种本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种访存策略管理方法，其特征在于，所述方法包括：基于历史访问请求的命中情况，更新地址管理表，所述地址管理表包括与地址区间对应的命中统计数据，所述历史访问请求为针对所述地址区间内的历史目标地址的访问请求；基于所述命中统计数据，确定与所述地址区间对应的访存策略参数；响应于接收到针对所述地址区间内的目标地址的访问请求，将所述访存策略参数添加至所述访问请求，以更新所述访问请求；将更新后的访问请求发送至缓存单元。2.根据权利要求1所述的方法，其特征在于，所述基于历史访问请求的命中情况，更新地址管理页表包括：接收由所述缓存单元反馈的所述历史访问请求的命中情况，所述命中情况包括以下各项中的至少一项：指示所述历史目标地址是否被命中的信息、所述历史目标地址的平均命中距离、所述历史目标地址累计被命中的次数；基于所述命中情况，在所述地址管理表中更新与所述地址区间对应的命中统计数据。3.根据权利要求2所述的方法，其特征在于，所述基于所述命中情况，在所述地址管理表中更新与所述地址区间对应的命中统计数据包括：基于所述命中情况和预设统计机制，确定与所述历史访问请求对应的命中统计值，所述命中统计值包括以下各项中的至少一项：所述历史目标地址的命中距离统计值、所述历史目标地址的命中次数统计值；基于所述命中统计值，在所述地址管理表中更新与所述地址区间对应的命中统计数据，所述命中统计数据包括以下各项中的至少一项：统计命中距离、统计命中次数。4.根据权利要求1所述的方法，其特征在于，所述基于所述命中统计数据，确定与所述地址区间对应的访存策略参数包括：响应于所述命中统计数据满足预设条件，将与所述地址区间对应的访存策略参数设定为预设参数；响应于所述命中统计数据不满足预设条件，将与所述地址区间对应的访存策略参数保持为默认参数。5.根据权利要求4所述的方法，其特征在于，所述方法还包括：响应于与所述地址区间对应的访存策略参数为所述预设参数，并且所述命中统计数据满足预设降级条件，将与所述地址区间对应的访存策略参数恢复为所述默认参数，其中，所述预设降级条件包括以下各项中的至...

【专利技术属性】
技术研发人员：请求不公布姓名，
申请(专利权)人：摩尔线程智能科技北京有限责任公司，
类型：发明
国别省市：