一种提升缓存带宽的方法、装置、设备及存储介质制造方法及图纸

本申请属于缓存技术领域，公开了一种提升缓存带宽的方法、装置、设备及存储介质，该方法应用于缓存微结构中，该方法包括：步骤S1，接收新请求，并获取新请求的命中情况；步骤S2，基于命中情况和新请求确定执行条件；步骤S3，将新请求与缓存微结构中的旧请求进行地址对比，得到对比结果；若对比结果满足执行条件，则执行新请求。本申请可以提高缓存的并行处理能力，使得每个请求从进入缓存到被分发到并行处理状态机中执行的延时更小、单位时间内工作的并行处理状态机的个数更多，从而提升缓存整体的带宽和吞吐量。带宽和吞吐量。带宽和吞吐量。

【技术实现步骤摘要】
一种提升缓存带宽的方法、装置、设备及存储介质


[0001]本申请涉及缓存
，尤其涉及一种提升缓存带宽的方法、装置、设备及存储介质。

技术介绍

[0002]缓存的读写带宽是影响CPU整体性能的关键指标之一。在CPU系统中，总线的位宽是固定大小的，如256bit、512bit等，在总线位宽固定的情况下，最大程度地利用总线的带宽，即等价于平均每个周期内缓存能够多发出总线的请求，多进行总线的数据读写。在缓存设计中，决定缓存读写带宽的指标是并行数(outstanding capability)，决定并行数的有两点，一是并行状态机的数量，二是缓存流水线的分发结构如何解决地址冲突。缓存流水线会记录所有正在处理的缓存读写地址，并以此决定是否要执行Core(处理器核)新下发的对某个地址的缓存读写请求。在现有的缓存微结构中，相同index(缓存索引)的地址访问定义为同余项(CGC congruence class)，在进行相同index访存时、或相同address(地址)访存时，需要遵循一定的顺序，后到的请求需要等待之前旧的请求完成后才能继续操作。因此，本申本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种提升缓存带宽的方法，其特征在于，应用于缓存微结构中，所述方法包括：步骤S1，接收新请求，并获取所述新请求的命中情况；步骤S2，基于所述命中情况和所述新请求确定执行条件；步骤S3，将所述新请求与所述缓存微结构中的旧请求进行地址对比，得到对比结果；若所述对比结果满足所述执行条件，则执行所述新请求。2.根据权利要求1所述的方法，其特征在于，所述旧请求包括正在进行的当前请求和写入队列中的暂存写入请求；所述方法还包括：在执行完步骤S1之后，判断是否所述缓存微结构中存在所述旧请求；若存在所述当前请求，或者存在所述暂存写入请求且所述新请求为读取请求，则执行步骤S2和步骤S3；否则直接执行所述新请求。3.根据权利要求2所述的方法，其特征在于，在所述新请求命中且所述新请求在所述当前请求的预设周期外时，所述执行条件包括：所述新请求与所述当前请求全地址不相同；若所述新请求为读取请求，则所述新请求与所述暂存写入请求全地址不相同。4.根据权利要求2所述的方法，其特征在于，在所述新请求命中且所述新请求在所述当前请求的预设周期内时，所述执行条件包括：若所述当前请求为当前读取请求或当前写入请求，则所述新请求与所述当前请求同余项不相同，否则所述新请求与所述当前请求全地址不相同；若所述新请求为读取请求，则所述新请求与所述暂存写入请求的全地址不相同。5.根据权利要求2所述的方法，其特征在于，所述新请求未命中时，所述执行条件包括：若所述当前请求为当前读取请求或当...

【专利技术属性】
技术研发人员：施葹，刘扬帆，徐越，苟鹏飞，陆泳，王贺，
申请(专利权)人：上海合芯数字科技有限公司，
类型：发明
国别省市：