缓存的信息更新方法及装置、设备和介质制造方法及图纸

技术编号:36161818 阅读:25 留言:0更新日期:2022-12-31 20:10
本公开提供了一种缓存的信息更新方法及装置、芯片、设备和介质,涉及计算机技术领域,尤其涉及芯片技术和缓存技术领域。实现方案为:接收针对第一数据的第一读请求;响应于确定多个缓存行的目标读取数据均不为第一数据,标记第一缓存行的目标读取数据为第一数据;将第一读请求存储至请求集合;更新第一缓存行的请求标识以指示请求集合中存在针对第一数据的读请求;接收针对第一数据的第二读请求;响应于确定存在目标读取数据为第一数据的第一缓存行,将该请求存储至请求集合;当第一数据被存储至第一缓存行,读取第一数据,返回第一和第二读请求并将其从请求集合移除;以及更新第一缓存行的请求标识以指示请求集合中不存在针对第一数据的读请求。在针对第一数据的读请求。在针对第一数据的读请求。

【技术实现步骤摘要】
缓存的信息更新方法及装置、设备和介质


[0001]本公开涉及计算机
,尤其涉及芯片技术和缓存
,具体涉及一种缓存的信息更新方法、装置、电子设备、计算机可读存储介质和计算机程序产品。

技术介绍

[0002]随着人工智能技术的发展,越来越多的应用基于人工智能技术取得了远超过传统算法的效果。深度学习是数据密集型算法和计算密集型算法,为了提升深度学习算法的执行效率,需要提升系统缓存的利用率。
[0003]在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地,除非另有指明,否则此部分中提及的问题不应认为在任何现有技术中已被公认。

技术实现思路

[0004]本公开提供了一种缓存的信息更新方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
[0005]根据本公开的一方面,提供了一种缓存的信息更新方法,包括:接收针对第一数据的第一读请求;响应于确定所述多个缓存行的目标读取数据均不为所述第一数据,标记所述多个缓存行本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种缓存的信息更新方法,所述缓存包括多个缓存行,所述方法包括:接收针对第一数据的第一读请求;响应于确定所述多个缓存行的目标读取数据均不为所述第一数据,标记所述多个缓存行中的第一缓存行的目标读取数据为所述第一数据;将所述第一读请求存储至请求集合;更新所述第一缓存行的请求标识以指示所述请求集合中存在针对所述第一数据的读请求;接收针对所述第一数据的第二读请求;响应于确定存在目标读取数据为所述第一数据的第一缓存行,并且响应于确定所述第一缓存行中不包括所述第一数据,将所述第二读请求存储至所述请求集合;响应于确定所述第一数据被存储至所述第一缓存行中,从所述第一缓存行中读取所述第一数据并返回所述第一读请求和所述第二读请求;将所述第一读请求和第二读请求从所述请求集合移除;以及更新所述第一缓存行的请求标识以指示所述请求集合中不存在针对所述第一数据的读请求。2.如权利要求1所述的方法,其中,所述请求标识为请求计数值,所述第一缓存行的请求计数值能够指示所述请求集合中针对所述第一数据的读请求的数量,并且其中,将所述第一读请求存储至请求集合后,对所述第一缓存行的计数值执行加一更新,并且其中,将所述第二读请求存储至所述请求集合后,对所述第一缓存行的计数值执行加一更新。3.如权利要求2所述的方法,其中,标记所述多个缓存行中请求计数值为零的第一缓存行的目标读取数据为所述第一数据。4.如权利要求1

3中任一项所述的方法,其中,所述请求集合的数据结构为先进先出的队列,所述从所述第一缓存行中读取所述第一数据并返回所述第一读请求和所述第二读请求包括:响应于确定所述第一读请求位于所述队列的出队位置,从所述第一缓存行中读取所述第一数据并返回所述第一读请求;响应于确定所述第二读请求位于所述队列的出队位置,从所述第一缓存行中读取所述第一数据并返回所述第二读请求。5.如权利要求4所述的方法,当所述请求标识为请求计数值时,所述将所述第一读请求和第二读请求从所述请求集合移除,以及更新所述第一缓存行的请求标识包括:响应于确定已向所述第一读请求返回所述第一数据,将所述第一读请求从所述请求集合移除,并且对所述第一缓存行的请求计数值执行减一更新;响应于确定已向所述第二读请求返回所述第一数据,将所述第二读请求从所述请求集合移除,并且对所述第一缓存行的请求计数值执行减一更新。6.如权利要求4或5所述的方法,其中,从第一处理单元接收所述第一读请求,从与所述第一处理单元不同的第二处理单元接收所述第二读请求,
并且其中,所述请求集合包括第一子队列和第二子队列,将所述第一读请求存储至所述第一子队列,将所述第二读请求存储至所述第二子队列。7.如权利要求1

6中任一项所述的方法,其中,所述多个缓存行中每个缓存行均包括用于指示该缓存行的目标读取数据的缓存数据标识,并且其中,所述标记所述多个缓存行中的第一缓存行的目标读取数据为所述第一数据包括:将所述第一缓存行的缓存数据标识更新为与所述第一数据对应的第一数据标识,并且其中,响应于确定所述第一缓存行的缓存数据标识为所述第一数据标识,并且响应于确定所述第一缓存行中不包括所述第一数据,将所述针对所述第一数据的第二读请求存储至所述请求集合。8.如权利要求7所述的方法,其中,所述第一数据标识为所述第一数据在主存储器中的存储地址。9.如权利要求1

8中任一项所述的方法,还包括:在标记所述多个缓存行中的第一缓存行的目标读取数据为所述第一数据后,将所述第一缓存行标记为数据无效状态;以及响应于确定所述第一数据被存储至所述第一缓存行中,将所述第一缓存行标记为数据有效状态,并且其中,响应于确定所述第一缓存行为数据有效状态,从所述第一缓存行中读取所述第一数据。10.一种缓存的信息更新装置,所述缓存包括多个缓存行,所述装置包括:接收单元,被配置为接收针对第一数据的第一读请求;标记单元,被配置为响应于确定所述多个缓存行的目标读取数据均不为所述第一数据,标记所述多个缓存行中的第一缓存行的目标读取数据为所述第一数据;存储单元,被配置为将所述第一读请求存储至请求集合;更新单元,被配置为更新所述第一缓存行的请求标识以指示所述请求集合中存在针对所述第一数据的读请求;所述接收单元还被配置为接收针对所述第一数据的...

【专利技术属性】
技术研发人员:梁子豪欧阳剑漆维王京
申请(专利权)人:昆仑芯北京科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1