【技术实现步骤摘要】
本公开涉及存储管理，尤其涉及一种缓存管理装置及系统。
技术介绍
1、图形处理器（graphic process unit，gpu），又称显示核心、视觉处理器、显示芯片，是一种专门在个人电脑、工作站、游戏机和一些移动设备（如平板电脑、智能手机等）上做图像和图形相关运算工作的微处理器。图形处理器运算工作相关的数据可以存储在片上或片外的存储单元中。其中，外部全局存储器（global memory）作为片外存储单元，设置在离gpu核心处理器较远的地方，访问速度慢。为了解决外部全局存储器访问速度慢的问题，通常在处理器核心内部增加片上缓存（cache），其先对读写数据进行缓存，方便后续gpu读写时访问到缓存，可快速获得，无需再从外部全局存储器中获取。缓存包括多个缓存行（cache line），访问时通过行地址（line address）进行该缓存行的访问。但相关技术中，对缓存的管理方式存在缓存行命中次数不一致，部分缓存行的数据被频繁替换等亟待解决的问题。
技术实现思路
1、有鉴于此，本公开提出了一种缓存管理装置及系统。
2、根据本公开的一方面，提供了一种缓存管理装置，用于对存储区域中的多个数据块进行管理控制，每个所述数据块中包括多个缓存行，所述装置包括：至少一个控制中心模块、多个控制模块，各所述控制中心模块用于控制对应的至少一个控制模块，各所述控制模块用于控制对应的一个数据块，
3、各所述控制中心模块，用于根据接收到的访问申请生成第一请求，并将所述第一请求广播至所控制的
4、各所述控制模块中的命中测试单元，用于根据接收到的第一请求对所控制的数据块进行缓存行的命中测试，并将测试结果返回所述控制中心模块；
5、所述控制中心模块，还用于根据所述控制模块返回的测试结果生成总结果。
6、在一种可能的实现方式中，所述控制中心模块，包括：
7、控制单元，用于根据接收到的访问申请生成第一请求，并将所述第一请求发送至广播单元；
8、广播单元，用于将所述第一请求广播至各所述控制模块。
9、在一种可能的实现方式中，所述控制中心模块，还包括：
10、统计单元，用于接收所述控制模块返回的测试结果，并根据所述控制模块返回的测试结果生成总结果，并将所述总结果发送至控制单元；
11、其中，所述总结果包括命中结果和命中失败结果，所述命中结果是接收到任意第一个结果为命中的测试结果的情况下生成的；所述命中失败结果是接收到来自各控制模块的测试结果均为未命中的情况下生成的；
12、所述测试结果中携带有以下信息的至少一种：指示命中测试是否命中的状态信息、进行命中测试的数据块的数据块id、所述缓存行标签；结果为命中的测试结果中还携带有命中缓存行的缓存行id。
13、在一种可能的实现方式中，所述统计单元，还用于在生成的总结果为所述命中结果的情况下，生成停止信号请求，并将所述停止信号请求发送至广播单元，所述停止信号请求用于指示停止针对所述第一请求的命中测试；
14、所述广播单元，还用于将所述停止信号请求广播至还未返回测试结果的各控制模块中；
15、所述控制模块中的命中测试单元，用于响应于接收到的所述停止信号请求，停止针对所述第一请求的命中测试。
16、在一种可能的实现方式中，所述控制中心模块还包括重构单元，所述控制模块还包括替换单元，
17、所述控制单元，还用于在所述总结果为表示全部未命中的失败结果的情况下，向所述重构单元发送替换请求；
18、所述重构单元，用于在接收到替换请求的情况下，根据预先构建的管理组织结构从数据块分区中确定出待查数据块，并向管理所述待查数据块的控制模块中的替换单元发送查找请求，所述数据块分区包括所述重构单元所在的控制中心模块控制的各所述控制模块所控制的数据块；
19、所述替换单元，用于响应于所述查找请求，采用plru算法查找出所述待查数据块中的可替换缓存行，并生成查找结果返回所述重构单元；
20、所述重构单元，还用于根据所述查找结果生成替换结果并返回所述控制单元，所述替换结果携带有所述可替换缓存行的缓存行id、所述可替换缓存行所在的数据块的数据块id；
21、其中，所述管理组织结构包括对应于所述数据块分区的二叉树结构和所述二叉树结构中各节点的节点信息，所述二叉树结构为满二叉树结构或非满二叉树结构。
22、在一种可能的实现方式中，所述节点信息包括：处理状态、左分区计数器和右分区计数器，
23、其中，根据预先构建的管理组织结构从数据块分区中确定出待查数据块，包括：
24、在接收到替换请求的情况下，将数据块分区对应的二叉树结构中的根节点确定为第一个目标节点并获取所述目标节点的节点信息；
25、在所述目标节点为非叶节点的情况下，将当前所述目标节点的处理状态所指示的替换方向上的所述目标节点的子节点确定为下一目标节点以及更新所述目标节点的对应于替换方向的目标计数器，直至确定出的目标节点为叶节点，则基于所述叶节点确定出待查数据块；所述目标计数器为所述目标节点的左分区计数器和右分区计数器中对应于所述目标节点的处理状态所指示的替换方向的计数器，各节点的处理状态所指示的替换方向为节点的左侧分支或右侧分支；
26、所述控制模块还包括信息存储单元，所述信息存储单元，用于存储所控制数据块中各缓存行的基本信息，所述基本信息包括各缓存行的缓存行标签和缓存行id。
27、在一种可能的实现方式中，基于所述叶节点确定出待查数据块，包括：
28、将所述叶节点的处理状态所指示的替换方向对应的数据块确定为待查数据块；或者
29、将所述叶节点对应的数据块确定为待查数据块。
30、在一种可能的实现方式中，所述节点信息还包括左分区权重和右分区权重，
31、所述重构单元，还用于在所述目标计数器的数值为预设值的情况下，重置所述目标计数器为初始值以及更改所述目标节点的处理状态所指示的替换方向；
32、其中，所述初始值为对应于所述目标计数器所在分支方向的分区权重、所述预设值为0；或者，所述初始值为0、所述预设值为对应于所述目标计数器所在分支方向的分区权重；左分区计数器所在分支方向的分区权重为左分区权重，右分区计数器所在分支方向的分区权重为右分区权重。
33、在一种可能的实现方式中，所述重构单元，还用于在确定所述目标节点的目标计数器为无效和/或所述目标节点对应于处理状态所指示的替换方向的分区权重为0的情况下，确定所述目标节点为叶节点；
34、其中，所述目标节点对应于处理状态所指示的替换方向的分区权重为左分区权重或右分区权重。
35、在一种可能的实现方式中，所述节点信息还包括左指针和右指针，
36、所述重构单元，还用于根据当前所述目标节点的处理状本文档来自技高网...
【技术保护点】
1.一种缓存管理装置，其特征在于，用于对存储区域中的多个数据块进行管理控制，每个所述数据块中包括多个缓存行，所述装置包括：至少一个控制中心模块、多个控制模块，各所述控制中心模块用于控制对应的至少一个控制模块，各所述控制模块用于控制对应的一个数据块，
2.根据权利要求1所述的装置，其特征在于，所述控制中心模块，包括：
3.根据权利要求2所述的装置，其特征在于，所述控制中心模块，还包括：
4.根据权利要求3所述的装置，其特征在于，
5.根据权利要求3所述的装置，其特征在于，所述控制中心模块还包括重构单元，所述控制模块还包括替换单元，
6.根据权利要求5所述的装置，其特征在于，所述节点信息包括：处理状态、左分区计数器和右分区计数器，
7. 根据权利要求6所述的装置，其特征在于，基于所述叶节点确定出待查数据块，包括：
8.根据权利要求6所述的装置，其特征在于，所述节点信息还包括左分区权重和右分区权重，
9.根据权利要求8所述的装置，其特征在于，
10.根据权利要求6所述的装置，其特
11.根据权利要求7所述的装置，其特征在于，所述叶节点的节点信息还包括：右地址索引、右有效索引标识、左地址索引和左有效索引标识，
12.根据权利要求7所述的装置，其特征在于，所述叶节点的节点信息还包括左地址索引、左有效索引标识，或者所述叶节点的节点信息还包括右地址索引和右有效索引标识，
13.根据权利要求8所述的装置，其特征在于，各节点的左分区权重、右分区权重与所述节点的左侧分支中数据块的左侧数量、所述节点的右侧分支中数据块的右侧数量相关，
14.根据权利要求6-13任意一项所述的装置，其特征在于，
15.根据权利要求1所述的装置，其特征在于，各所述数据块中包括个缓存行，n为正整数。
16.一种缓存管理系统，其特征在于，包括：缓存管理装置和存储区域，
...【技术特征摘要】
1.一种缓存管理装置，其特征在于，用于对存储区域中的多个数据块进行管理控制，每个所述数据块中包括多个缓存行，所述装置包括：至少一个控制中心模块、多个控制模块，各所述控制中心模块用于控制对应的至少一个控制模块，各所述控制模块用于控制对应的一个数据块，
2.根据权利要求1所述的装置，其特征在于，所述控制中心模块，包括：
3.根据权利要求2所述的装置，其特征在于，所述控制中心模块，还包括：
4.根据权利要求3所述的装置，其特征在于，
5.根据权利要求3所述的装置，其特征在于，所述控制中心模块还包括重构单元，所述控制模块还包括替换单元，
6.根据权利要求5所述的装置，其特征在于，所述节点信息包括：处理状态、左分区计数器和右分区计数器，
7. 根据权利要求6所述的装置，其特征在于，基于所述叶节点确定出待查数据块，包括：
8.根据权利要求6所述的装置，其特征在于，所述节点信息还包括左分区权重和右分区权...
【专利技术属性】
技术研发人员：请求不公布姓名，请求不公布姓名，请求不公布姓名，请求不公布姓名，
申请(专利权)人：摩尔线程智能科技北京有限责任公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。