System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本公开涉及数据存储,尤其涉及一种存储装置及数据处理系统。
技术介绍
1、随着不同领域对处理器不同需求的变化,现阶段处理器的种类也多种多样,例如,cpu(central processing unit,中央处理单元/器)、gpu(graphic process unit,图形处理器,又称显示核心、视觉处理器、显示芯片),等等。以gpu为例,gpu运算工作相关的数据可以存储在片上或片外的存储单元中。其中,外部全局存储器(global memory,也称外部内存、全局内存)作为片外存储单元,设置在离gpu的core(核心处理器,也称核、运算核心、内核等)较远的地方,访问速度慢。为了解决外部全局存储器访问速度慢的问题,通常在处理器的core内部增加片上静态存储单元(如本地存储器(local memory)、系数存储器(coefficient memory)等等)以及处于gpu外的缓存(如li数据缓存(l1 data cache)、纹理缓存(texture cache)等等),其先对读写数据进行缓存,方便后续gpu读写时访问到缓存,可快速获得,无需再从外部中获取。但由于不同处理器在应用到不同的场景中对其缓存和片上存储器的访问需求不同,不同处理器的缓存和片上存储器的使用频率等使用情况也存在差异,比如,gpu可用于图形渲染和ai等通用计算领域。在gpu实际应用中,l1数据缓存在这两个不同领域均会使用到;但是local memory通常在通用计算领域广泛使用,在图形渲染领域很少使用。如何解决相关技术中这种不同应用场景下处理器的存储单元使用不均衡
技术实现思路
1、有鉴于此,本公开提出了一种存储装置及数据处理系统。
2、根据本公开的一方面,提供了一种存储装置,所述装置设置在所述处理器的各核的外部,所述装置包括:多个数据块、多个控制模块、至少一个控制中心模块和管理模块;
3、各所述数据块用于存储数据,各所述控制模块与对应的一个数据块连接并控制该数据块的访问;
4、各控制中心模块与被分配的数据块所连接的控制模块通信连接,以通过实现通信连接的控制模块对被分配的数据块的访问进行控制;
5、所述管理模块,用于接收资源管理请求,在所述资源管理请求为配置请求的情况下,为所述配置请求指示的各第一控制中心模块分配数据块,并根据所述配置请求指示的访问类型对所述第一控制中心模块、被分配的数据块所连接的控制模块的访问控制逻辑进行配置;
6、其中,所述第一控制中心模块为所述至少一个控制中心模块中的部分或全部。
7、在一种可能的实现方式中,不同访问类型对应的访问控制逻辑不同,所述访问类型包括缓存行访问和静态存储访问;所述缓存行访问对应的访问控制逻辑为以缓存行形式对数据块进行访问,所述静态存储访问对应的访问控制逻辑为以粒度单元的形式对数据块进行访问,所述第一控制中心模块所分配的数据块作为核内存储器或核外缓存。
8、在一种可能的实现方式中,所述管理模块,还用于在所述资源管理请求为释放请求的情况下,释放所述释放请求指示的各第二控制中心模块及其所分配的数据块;
9、其中,所述第二控制中心模块为所述第一控制中心模块中的部分或全部;被释放的各所述第二控制中心模块、各所述第二控制中心模块所分配的数据块连接的控制模块均被关闭,以等待再次分配。
10、在一种可能的实现方式中,各所述控制中心模块包括控制单元、统计单元、重构单元和总命中测试单元,各所述控制模块包括命中测试单元、信息存储单元、块控制单元、替换单元和读写单元;
11、在所述访问类型为缓存行访问的情况下,所述第一控制中心模块和被分配的数据块的控制模块中的各单元均被配置为开启;
12、在所述访问类型为静态存储访问的情况下,所述第一控制中心模块中的控制单元、被分配的数据块所连接的控制模块中的块控制单元和读写单元被配置为开启。
13、在一种可能的实现方式中,所述控制单元,用于根据接收到的访问类型为缓存行访问的访问申请生成第一请求,并将所述第一请求发送至总命中测试单元,所述第一请求中携带有缓存行标签;
14、总命中测试单元,用于将所述第一请求广播至各所述块控制单元;
15、各所述块控制单元,用于在确定所述第一请求的访问类型为缓存行访问的情况下,将所述第一请求发送至所在控制模块中的命中测试单元;
16、各所述命中测试单元,用于根据接收到的第一请求对所控制的数据块进行缓存行的命中测试,并将测试结果返回所述统计单元;
17、统计单元,用于根据接收到的所述控制模块返回的测试结果生成总结果,并将所述总结果发送至控制单元;其中,所述总结果包括命中结果和命中失败结果,所述命中结果是接收到任意第一个结果为命中的测试结果的情况下生成的;所述命中失败结果是接收到来自各控制模块的测试结果均为未命中的情况下生成的;
18、所述测试结果中携带有以下信息的至少一种:指示命中测试是否命中的状态信息、进行命中测试的数据块的数据块id、所述缓存行标签;结果为命中的测试结果中还携带有命中缓存行的缓存行id。
19、在一种可能的实现方式中,所述统计单元,还用于在生成的总结果为所述命中结果的情况下,生成停止信号请求,并控制所述总命中测试单元将所述停止信号请求发广播至还未返回测试结果的各命中测试单元;
20、各所述命中测试单元,用于响应于接收到的所述停止信号请求,停止针对所述第一请求的命中测试。
21、在一种可能的实现方式中,所述控制单元,还用于在所述总结果为表示全部未命中的失败结果的情况下,向所述重构单元发送替换请求;
22、所述重构单元,用于在接收到替换请求的情况下,根据预先构建的管理组织结构从数据块分区中确定出待查数据块,并向管理所述待查数据块的控制模块中的替换单元发送查找请求;
23、所述替换单元,用于响应于所述查找请求,采用plru算法查找出所述待查数据块中的可替换缓存行,并生成替换结果返回所述重构单元;
24、所述重构单元,还用于根据所述替换结果生成替换结果并返回所述控制单元,所述替换结果携带有所述可替换缓存行的缓存行id、所述可替换缓存行所在的数据块的数据块id;
25、其中,所述数据块分区包括所述重构单元所在的控制中心模块所分配的所有数据块,所述管理组织结构包括对应于所述数据块分区的二叉树结构和所述二叉树结构中各节点的节点信息。
26、在一种可能的实现方式中,所述控制单元,用于根据接收到的访问类型为静态存储访问的访问申请生成第二请求,并将所述第二请求发送至对应的块控制单元,所述第二请求中携带有地址信息;
27、所述块控制单元,用于在接收到第二请求后,在确定所述第二请求的访问类型为静态存储访问的情况下,控制所述读写单元根据所述地址信息从所述块控制单元所控制的数据块的中读取数据或写入数据。
28、在一种可能的实现本文档来自技高网...
【技术保护点】
1.一种存储装置,其特征在于,所述装置设置在处理器的各核的外部,所述装置包括:多个数据块、多个控制模块、至少一个控制中心模块和管理模块,
2.根据权利要求1所述的装置,其特征在于,不同访问类型对应的访问控制逻辑不同,所述访问类型包括缓存行访问和静态存储访问;所述缓存行访问对应的访问控制逻辑为以缓存行形式对数据块进行访问,所述静态存储访问对应的访问控制逻辑为以粒度单元的形式对数据块进行访问,所述第一控制中心模块所分配的数据块作为核内存储器或核外缓存。
3.根据权利要求1或2所述的装置,其特征在于,
4.根据权利要求2所述的装置,其特征在于,各所述控制中心模块包括控制单元、统计单元、重构单元和总命中测试单元,各所述控制模块包括命中测试单元、信息存储单元、块控制单元、替换单元和读写单元;
5.根据权利要求4所述的装置,其特征在于,
6.根据权利要求5所述的装置,其特征在于,
7.根据权利要求5所述的装置,其特征在于,
8.根据权利要求4所述的装置,其特征在于,
9.根据权利要求1所述的装置,
10.根据权利要求9所述的装置,其特征在于,所述数据块复制模块,包括:
11.根据权利要求7所述的装置,其特征在于,所述节点信息包括:处理状态、左分区计数器和右分区计数器,
12. 根据权利要求11所述的装置,其特征在于,基于所述叶节点确定出待查数据块,包括:
13.根据权利要求11所述的装置,其特征在于,所述节点信息还包括左分区权重和右分区权重,
14.根据权利要求13所述的装置,其特征在于,
15.根据权利要求11所述的装置,其特征在于,所述节点信息还包括左指针和右指针,
16.根据权利要求12所述的装置,其特征在于,所述叶节点的节点信息还包括:右地址索引、右有效索引标识、左地址索引和左有效索引标识,
17.根据权利要求12所述的装置,其特征在于,所述叶节点的节点信息还包括左地址索引、左有效索引标识,或者所述叶节点的节点信息还包括右地址索引和右有效索引标识,
18.根据权利要求13所述的装置,其特征在于,各节点的左分区权重、右分区权重与所述节点的左侧分支中数据块的左侧数量、所述节点的右侧分支中数据块的右侧数量相关,
19.根据权利要求11-18任意一项所述的装置,其特征在于,
20.根据权利要求1所述的装置,其特征在于,各所述数据块中包括个缓存行,n为正整数。
21.一种数据处理系统,其特征在于,包括:
...【技术特征摘要】
1.一种存储装置,其特征在于,所述装置设置在处理器的各核的外部,所述装置包括:多个数据块、多个控制模块、至少一个控制中心模块和管理模块,
2.根据权利要求1所述的装置,其特征在于,不同访问类型对应的访问控制逻辑不同,所述访问类型包括缓存行访问和静态存储访问;所述缓存行访问对应的访问控制逻辑为以缓存行形式对数据块进行访问,所述静态存储访问对应的访问控制逻辑为以粒度单元的形式对数据块进行访问,所述第一控制中心模块所分配的数据块作为核内存储器或核外缓存。
3.根据权利要求1或2所述的装置,其特征在于,
4.根据权利要求2所述的装置,其特征在于,各所述控制中心模块包括控制单元、统计单元、重构单元和总命中测试单元,各所述控制模块包括命中测试单元、信息存储单元、块控制单元、替换单元和读写单元;
5.根据权利要求4所述的装置,其特征在于,
6.根据权利要求5所述的装置,其特征在于,
7.根据权利要求5所述的装置,其特征在于,
8.根据权利要求4所述的装置,其特征在于,
9.根据权利要求1所述的装置,其特征在于,所述装置还包括:
10.根据权利要求9所述的装置,其特征在于,所述数据块复制模块,包括:
11.根据权利要求7所述的...
【专利技术属性】
技术研发人员:请求不公布姓名,请求不公布姓名,请求不公布姓名,请求不公布姓名,
申请(专利权)人:摩尔线程智能科技北京有限责任公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。