多层次异构存储架构的调度方法、计算机设备和存储介质技术

技术编号:39427737 阅读:61 留言:0更新日期:2023-11-19 16:13
本发明专利技术提供一种多层次异构存储架构的调度方法、计算机设备和存储介质,所述方法包括:对当前程序代码进行识别得到适用PIM计算范式的目标代码段;根据所述目标代码段的计算逻辑,选择相匹配的目标层存储器的存算单元;当所述目标层存储器的存算单元的可用资源量满足所述目标代码段的操作容量需求,且所述目标代码段的待计算数据位于所述目标层存储器的存算单元中时,在所述目标层存储器的存算单元中对编译后的目标代码段执行PIM计算;本发明专利技术包括复数类型的存内计算硬件的多层次异构存储架构,可以满足多种应用程序的不同数据存储和计算需求;并且对多层次异构存储架构进行动态调度,提高数据密集型和计算密集型程序的运行效率。行效率。行效率。

【技术实现步骤摘要】
多层次异构存储架构的调度方法、计算机设备和存储介质


[0001]本专利技术涉及内存管理
,具体涉及一种多层次异构存储架构的调度方法、计算机设备和存储介质。

技术介绍

[0002]存内计算是当前计算机领域的一个热门研究方向和发展趋势,通过在存储单元中实现计算操作,消除了“存”和“算”之间的界限,无需从存储器重新加载数据,提供更快的计算速度和更低的能量消耗。
[0003]存内计算技术发展中涵盖多种类型存储介质,对应了存储器系统中不同层次的存储器。但目前的存内计算方案仍然以单一的技术实现为主,无法集成两个或多个复数类型的存内计算单元于系统中;另一方面,受限于实现存储介质的特征,不同类型存内计算技术有着不同的技术特点,计算效率和数据容量差异较大,对于多种应用程序的不同数据存储和计算需求,单一的存内计算实现无法充分解决程序的存算矛盾。
[0004]因此,现有技术中单一的存内计算无法满足多种应用程序的不同数据存储和计算需求。

技术实现思路

[0005]针对相关技术中所存在的不足,本专利技术提供的一种多层次异构存储架构的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种多层次异构存储架构的调度方法,其特征在于,所述多层次异构存储架构包括N层存储器,每层存储器包括支持内存读写操作的存储单元、或/和支持内存读写操作和存内计算的存算单元,在所述N层存储器中的至少两层存储器都包括存算单元,且每层存储器中存算单元的计算逻辑不同;所述方法包括:当获取到编译命令中的编译选项包括启用PIM计算时,对当前程序代码进行识别得到适用PIM计算范式的目标代码段;根据所述目标代码段的计算逻辑,选择相匹配的目标层存储器的存算单元;当所述目标层存储器的存算单元的可用资源量满足所述目标代码段的操作容量需求,且所述目标代码段的待计算数据位于所述目标层存储器的存算单元中时,在所述目标层存储器的存算单元中对编译后的目标代码段执行PIM计算。2.如权利要求1所述的多层次异构存储架构的调度方法,其特征在于,对当前程序代码进行识别得到适用PIM计算范式的目标代码段,包括:对所述当前程序代码分别进行并行化和向量化识别,获取可并行化或/和可向量化的初始代码段;若所述初始代码段的数据大小超过预设阈值时,根据不同层中存算单元中计算将所述初始代码段标记为适用PIM计算范式的目标代码段。3.如权利要求1所述的多层次异构存储架构的调度方法,其特征在于,当获取到编译命令中的编译选项还包括PIM计算优化时,对当前程序代码进行识别得到适用PIM计算范式的目标代码段,包括:对所述当前程序代码分别进行并行化和向量化识别,获取可并行化或/和可向量化的初始代码段;若所述初始代码段的数据量大小超过预设阈值时,根据每层存储器中存算单元的计算逻辑,将所述初始代码段中的PIM计算拆分成多个算子,将所述多个算子分别标记为适用PIM计算范式的多个目标代码段。4.如权利要求2或3所述的多层次异构存储架构的调度方法,其特征在于,根据所述目标代码段的计算逻辑,选择相匹配的目标层存储器的存算单元,包括:对所述目标代码段的数据操作类别进行识别,得到计算逻辑;对所述目标代码段的数据量大小进行识别,得到数据规模;将...

【专利技术属性】
技术研发人员:曹二帅张莉丽
申请(专利权)人:重庆位图信息技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1