System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于便签式存储的向量数据聚集方法、装置及计算机设备制造方法及图纸_技高网

基于便签式存储的向量数据聚集方法、装置及计算机设备制造方法及图纸

技术编号:39996486 阅读:8 留言:0更新日期:2024-01-09 02:49
本申请涉及基于便签式存储的向量数据聚集方法、装置及计算机设备。所述方法包括:读取片外存储器的目标数据的索引,通过执行单元将所述索引写入便签式存储器,得到第一索引基地址。计算目标数据在片外存储器的地址,得到片外存储地址。片外存储地址包括:目标数据的基地址和目标数据的偏移索引。通过执行单元获取片外存储地址,并写入便签式存储器,得到聚集参数包。根据偏移索引与第一索引基地址按序存储聚集参数包,将聚集参数包搬运至向量寄存器。采用本方法能够使得向量计算与向量数据聚集操作并发进行,提高向量数据由片上内存到向量寄存器的聚集效率以及应用程序的性能。

【技术实现步骤摘要】

本申请涉及高性能内存访问,特别是涉及基于便签式存储的向量数据聚集方法、装置及计算机设备


技术介绍

1、为了应对现代处理器计算能力的增长需求以及功耗约束上的限制,目前的多核或众核处理器使用向量单元(vector units)技术和便签式存储(scratch-pad memory,spm)技术。一方面,向量单元使用一条向量指令开启一组数据元素的操作,在使用向量单元进行计算前,需要将所需数据由位于片外的内存加载至靠近计算单元的向量寄存器,充分地利用向量单元能够成倍地增加应用程序的性能。另一方面,便签式存储是位于处理器芯片上的能够快速访问的存储体。实际应用程序经常需要将分散在内存中不同位置的数据元素加载到一个向量寄存器中,即向量数据聚集(vector data gather)操作。在传统的计算机系统中,向量数据聚集操作通常需要使用循环来遍历数据,逐个进行计算。由于计算量较大,这种方法的效率较低,难以满足对大规模数据的高效处理需求。例如,稀疏矩阵的非零元素是零散分布的,传统的向量数据聚集方法需要逐个地访问存储器中的数据,经常需要从不同的内存位置读取元素至同一个向量寄存器中,对于大批量数据的聚集处理和访问而言,低效率的同时其并行性较差。


技术实现思路

1、基于此,有必要针对上述技术问题,提供一种能够提高向量数据聚集处理效率的基于便签式存储的向量数据聚集方法、装置及计算机设备。

2、基于便签式存储的向量数据聚集方法,应用于计算机系统中,所述计算机系统包括:执行单元、向量寄存器、便签式存储器以及片外存储器。

3、所述方法包括:

4、读取片外存储器的目标数据的索引,通过执行单元将所述索引写入便签式存储器,得到第一索引基地址。

5、计算目标数据在片外存储器的地址,得到片外存储地址。片外存储地址包括:目标数据的基地址和目标数据的偏移索引。

6、通过执行单元获取片外存储地址,并写入便签式存储器,得到聚集参数包。

7、根据偏移索引与第一索引基地址按序存储聚集参数包,将聚集参数包搬运至向量寄存器。

8、在其中一个实施例中,目标数据包括:目标数据元素、目标数据的索引以及目标数据的基地址。

9、在其中一个实施例中,还包括:应用程序读取片外存储器中离散分布的多个目标数据,执行单元接收到计算机系统的聚集指令执行提取操作,将目标数据的索引从片外存储器进行提取,并按序写入便签式存储器,得到第一索引基地址。

10、在其中一个实施例中,还包括:将目标数据的基地址与目标数据元素在片外存储器中的每个索进行逐一相加运算,得到目标数据的片外存储地址。

11、在其中一个实施例中,还包括:通过执行单元从片外存储器获取片外存储地址,并将偏移索引写入便签式存储器,得到目标数据的便签式存储地址。根据便签式存储地址按序存储目标数据元素,得到聚集参数包。聚集参数包包括:便签式存储地址、片外存储地址以及目标数据元素。

12、在其中一个实施例中,便签式存储器以1024位为数据单元搬运聚集参数包至向量寄存器。

13、基于便签式存储的向量数据聚集装置,所述装置包括:

14、第一索引基地址获取模块,用于读取片外存储器的目标数据的索引,通过执行单元将索引写入便签式存储器,得到第一索引基地址。

15、源地址获取模块,用于计算目标数据元素在片外存储器的地址,得到片外存储地址。片外存储地址包括:目标数据的基地址和目标数据的偏移索引。

16、聚集参数包获取模块,用于通过执行单元获取片外存储地址,并写入便签式存储器,得到聚集参数包。

17、聚集模块,用于根据偏移索引与第一索引基地址按序存储聚集参数包,将聚集参数包搬运至所述向量寄存器。

18、一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:

19、读取片外存储器的目标数据的索引,通过执行单元将所述索引写入便签式存储器,得到第一索引基地址。

20、计算目标数据在片外存储器的地址,得到片外存储地址。片外存储地址包括:目标数据的基地址和目标数据的偏移索引。

21、通过执行单元获取片外存储地址,并写入便签式存储器,得到聚集参数包。

22、根据偏移索引与第一索引基地址按序存储聚集参数包,将聚集参数包搬运至向量寄存器。

23、上述基于便签式存储的向量数据聚集方法、装置及计算机设备,通过使用便签式存储器存储目标数据的索引和第一索引基地址,便签式存储器是用于存储目标数据的索引和第一索引基地址的存储器,它可以提高数据访问的效率,当需要访问某个目标数据时,只需要通过该目标数据的索引在便签式存储器中查找其对应的基地址,然后通过源地址计算得到其在片外存储器中的实际地址,从而直接访问该目标数据,对于大批量数据访问而言,有效的提高了访问和处理效率及并行性。

本文档来自技高网...

【技术保护点】

1.基于便签式存储的向量数据聚集方法,其特征在于,应用于计算机系统中,所述计算机系统包括:执行单元、向量寄存器、便签式存储器以及片外存储器;

2.根据权利要求1所述的方法,其特征在于,目标数据包括:目标数据元素、所述目标数据的索引以及所述目标数据的基地址。

3.根据权利要求2所述的方法,其特征在于,读取所述片外存储器的目标数据的索引,通过所述执行单元将所述索引写入便签式存储器,得到第一索引基地址,包括:

4.根据权利要求3所述的方法,其特征在于,计算目标数据在所述片外存储器的地址,得到片外存储地址,包括:

5.根据权利要求4所述的方法,其特征在于,通过所述执行单元获取所述片外存储地址,并写入所述便签式存储器,得到聚集参数包,包括:

6.根据权利要求1至5任意一项所述的方法,其特征在于,所述便签式存储器以1024位为数据单元搬运所述聚集参数包至所述向量寄存器。

7.基于便签式存储的向量数据聚集装置,其特征在于,所述装置包括:

8.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述方法的步骤。

...

【技术特征摘要】

1.基于便签式存储的向量数据聚集方法,其特征在于,应用于计算机系统中,所述计算机系统包括:执行单元、向量寄存器、便签式存储器以及片外存储器;

2.根据权利要求1所述的方法,其特征在于,目标数据包括:目标数据元素、所述目标数据的索引以及所述目标数据的基地址。

3.根据权利要求2所述的方法,其特征在于,读取所述片外存储器的目标数据的索引,通过所述执行单元将所述索引写入便签式存储器,得到第一索引基地址,包括:

4.根据权利要求3所述的方法,其特征在于,计算目标数据在所述片外存储器的地址,得到片外存储地...

【专利技术属性】
技术研发人员:方建滨张鹏黄春唐滔彭林崔英博姜浩沈洁范小康于恒彪苏醒易昕
申请(专利权)人:中国人民解放军国防科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1