一种私有内存分配寻址方法、装置、图形处理器及介质制造方法及图纸

技术编号:37853857 阅读:24 留言:0更新日期:2023-06-14 22:46
本发明专利技术公开了一种私有内存分配寻址方法、装置、图形处理器及介质。该方法包括:获取硬件线程所需的地址空间大小,确定各处理器核中的线程组数量及各线程组中的硬件线程数量;响应于运算中目标线程组中目标硬件线程对目标地址空间中私有数据的寻址,根据目标线程组编号确定目标线程组所属的目标工作组;其中,各线程组中数据按垂直模式排列;各线程组之间数据连续排列;根据目标地址空间、目标硬件线程编号以及硬件线程数量,确定工作组内地址偏移量;根据目标工作组信息确定工作组间地址偏移量;从而确定目标地址空间的最终地址偏移量,获取私有数据。本发明专利技术自适应地对私有内存进行分配寻址,提高了私有存储利用率,及私有数据的读写访问效率。的读写访问效率。的读写访问效率。

【技术实现步骤摘要】
一种私有内存分配寻址方法、装置、图形处理器及介质


[0001]本专利技术涉及计算机
,尤其涉及一种私有内存分配寻址方法、装置、图形处理器及介质。

技术介绍

[0002]随着计算机技术的发展,多核处理器如图形处理器(Graphics Processing Unit,GPU)的应用越来越普遍。在GPU中存在硬件线程,各个硬件线程具有独立的私有内存。
[0003]通常,硬件线程的私有数据是存储在寄存器中的,可以被处理器核高效实用。但是,当寄存器数量不足时,需要将私有数据先存储在私有内存。在需要使用私有数据时,再从私有内存读取私有数据,写入到寄存器。
[0004]现有技术中,硬件线程的私有内存使用是由应用程序执行决定的,存在私有内存分配过大或过小的问题。当为硬件线程分配的私有内存较大时,整个GPU所需的私有内存很大,内存应用率低。当为硬件线程分配的私有内存较小时,会增加私有数据搬运次数,影响GPU性能。因此,亟待提供一种对私有内存进行合理分配的技术方案。

技术实现思路

[0005]本专利技术提供了一种私有内存分配寻本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种私有内存分配寻址方法,其特征在于,包括:获取在运算中硬件线程所需私有内存的地址空间大小,并根据所述地址空间大小确定各处理器核中的线程组数量以及各线程组中的硬件线程数量;响应于运算中目标线程组中目标硬件线程对目标地址空间中私有数据的寻址,根据目标线程组编号确定所述目标线程组所属的目标工作组;其中,在各所述线程组中,数据按照垂直模式排列;在各所述线程组之间,数据连续排列;根据所述目标地址空间、目标硬件线程编号以及所述硬件线程数量,确定工作组内地址偏移量;并根据目标工作组信息确定工作组间地址偏移量;根据所述工作组内地址偏移量和所述工作组间地址偏移量,确定目标地址空间的最终地址偏移量,并根据所述最终地址偏移量获取私有数据。2.根据权利要求1所述的方法,其特征在于,根据所述地址空间大小确定各处理器核中的线程组数量以及各线程组中的硬件线程数量,包括:根据所述地址空间大小,确定所述硬件线程所需地址空间的目标长度;根据私有内存总长度、所述目标长度、以及处理器核数,确定线程组数量与各线程组中的硬件线程数量的数量总和;根据所述数量总和、预设线程组数量条件以及预设硬件线程数量条件,确定各处理器核中的线程组数量以及各线程组中的硬件线程数量。3.根据权利要求2所述的方法,其特征在于,所述预设线程组数量条件为所述线程组数量至少为2;所述预设硬件线程数量条件为所述硬件线程数量大于等于对应处理器核中的计算单元数量相同;根据所述数量总和、预设线程组数量条件以及预设硬件线程数量条件,确定各处理器核中的线程组数量以及各线程组中的硬件线程数量,包括:如果所述数量总和能同时满足所述预设线程组数量条件与所述预设硬件线程数量条件,则确定所述硬件线程数量为对应处理器核中的计算单元数量,所述线程组数量为所述数量总和与所述硬件线程数量的差值;如果所述数量总和能满足所述预设线程组数量条件,但不能满足所述预设硬件线程数量条件,则确定所述线程组数量为2,所述硬件线程数量为所述数量总和与所述线程组数量的差值;否则,确定所述硬件线程数量与所述线程组数量均为1。4.根据权利要求1所述的方法,其特征在于,在各所述线程组中,数据按照垂直模式排列,包括:根据运算中的执行度,确定所述硬件线程在每次运算中所需的数据长度;根据所述数据长度在各所述硬件线程对应私有内存的地址空间中切分至少一个内存空间组,并为各内存空间组编号;其中,同一硬件线程对应的多个内存空间组按照地址空间顺序编号;不同硬件线程对应相同数量的内存空间组,且编号对应相同;在各所述线程组中,将所有硬件线程中相同编号的内存空间组所对应的数据连续排列,并将末位硬件线程对应的当前编号内存空间组所对应的数据与首位硬件线程对应的下一编号空间组所对应的数据连续...

【专利技术属性】
技术研发人员:和华王斐孙鹏阙恒
申请(专利权)人:砺算科技上海有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1