一种原子计数器的操作方法、装置、设备及存储介质制造方法及图纸

技术编号:37706385 阅读:9 留言:0更新日期:2023-06-01 23:55
本发明专利技术公开了一种原子计数器的操作方法、装置、设备及存储介质,包括:获取GPU中的多个待处理的线程组,确定每个线程组对应的原子计数器;根据每个线程组对应的原子操作函数,确定与每个线程组匹配的加法指令;在多个线程组中依次获取一个线程组作为当前处理线程组,根据所述当前处理线程组匹配的加法指令、当前处理线程组对应原子计数器的原始数值,以及当前处理线程组中包括的多个线程,并行计算每个线程对应的结果数据。本发明专利技术实施例的技术方案可以有效减少GPU中线程对原子计数器访问次数,提高原子计数器的性能。提高原子计数器的性能。提高原子计数器的性能。

【技术实现步骤摘要】
一种原子计数器的操作方法、装置、设备及存储介质


[0001]本专利技术涉及计算机
,尤其涉及一种原子计数器的操作方法、装置、设备及存储介质。

技术介绍

[0002]原子计数器是具备原子性事务的计数器,其具备单线程执行任务的能力,在高并发请求状态下也会保证按顺序去执行任务。
[0003]现有技术中,图形处理器(Graphics Processing Unit,GPU)中通常部署多个对原子计数器进行操作的线程组warp,每个线程组中包括多个线程thread。在对原子计数器进行操作时,通常采用串行执行的方式完成各个线程,即在一个线程执行完毕之后,再执行下一个线程。
[0004]由于原子计数器具有全局性,因此会有大量线程访问同一个原子计数器,在这种情况下如果采用串行方式执行各个线程,将会严重影响原子计数器的访问效率和性能。

技术实现思路

[0005]本专利技术提供了一种原子计数器的操作方法、装置、设备及存储介质,可以有效减少GPU中线程对原子计数器访问次数,提高原子计数器的性能。
[0006]根据本专利技术的一方面,提供了一种原子计数器的操作方法,所述方法包括:
[0007]获取GPU中的多个待处理的线程组,确定每个线程组对应的原子计数器;
[0008]根据每个线程组对应的原子操作函数,确定与每个线程组匹配的加法指令;
[0009]在多个线程组中依次获取一个线程组作为当前处理线程组,根据所述当前处理线程组匹配的加法指令、当前处理线程组对应原子计数器的原始数值,以及当前处理线程组中包括的多个线程,并行计算每个线程对应的结果数据。
[0010]根据本专利技术的另一方面,提供了一种原子计数器的操作装置,所述装置包括:
[0011]线程组获取模块,用于获取GPU中的多个待处理的线程组,确定每个线程组对应的原子计数器;
[0012]指令确定模块,用于根据每个线程组对应的原子操作函数,确定与每个线程组匹配的加法指令;
[0013]数据计算模块,用于在多个线程组中依次获取一个线程组作为当前处理线程组,根据所述当前处理线程组匹配的加法指令、当前处理线程组对应原子计数器的原始数值,以及当前处理线程组中包括的多个线程,并行计算每个线程对应的结果数据。
[0014]根据本专利技术的另一方面,提供了一种电子设备,所述设备包括:
[0015]至少一个处理器;以及
[0016]与所述至少一个处理器通信连接的存储器;其中,
[0017]所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本专利技术任一实施例所述的
原子计数器的操作方法。
[0018]根据本专利技术的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的原子计数器的操作方法。
[0019]本专利技术提供的技术方案,通过获取GPU中的多个待处理的线程组,确定每个线程组对应的原子计数器;根据每个线程组对应的原子操作函数,确定与每个线程组匹配的加法指令;在多个线程组中依次获取一个线程组作为当前处理线程组,根据当前处理线程组匹配的加法指令、当前处理线程组对应原子计数器的原始数值,以及当前处理线程组中包括的多个线程,并行计算每个线程对应的结果数据的技术手段,可以有效减少GPU中线程对原子计数器访问次数,提高原子计数器的性能。
[0020]应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0021]为了更清楚地说明本专利技术实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0022]图1是根据本专利技术实施例提供的一种原子计数器的操作方法的流程图;
[0023]图2是根据本专利技术实施例提供的另一种原子计数器的操作方法的流程图;
[0024]图3是根据本专利技术实施例提供的另一种原子计数器的操作方法的流程图;
[0025]图4是根据本专利技术实施例提供的一种原子计数器的操作装置的结构示意图。
具体实施方式
[0026]为了使本
的人员更好地理解本专利技术方案,下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本专利技术一部分的实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本专利技术保护的范围。
[0027]需要说明的是,本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0028]图1为本专利技术实施例一提供的一种原子计数器的操作方法的流程图,本实施例可适用于GPU中的多个原子操作线程,对原子计数器进行访问的情况,该方法可以由原子计数器的操作装置来执行,该原子计数器的操作装置可以采用硬件和/或软件的形式实现,该原
子计数器的操作装置可配置于电子设备中。如图1所示,该方法包括:
[0029]步骤110、获取GPU中的多个待处理的线程组,确定每个线程组对应的原子计数器。
[0030]在本实施例中,GPU中可以包括多个内核core,每个内核core上可以部署多个待处理的线程组,每个线程组中可以包括多个用于对原子计数器进行操作的线程。
[0031]在此步骤中,可选的,获取到多个线程组后,可以根据每个线程组中线程对应的访问请求,确定与各线程组对应的原子计数器。可选的,所述访问请求中可以包括对应原子计数器的标识信息。
[0032]步骤120、根据每个线程组对应的原子操作函数,确定与每个线程组匹配的加法指令。
[0033]在本实施例中,每个线程组对应的访问请求中,还可以包括各线程针对原子计数器的原子操作函数(也即与所述线程组对应的原子操作函数),在获取到所述原子操作函数之后,可以根据所述原子操作函数匹配的操作类型,转换为原子计数器操作指令。
[0034]在一个具体的实施例中,所述原子计数器操作指令可以为通过硬件形式,或软硬件结合实现的ADD指令(也即加法指令)。
[0035]步骤130、在多个线程组中依次本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种原子计数器的操作方法,其特征在于,所述方法包括:获取图形处理器GPU中的多个待处理的线程组,确定每个线程组对应的原子计数器;根据每个线程组对应的原子操作函数,确定与每个线程组匹配的加法指令;在多个线程组中依次获取一个线程组作为当前处理线程组,根据所述当前处理线程组匹配的加法指令、当前处理线程组对应原子计数器的原始数值,以及当前处理线程组中包括的多个线程,并行计算每个线程对应的结果数据。2.根据权利要求1所述的方法,其特征在于,根据每个线程组对应的原子操作函数,确定与每个线程组匹配的加法指令,包括:获取每个线程组对应的原子操作函数,如果所述原子操作函数为分配函数,则确定所述线程组匹配的加法指令为数值增加指令;如果所述原子操作函数为消费函数,则确定所述线程组匹配的加法指令为数值减少指令。3.根据权利要求1所述的方法,其特征在于,根据所述当前处理线程组匹配的加法指令、当前处理线程组对应原子计数器的原始数值,以及当前处理线程组中包括的多个线程,并行计算每个线程对应的结果数据,包括:获取当前处理线程组中多个线程的排列顺序,根据所述排列顺序,统计每个线程之前的线程数量;根据当前处理线程组对应原子计数器的原始数值、当前处理线程组匹配的加法指令,以及每个线程之前的线程数量,并行计算每个线程对应的结果数据。4.根据权利要求1所述的方法,其特征在于,在并行计算每个线程对应的结果数据之后,还包括:检测到全部线程对应的结果数据计算完成之后,对当前处理线程组对应原子计数器的原始数值进行更新,并将更新结果写入所述原子计数器。5.根据权利要求4所述的方法,其特征在于,对当前处理线程组对应原子计数器的原始数值进行更新,包括:获取当前处理线程组中的全部线程数量,根据所述当前处理线程组匹配的加法指令,以及全部线程数量,生成对应原子计数器的数值更新指令;根据所述数值更新指令,对所述原子计数器的原始数值进行更新。6.根据权利要求1所述的方法,其特征在于,在获取GPU中的多个待处...

【专利技术属性】
技术研发人员:和华周义满王斐张祖英
申请(专利权)人:砺算科技上海有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1