当前位置: 首页 > 专利查询>辉达公司专利>正文

用于减少独占操作延迟的争用跟踪制造技术

技术编号:38392318 阅读:30 留言:0更新日期:2023-08-05 17:45
本公开涉及用于减少独占操作延迟的争用跟踪。本文公开的技术涉及跟踪争用和使用跟踪的争用来减少独占存储器操作的延迟。该技术使处理器能够跟踪主存储器中的哪些位置是有争议的,并基于争议性修改独占存储器操作的处理顺序。线程可以包括同一存储器位置的多个独占操作(例如,独占加载和互补的独占存储)。可以将多个独占存储器操作添加到队列并且在队列中包括它们之间的一个或更多个介入操作。处理器可以基于添加它们的顺序处理队列中的操作,并且可以使用跟踪的争用来执行一些独占操作的乱序处理。例如,处理器可以执行独占加载操作,并且因为对应的位置是有争议的,所以可以在介入操作之前处理互补的独占存储操作。在介入操作之前处理互补的独占存储操作。在介入操作之前处理互补的独占存储操作。

【技术实现步骤摘要】
用于减少独占操作延迟的争用跟踪


[0001]本公开的实施例总体上涉及处理器高速缓存,并且更具体地,涉及跟踪争用以及基于争用管理高速缓存和存储器操作。

技术介绍

[0002]存储在存储器中的数据通常由在一个或更多个处理器上执行的不同线程访问。处理器通常将数据的本地副本存储在高速缓存中以加快对数据的访问。线程通常相互协作并轮流修改数据以避免覆盖(overwriting)彼此的修改。
附图说明
[0003]从下面给出的详细描述和从本公开的各种实施例的附图中,将更充分地理解本公开。然而,附图不应被视为将本专利技术限制于特定实施例,而仅用于解释和理解。
[0004]图1示出了根据本公开的一些实施例的包括处理器和存储器的示例计算设备。
[0005]图2是根据本公开的一些实施例的处理器和多级高速缓存的示意图。
[0006]图3是示出根据本公开的一些实施例的用于基于争用(contention)管理高速缓存的示例组件和模块的处理器的详细框图。
[0007]图4是示出根据本公开的一些实施例的用于基于争用管理存储器操作本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种系统,包括:存储器;以及处理设备,其与所述存储器可操作地耦合,用于执行以下操作,包括:确定线程被阻止访问被锁定的多个存储器位置的数据;更新数据结构以指示所述多个存储器位置是有争议的,其中所述多个存储器位置在被解锁之后保持为有争议的;处理来自队列的第一存储器操作,所述队列包括所述第一存储器操作、多个介入操作和第二存储器操作,其中所述第一存储器操作和所述第二存储器操作对存储器位置的数据进行操作;基于所述数据结构确定所述存储器位置是有争议的存储器位置;以及在所述介入操作中的至少一个介入操作之前处理所述第二存储器操作,其中所述至少一个介入操作位于所述队列中所述第一存储器操作和所述第二存储器操作之间。2.如权利要求1所述的系统,其中所述第一存储器操作确定是否先前获取了所述存储器位置的锁并且所述第二存储器操作获取所述存储器位置的锁,并且其中在所述队列中的所述至少一个介入操作之前处理所述第二存储器操作减少了获取所述有争议的存储器位置的所述锁的持续时间。3.如权利要求1所述的系统,其中所述第一存储器操作是独占加载操作,并且所述第二存储器操作是独占存储操作,并且其中所述独占加载操作是通过执行线程的加载独占处理器指令引起的,并且其中所述独占存储操作是通过执行所述线程的存储独占处理器指令引起的。4.如权利要求1所述的系统,其中所述队列包括存储器操作的有序集合,所述存储器操作的有序集合包括多个独占加载操作,随后是多个独占存储操作,并且其中在针对无争议的存储器位置的所有所述多个独占存储操作之前处理针对有争议的存储器位置的所有所述多个独占存储操作。5.如权利要求1所述的系统,其中所述操作还包括:确定第一线程获取了所述存储器位置上的锁,其中所述第一线程正在所述处理设备的第一处理核心上执行;响应于第二线程未能获取所述存储器位置上的锁而检测锁争用,其中所述第二线程正在所述处理设备的第二处理核心上执行;以及启动所述数据结构的所述更新以指示所述存储器位置是有争议的存储器位置。6.如权利要求1所述的系统,其中所述存储器位置包括主存储器的物理存储器地址,并且其中所述数据结构指示在预定时间段内的任何时间已经有争议的物理存储器地址。7.如权利要求1所述的系统,其中所述队列由第一线程和第二线程处理,其中所述第一线程处理用于加载数据的存储器操作,并且所述第二线程处理用于存储数据的存储器操作。8.一种方法,包括:确定线程被阻止访问被锁定的多个存储器位置的数据;由处理设备更新数据结构以指示所述多个存储器位置是有争议的,其中所述多个存储器位置在被解锁之后保持为有争议的;
由所述处理设备处理来自队列的第一存储器操作,所述队列包括所述第一存储器操作、多个介入操作和第二存储器操作,其中所述第一存储器操作和所述第二存储器操作对存储器位置的数据进行操作;基于所述数据结构确定所述存储器位置是有争议的存储器位置;以及由所述处理设备在所述介入操作中的至少一个介入操作之前处理所述第二存储器操作,其中所述至少一个介入操作位于所述队列中所述第一存储器操作和所述第二存储器操作之间。9.如权利要求8所述的方法,其中所述第一存储器操作确定是否先前获取了所述存储器位置的锁并且所述第二存储器操作获取所述存储器位置的锁,并且其中在所述队列中的所述至少一个介入操作之前处理所述第二存储器操作减少了获取所述有争议的存储器位置的所述锁的持续时间。10.如权利要求8所述...

【专利技术属性】
技术研发人员:A
申请(专利权)人:辉达公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1