System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 处理器绑定技术制造技术_技高网
当前位置: 首页 > 专利查询>辉达公司专利>正文

处理器绑定技术制造技术

技术编号:40549396 阅读:9 留言:0更新日期:2024-03-05 19:08
本公开涉及处理器绑定技术。具体公开了用于执行软件工作负载的装置、系统和技术。在至少一个实施例中,处理器的一个或更多个电路使得编程接口选择非一致性存储器访问(NUMA)节点的一个或更多个处理器的子集来执行软件工作负载。

【技术实现步骤摘要】

至少一个实施例涉及用于使与深度学习相关联的一个或更多个作业被绑定到中央处理单元(“cpu”)核的处理资源。


技术介绍

1、在计算环境中实现cpu的高效利用可能是挑战性的。可改进用于在计算环境中向cpu分配作业的技术。


技术实现思路

【技术保护点】

1.一种处理器,包括:一个或更多个电路,所述一个或更多个电路用于执行接口,以至少部分地基于提供给所述接口的一个或更多个用户指定的参数来选择非一致性存储器访问NUMA节点的一个或更多个处理器的子集来执行软件工作负载。

2.如权利要求1所述的处理器,其中所述用户指定的参数指示用于将所述软件工作负载的进程绑定到所述一个或更多个处理器中的一个或更多个处理器的一个或更多个标准。

3.如权利要求1所述的处理器,其中所述软件工作负载是机器学习工作负载。

4.如权利要求1所述的处理器,其中所述软件工作负载包括将被绑定到一个或更多个处理器的所述子集中的一个或更多个处理器的至少一个进程。

5.如权利要求1所述的处理器,其中至少部分地基于一个或更多个处理器的所述子集中的一个或更多个处理器与GPU的接近度来选择所述处理器的子集。

6.如权利要求1所述的处理器,其中至少部分地基于由一个或更多个处理器的所述子集中的一个或更多个处理器共享的高速缓存来选择所述处理器的子集。

7.如权利要求1所述的处理器,其中至少部分地基于由一个或更多个处理器的所述子集中的一个或更多个处理器共享的插槽来选择所述处理器的子集。

8.一种系统,包括:一个或更多个电路,所述一个或更多个电路用于执行接口,以至少部分地基于提供给所述接口的一个或更多个用户指定的参数来选择非一致性存储器访问NUMA节点的一个或更多个处理器的子集来执行软件工作负载。

9.如权利要求8所述的系统,其中所述用户指定的参数指示用于将所述软件工作负载的进程绑定到所述一个或更多个处理器中的一个或更多个处理器的一个或更多个标准。

10.如权利要求8所述的系统,其中所述软件工作负载是机器学习工作负载。

11.如权利要求8所述的系统,其中所述软件工作负载包括将被绑定到一个或更多个处理器的所述子集中的一个或更多个处理器的至少一个进程。

12.如权利要求8所述的系统,其中至少部分地基于一个或更多个处理器的所述子集中的一个或更多个处理器与GPU的接近度来选择所述处理器的子集。

13.如权利要求8所述的系统,其中至少部分地基于由一个或更多个处理器的所述子集中的一个或更多个处理器共享的高速缓存来选择所述处理器的子集。

14.如权利要求8所述的系统,其中至少部分地基于由一个或更多个处理器的所述子集中的一个或更多个处理器共享的插槽来选择所述处理器的子集。

15.一种机器可读介质,其上存储有指令集,所述指令集如果由一个或更多个处理器执行,则使所述一个或更多个处理器至少执行接口,以至少部分地基于提供给所述接口的一个或更多个用户指定的参数来选择非一致性存储器访问NUMA节点的一个或更多个处理器的子集来执行软件工作负载。

16.如权利要求15所述的机器可读介质,其中所述用户指定的参数指示用于将所述软件工作负载的进程绑定到所述一个或更多个机器可读介质中的一个或更多个机器可读介质的一个或更多个标准。

17.如权利要求15所述的机器可读介质,其中所述软件工作负载是机器学习工作负载。

18.如权利要求15所述的机器可读介质,其中所述软件工作负载包括将被绑定到一个或更多个处理器的所述子集中的一个或更多个处理器的至少一个进程。

19.如权利要求15所述的机器可读介质,其中至少部分地基于一个或更多个处理器的所述子集中的一个或更多个处理器与GPU的接近度来选择所述处理器的子集。

20.如权利要求15所述的机器可读介质,其中至少部分地基于由一个或更多个处理器的所述子集中的一个或更多个处理器共享的高速缓存来选择所述处理器的子集。

...

【技术特征摘要】

1.一种处理器,包括:一个或更多个电路,所述一个或更多个电路用于执行接口,以至少部分地基于提供给所述接口的一个或更多个用户指定的参数来选择非一致性存储器访问numa节点的一个或更多个处理器的子集来执行软件工作负载。

2.如权利要求1所述的处理器,其中所述用户指定的参数指示用于将所述软件工作负载的进程绑定到所述一个或更多个处理器中的一个或更多个处理器的一个或更多个标准。

3.如权利要求1所述的处理器,其中所述软件工作负载是机器学习工作负载。

4.如权利要求1所述的处理器,其中所述软件工作负载包括将被绑定到一个或更多个处理器的所述子集中的一个或更多个处理器的至少一个进程。

5.如权利要求1所述的处理器,其中至少部分地基于一个或更多个处理器的所述子集中的一个或更多个处理器与gpu的接近度来选择所述处理器的子集。

6.如权利要求1所述的处理器,其中至少部分地基于由一个或更多个处理器的所述子集中的一个或更多个处理器共享的高速缓存来选择所述处理器的子集。

7.如权利要求1所述的处理器,其中至少部分地基于由一个或更多个处理器的所述子集中的一个或更多个处理器共享的插槽来选择所述处理器的子集。

8.一种系统,包括:一个或更多个电路,所述一个或更多个电路用于执行接口,以至少部分地基于提供给所述接口的一个或更多个用户指定的参数来选择非一致性存储器访问numa节点的一个或更多个处理器的子集来执行软件工作负载。

9.如权利要求8所述的系统,其中所述用户指定的参数指示用于将所述软件工作负载的进程绑定到所述一个或更多个处理器中的一个或更多个处理器的一个或更多个标准。

10.如权利要求8所述的系统,其中所述软件工作负载是机器学习工作负载。

11.如权利要求8所述的系统,其中...

【专利技术属性】
技术研发人员:R·H·穆昆丹S·拉马穆尔蒂S·查特吉S·罗伊
申请(专利权)人:辉达公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1