当前位置: 首页 > 专利查询>辉达公司专利>正文

生成功率高效的安全多客户端性能监控数据制造技术

技术编号:38942836 阅读:47 留言:0更新日期:2023-09-25 09:40
本公开涉及生成功率高效的安全多客户端性能监控数据。各种实施例包括一种用于在计算系统中生成性能监控数据的系统。该系统包括具有一组计数器的单元级计数器,其中每个计数器在对应的电子信号处于第一状态(例如高或低逻辑电平状态)的每个时钟周期期间递增。周期性地,单元级计数器将计数器值传送到对应的计数器收集单元。计数器收集单元包括一组计数器,其聚合多个单元级计数器中的计数器的值。基于某些触发条件,计数器收集单元将记录传输到归约通道。归约通道包括一组计数器,这些计数器在多个计数器收集单元中聚合计数器的值。在系统上执行的每个虚拟机都可以访问不同的对应归约通道,从而为每个虚拟机提供安全的性能度量数据。量数据。量数据。

【技术实现步骤摘要】
生成功率高效的安全多客户端性能监控数据


[0001]各种实施例总体上涉及计算架构,并且更具体地涉及生成功率高效的安全多客户端性能监控数据。

技术介绍

[0002]计算系统,也称为服务器,此外通常包括一个或更多个处理单元,例如中央处理单元(CPU)和/或图形处理单元(GPU),以及一个或更多个存储器系统。处理单元执行用户模式软件应用程序,该应用程序提交和启动计算任务,在包括在处理单元中的一个或更多个计算引擎上执行。数据中心可以部署大量此类计算系统,其中每个计算系统可以为数据中心的多个客户端执行多个虚拟机。在计算系统的CPU上执行的管理程序代表数据中心的管理用户执行用于划分GPU的各种技术。访客用户被分配到一个分区,然后可以在该分区内的一个或更多个虚拟机上执行处理任务,与分配给任何其他分区的任何其他访客用户隔离。计算系统由此能够为多个客户端安全地执行软件应用程序,而没有将数据从一个虚拟机泄漏到另一个虚拟机的风险。
[0003]数据中心的管理用户和各种虚拟机的访客用户通常都希望收集与在处理单元上执行的软件应用相关联的性能监控数据。数据中心的管理用户可能希望为整个计算系统收集性能监控数据。管理用户可能还希望为在计算系统上执行的每个单独的虚拟机收集性能监控数据。管理用户可以使用该性能监控数据来确定计算系统是如何被使用的、计算系统是否部署有适当的存储器和其他硬件、软件应用程序是否可以更有效地使用硬件等。每个访客用户可能想要收集分配给访客用户的虚拟机的性能监控数据,以便确定如何更有效地使用分配的虚拟机的硬件资源。此外,每个虚拟机可以在多个进程(也称为上下文)之间对计算资源进行时间分片,其中一个上下文执行第一时间段,然后另一个上下文执行第二时间段,等等。访客用户可能想要为每个单独的上下文收集性能监控数据,以确定虚拟机的哪些上下文执行得更有效,哪些上下文执行效率较低。为了实现这些目标,计算系统作为一个整体、每个虚拟机以及在每个虚拟机中执行的每个上下文的性能监控数据都应该并发地生成。
[0004]传统上,计算系统中的某些处理单元支持生成某些类型的性能数据的剖析电路(profiling circuitry),该性能数据对软件工程师在发布之前开发、调试和优化软件应用程序时有用。软件工程师在执行剖析的软件应用程序时使用剖析电路。通常,软件工程师在一小部分软件应用程序的循环中的短时间内使用剖析电路或将其重复使用。虽然剖析电路生成某些类型的性能数据,但由于各种原因,该剖析电路不太适合上述性能监控。首先,剖析电路被设计为在短时间内为特定软件应用程序生成剖析数据。这种剖析电路无法在计算系统上的所有虚拟机上执行的所有上下文中生成性能监控数据而不影响软件应用程序行为。其次,剖析电路不太适合以节能方式一次或长时间监控大量度量。如上所述扩展现有的剖析电路以生成性能监控数据会导致大量的功耗和计算资源用于生成性能监控数据。第三,剖析电路被优化为间歇性地执行短时间执行、循环执行等,并且不太适合连续操作。第
四,如果剖析电路用于生成性能监控数据,则剖析电路不能并发地用于剖析正在测试的软件,这是剖析电路的主要应用。
[0005]如前所述,本领域需要用于在计算系统中安全地生成性能监控数据的更有效的技术。

技术实现思路

[0006]本公开的各种实施例阐述了一种用于生成性能监控数据的计算机实现的方法。该方法包括接收表示第一性能度量的电子信号。该方法还包括在电子信号处于第一状态的每个时钟周期期间递增与性能度量相关联的第一计数器。该方法还包括串行化存储在第一计数器中的值以生成串行化值。该方法还包括经由一个或更多个电子信号路径传送串行化值。
[0007]其他实施例包括但不限于实现所公开技术的一个或更多个方面的系统,以及包括用于执行所公开技术的一个或更多个方面的指令的一个或更多个计算机可读介质,以及用于执行所公开技术的方法所公开技术的一个或更多个方面。
[0008]所公开的技术相对于现有技术的至少一个技术优势在于,利用所公开的技术,性能监控子系统安全地且连续地为在计算系统上执行的所有虚拟机和在那些虚拟机上执行的所有上下文生成性能监控数据。此外,性能监控子系统被构造成使用高效架构来分发性能监控数据,该架构相对于为开发、调试和优化单个软件应用程序而设计的剖析电路更省电。此外,性能监控子系统独立于剖析电路运行。因此,可以同时使用性能监控和剖析电路。这些优点代表了对现有技术方法的一项或更多项技术改进。
附图说明
[0009]为了更详细地理解上述各种实施例的相关特征,可以通过参考各种实施例(其中一些已在附图中说明)对上述简要概括的本专利技术概念进行更具体的描述。但是,需要注意的是,所附的附图只说明专利技术概念的典型实施例,因此并不是以任何方式限制范围,还存在其他同样有效的实施例。
[0010]图1是被配置成用于实施各个实施例的一个或更多个方面的计算机系统的框图;
[0011]图2是根据各个实施例的包括在图1的加速器处理子系统中的并行处理单元(PPU)的框图;
[0012]图3是根据各个实施例的包括在图2的并行处理单元(PPU)中的通用处理集群(GPC)的框图;
[0013]图4是根据各种实施例的包括在图2的PPU中的性能监控子系统的框图;以及
[0014]图5是根据各种实施例的用于为诸如图2的PPU的处理单元生成性能监控数据的方法步骤的流程图。
具体实施方式
[0015]在以下描述中,阐述了许多具体细节以便提供对各种实施例的更彻底的理解。然而,对于本领域技术人员将显而易见的是,可以在没有这些具体细节中的一个或更多个的情况下实践本专利技术构思。
[0016]系统概述
[0017]图1是被配置为实现各个实施例的一个或更多个方面的计算机系统100的框图。如图所示,计算机系统100包括但不限于中央处理单元(CPU)102、系统存储器104,其经由存储器桥105和通信路径113耦合至加速器处理子系统112。存储器桥105进一步地经由通信路径106耦合至I/O(输入/输出)桥107,I/O桥107又耦合至交换机116。
[0018]在操作中,I/O桥107被配置为从输入设备108(诸如键盘或鼠标)接收用户输入信息,并经由通信路径106和存储器桥105将输入信息转发给CPU 102进行处理。在一些示例中,输入设备108用于验证一个或更多个用户的身份,以允许授权用户访问计算机系统100并且拒绝未授权用户访问计算机系统100。交换机116被配置为在I/O桥107和计算机系统100的其他组件(如网络适配器118和各种附加卡120和121)之间提供连接。在一些示例中,网络适配器118用作主要或专用输入设备以接收输入数据以通过所公开的技术进行处理。
[0019]还如图所示,I/O桥107耦合至系统盘114,系统盘114可以被配置为存储内容、应用程序和数据,以供CPU 102和加速器处理子系统112使用。一般来说,系统盘114为应用程序和数据提供非暂时性存储器,可包括固定的或可移除的硬盘驱动器、本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种用于生成性能监控数据的计算机实现的方法,所述方法包括:接收表示性能度量的电子信号;在所述电子信号处于第一状态的每个时钟周期期间递增与所述性能度量相关联的第一计数器;串行化存储在所述第一计数器中的值以生成串行化值;以及经由一个或更多个电子信号路径传送所述串行化值。2.如权利要求1所述的计算机实现的方法,还包括:接收所述串行化值;将所述串行化值反串行化以生成反串行化值;以及将所述反串行化值添加到与所述性能度量相关联的第二计数器。3.如权利要求2所述的计算机实现的方法,其中所述第二计数器包括28位。4.如权利要求2所述的计算机实现的方法,还包括:接收触发器;生成包括存储在所述第二计数器中的值的记录;传送所述记录;以及将所述第一计数器重置为初始值。5.如权利要求4所述的计算机实现的方法,其中所述第二计数器包括28位。6.如权利要求4所述的计算机实现的方法,还包括:接收所述记录;从所述记录中提取存储在所述第二计数器中的值;以及将存储在所述第二计数器中的值添加到与所述性能度量相关联的第三计数器。7.如权利要求6所述的计算机实现的方法,其中所述第三计数器包括64位。8.如权利要求6所述的计算机实现的方法,其中所述第三计数器被包括在与虚拟机级别相关联的一组计数器中,并且还包括将存储在所述第二计数器中的值添加到与设备相关联的第四计数器。9.如权利要求8所述的计算机实现的方法,其中所述第四计数器可通过安全处理器访问。10.如权利要求6所述的计算机实现的方法,还包括将存储在所述第三计数器中的值存储在存储器中,所述存储器存储与所述性能度量相关联的管理程序的性能度量。11.如权利要求6所述的计算机实现的方法,还包括将存储在所述第三计数器中的值存储在存储器中,所述存储器存储与所述性能度量相关联的虚拟机的性能度量。12.如权利要...

【专利技术属性】
技术研发人员:P
申请(专利权)人:辉达公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1