辉达公司专利技术

辉达公司共有2181项专利

  • 本发明公开了使用大型语言模型在生成式AI应用中保留静态内容。本公开的实施例涉及使用或生成代表内容集的标记和/或标记化表示,这可能有助于缓解幻觉和本文所述的其他问题。在操作中,在推理时,一些实施例可以首先提供第一自然语言字符的表示作为机器...
  • 本发明公开了使用多模态生成式AI的改进的3D模型生成。在各种示例中,公开了涉及通过使用文本编码器对文本提示进行编码以及使用2D/3D编码器对对象的2D图像或对象的3D表示进行编码来生成输出3D潜在表示的系统和方法。通过将输出3D潜在表示...
  • 本公开涉及基于编码树的自适应量化。本文中的系统和方法用于将视频编码器与时间滤波器和编码树相关联,并且可以使用各个视频块执行视频编码的主通道,以预测与媒体流相关联的至少一个帧,其中编码树与前瞻通道相关联,并且时间滤波器可以在前瞻通道内进行...
  • 本公开涉及图形处理单元(GPU)上网络通信的并行化。实施例针对在支持高并行度的设备(例如图形处理单元(GPU))上并行处理网络通信。一般而言,实施例针对内联分组处理管道,以在GPU存储器中接收分组而无需通过中央处理器(CPU)存储器暂存...
  • 本发明公开了用于加密的应用程序编程接口。用于执行应用程序编程接口(API)的装置、系统和技术。在至少一个实施例中,所述API用于至少部分地基于一个或更多个加密算法指示符对信息进行加密。
  • 本公开的实施例涉及多裸片粒处理系统中的硬件辅助的页迁移。在多裸片粒处理系统的每个裸片粒处的硬件机制知道所有裸片粒处的引擎页表绑定,借此向软件(例如,统一虚拟存储器驱动程序)提供准确的流量通知,用于系统存储器和GPU存储器之间的按需页迁移...
  • 本发明公开了用于指示功率的应用程序编程接口,具体公开了用于执行应用程序编程接口(API)以指示一个或更多个处理器要消耗的功率量的装置、系统和技术。作为示例,一个或更多个处理器包括一个或更多个电路,用于执行API以指示由于在第一时钟频率下...
  • 本发明公开了用于解密的应用程序编程接口。用于执行应用程序编程接口(API)的装置、系统和技术。在至少一个实施例中,所述API用于使得至少部分地基于一个或更多个加密算法指示符对经加密信息进行解密。
  • 本发明公开了多晶粒芯片中性能遥测子系统的分布式多消费者控制。计算系统性能监控器提供高性能单晶粒和多晶粒计算和处理系统的行为和其他处理指示数据的片上控制、选择、收集、合并和通信,例如用于多芯片模块和/或多实例图形处理单元(GPU)和/或片...
  • 本发明公开了用于指示设备属性的应用程序编程接口,具体公开了用于执行应用程序编程接口(API)以指示一个或更多个处理器是否能够由两个或更多个驱动器并发地控制的装置、系统和技术。执行API,该API将指示计算驱动器和图形驱动器是否能够并发地...
  • 本发明公开了三维多相机感知系统和应用。在各种示例中,本文描述了三维多相机感知系统和应用。本文公开了处理使用位于整个环境中的多个相机生成的图像数据的系统和方法,以便直接确定与位于环境中的对象相关的三维(3D)信息。例如,可以使用一个或更多...
  • 本公开涉及多晶粒处理器架构中同步存储器管理单元,具体描述了在多晶粒并行处理系统(例如多晶粒图形处理单元(GPU))架构中支持分布式图形和计算引擎,以及在此类架构中同步存储器管理。各个晶粒各自具有存储器管理单元(MMU)。对于源自任何晶粒...
  • 公开了使用生成式AI的基于深度的车辆环境可视化。在各个示例中,公开了与用于车辆环境可视化的几何形状估计和动态对象渲染相关的系统和方法。自我车辆周围的环境可以通过以下操作被可视化:从图像数据中提取一个或更多个深度图,将深度图转换为周围环境...
  • 本发明公开了用于孔径特定缓存操作的系统和方法。包括第一缓存的处理设备耦合到系统存储器和包括第二缓存的并行处理单元(PPU)。接收修改与系统存储器的第一孔径相关联的第二缓存的缓存行的操作。识别第二缓存的第一缓存行子集。第一缓存行子集与系统...
  • 本公开涉及用于矩阵乘法和加法(MMA)的通用缩放元数据布局。本公开描述了使用窄操作数高效地执行矩阵乘法和加法(MMA)运算。窄操作数大小(例如,8位/6位/4位操作数)MMA运算利用缩放元数据来提高MMA运算的准确度。描述了在窄操作数大...
  • 本公开涉及用于实现存储器一致性的地址转换服务。使用与系统的第一I/O设备相关联的第一转换代理将第一虚拟地址转换为第一物理地址。该第一物理地址与该第一I/O设备的地址空间相关联。第一地址转换请求被发送到与该系统的CPU相关联的第二转换代理...
  • 本公开涉及用于单指令多线程(SIMT)架构的原子指令的高效执行。从与用于更新共享存储器的指令相关联的活动线程组中识别出具有与共享存储器相对应的同一地址的第一线程集合。选择该第一线程集合中的第一线程。使用用于访问该共享存储器的同一地址针对...
  • 在各种示例中,提供了用于实时和近实时系统和应用的受监控环境的多传感器主体跟踪。定位系统使用来自多个传感器的流数据执行多主体跟踪。主体跟踪可以基于使用从流数据中得出的表示(例如,行为嵌入)为各个主体初始化的各个锚点和行为状态。聚类可以用于...
  • 本公开涉及多处理器系统中自托管模式下网络接口与图形处理单元之间的直接连接。各种实施例包括经由多处理器系统中的网络接口和图形处理器之间的直接互连执行数据传输操作的技术,多处理器系统还包括中央处理单元(CPU)。CPU经由与图形处理器中的存...
  • 公开了使用生成式AI的基于深度的车辆环境可视化。在各个示例中,公开了与用于车辆环境可视化的几何形状估计和动态对象渲染相关的系统和方法。自我车辆周围的环境可以通过以下操作被可视化:从图像数据中提取一个或更多个深度图,将深度图转换为周围环境...