【技术实现步骤摘要】
基于指令的能量特性和机器学习有效地操作处理系统的技术优先权要求本申请要求于2018年8月9日提交的、题为“用于高效的系统运行的基于能量感知指令的功率管理(Energyawareinstructionbasedpowermanagementforefficientsystemoperation)”的62/716,513号美国临时申请的权益，其全部内容通过引用并入本文中。
此技术涉及集成电路功率管理，并且更具体地涉及集成电路中用于功率管理的动态电压和/或频率调整。更具体地说，此技术涉及基于感测即将到来的处理器指令来管理功率以及采用系统内增强的学习机制来预测/改善功率控制系统参数。用例包括GPU的大规模并行处理器的功率管理。
技术介绍
图形处理器(GPU)已经变得无处不在。不再仅仅用于图形，GPU现在被广泛用于从密集计算操作中获益的应用，包括例如人工智能、实时模式识别和无人车辆控制，以及无数其他应用。许多GPU都是大规模并行的，这意味着它们包含许多并行运行的计算元素(例如，可编程流式多处理器(“SM”)。这...
【技术保护点】
1.一种GPU，包括：/n并行处理器，每个并行处理器包括指令解码器，所述指令解码器在执行前对指令进行解码，并发送指令执行的预期功率使用信号；/n功率控制器，其至少部分地响应于所发信号的预期功率使用调整提供给所述处理器的功率；以及/n神经网络，其适应所述功率控制器执行的调整，/n其中，所述神经网络执行强化学习以缓解峰值功率场景。/n
【技术特征摘要】
20180809 US 62/716,513;20190717 US 16/514,0781.一种GPU，包括：
并行处理器，每个并行处理器包括指令解码器，所述指令解码器在执行前对指令进行解码，并发送指令执行的预期功率使用信号；
功率控制器，其至少部分地响应于所发信号的预期功率使用调整提供给所述处理器的功率；以及
神经网络，其适应所述功率控制器执行的调整，
其中，所述神经网络执行强化学习以缓解峰值功率场景。
2.根据权利要求1所述的GPU，其中所述指令解码器包括指令先行预解码器，其预先解码将来要执行的指令，并估计执行所述指令将使用多少功率，并且每个所述并行处理器包括额外的指令解码器，其对所述指令进行解码以供执行。
3.根据权利要求1所述的GPU，其中所述功率控制器配置为降低功率以避免峰值功率过冲。
4.根据权利要求1所述的GPU，其中所述神经网络控制所述并行处理器修改其指令执行，以降低峰值功率要求。
5.一种处理系统，包括：
多个处理器；以及
功率管理电路，配置为：
比较所述多个处理器使用的功率和所估计的所述多个处理器将来要使用的预测功率；
生成一个或更多个控制信号，以响应于所述比较改变所述多个处理器的工作功率；以及
执行强化学习，以适应所述一个或更多个控制信号的所述生成。
6.根据权利要求5所述的处理系统，其中所述强化学习使用基于玩家评委的机器学习或Q-学习机器学习。
7.根据权利要求5所述的处理系统，其中所述功率管理电路包括比例-积分-微分(PID)控制器，所述比例-积分-微分(PID)控制器被配置为接收所述比较的差异结果并生成所述一个或更多个信号，以改变所述处理系统的工作频率和/或电压。
8.根据权利要求7所述的处理系统，其中所述强化学习修改所述PID控制器的操作系数。
9.根据权利要求7所述的处理系统，其中所述PID控制器在每个时钟周期生成所述一个或更多个信号，并且所述强化学习以超过时钟周期的间隔修改所述PID控制器的操作系数。
10.根据权利要求5所述的处理系统，其中：
每个处理器被配置为预解码所述各个处理器接收的指令，并基于预解码的指令生成信号，所述信号估计待处理指令的功率消耗水平；以及
所述功率管理电路进一步被配置为聚合来自每个处理器的指示能量消耗水平的信号，并基于聚合的信号预测功率。
11.根据权利要求5所述的处理系统，其中所述功率管理电路被配置为基于生成的所述一个或更多个控制信号调整所述处理系统的工作频率和工作电压。
12.根据权利要求5所述的处理系统，其中所述功率管理电路被配置为基于生成的一个或更多个控制信号控制所述一个或更多个处理器，以延迟一个或更多个待处理指令的执行。
13.根据权利要求5所述的处理系统，其中所述功率管理电路包括模拟-数字转换器(ADC)，其被配置为接收表示向所述处理系统提供的电压和/或电流的输入信号，并基于所述输入信号生成表示所述处理系统正在使用的所述功率的数字输出信号。
14.根据权利要求5所...
【专利技术属性】
技术研发人员：S·伊德甘吉，M·西乌，顾俊，J·雷利，M·帕特尔，R·塞尔瓦桑，E·库巴勒萨卡，
申请(专利权)人：辉达公司，
类型：发明
国别省市：美国;US
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。