异构计算环境的设备和系统技术方案

本发明专利技术提供一种设备，所述设备可包含可至少部分地由任务调度程序控制的异构计算环境，其中异构计算环境可包含：处理单元，具有配置成执行指令的固定逻辑电路；可重编程处理单元，具有配置成执行指令的可重编程逻辑电路，所述指令包含用以控制存储器内处理功能的指令；以及高带宽存储器裸片的堆叠，其中每一堆叠可配置成存储数据并提供由可重编程处理单元可控制的存储器内处理功能，从而使得可重编程处理单元至少部分地与高带宽存储器裸片一起堆叠。任务调度程序可配置成在处理单元与可重编程处理单元之间调度计算任务。本发明专利技术也提供一种异构计算环境的系统。

【技术实现步骤摘要】
异构计算环境的设备和系统相关申请案的交叉引用本申请请求2017年9月14日提交的标题为“高效学习系统的异构加速器(AHETEROGENEOUSACCELERATORFORHIGHLYEFFICIENTLEARNINGSYSTEMS)”的临时专利申请第62/558,745号的优先权。此先前提交的申请的主题特此以引用的方式并入。
本说明书大体上涉及电路。确切地说，本公开涉及一种用于高效学习系统的异构加速器的系统和方法。
技术介绍
如学习系统(例如深度神经网络)的新兴应用通常需要大量计算和存储能力以在不同数据集上训练并以高精度学习。此外，随着如高性能计算、图形操作等应用变为数据密集型及计算密集型，能量效率和低延时变得至关重要。一种称为“存储器内处理”的技术具有通过在较低功率技术处理中且还更接近于数据驻留处在存储器(例如动态随机存储器(dynamicrandomaccessmemory；DRAM)等)逻辑裸片上调度复杂操作以提供额外计算能力从而解决这些挑战的能力。高带宽存储器(HighBandwidthMemory；HBM)是用于3D堆叠存储器(例如DRAM)的高性能随机存取存储器(rand本文档来自技高网...

【技术保护点】
1.一种异构计算环境的设备，其特征在于，包括：异构计算环境，至少部分地由任务调度程序控制，所述异构计算环境包括：处理单元，具有配置成执行指令的固定逻辑电路；可重编程处理单元，具有可重编程逻辑电路，所述可重编程逻辑电路配置成执行包含用以控制存储器内处理功能的指令的指令；以及高带宽存储器裸片的堆叠，每一堆叠配置成存储数据并提供可由所述可重编程处理单元控制的存储器内处理功能，其中所述可重编程处理单元至少部分地与所述高带宽存储器裸片一起堆叠；以及其中所述任务调度程序配置成在所述处理单元与所述可重编程处理单元之间调度计算任务。

【技术特征摘要】
2017.09.14 US 62/558,745;2017.11.28 US 15/825,0471.一种异构计算环境的设备，其特征在于，包括：异构计算环境，至少部分地由任务调度程序控制，所述异构计算环境包括：处理单元，具有配置成执行指令的固定逻辑电路；可重编程处理单元，具有可重编程逻辑电路，所述可重编程逻辑电路配置成执行包含用以控制存储器内处理功能的指令的指令；以及高带宽存储器裸片的堆叠，每一堆叠配置成存储数据并提供可由所述可重编程处理单元控制的存储器内处理功能，其中所述可重编程处理单元至少部分地与所述高带宽存储器裸片一起堆叠；以及其中所述任务调度程序配置成在所述处理单元与所述可重编程处理单元之间调度计算任务。2.根据权利要求1所述的设备，其特征在于，所述处理单元包括图形处理单元。3.根据权利要求1所述的设备，其特征在于，所述处理单元配置成经由远端直接存储器存取来存取存储在所述高带宽存储器裸片中的数据；以及其中所述可重编程处理单元包含配置成对来自所述处理单元的远端直接存储器存取进行服务的直接存储器存取电路，其中所述远端直接存储器存取针对所述高带宽存储器裸片来进行。4.根据权利要求1所述的设备，其特征在于，所述处理单元包括配置成对来自所述高带宽存储器裸片的数据进行分级的寄存器存储器。5.根据权利要求1所述的设备，其特征在于，所述任务调度程序配置成使得所述处理单元执行任务的第一部分，且所述可重编程处理单元执行所述任务的第二部分，其中所述处理单元配置成暂停所述任务的执行，且至少部分地基于旗标类同步协议来等待将所述任务的执行卸载到所述可重编程处理单元。6.根据权利要求5所述的设备，其特征在于，所述处理单元配置成轮询所述可重编程处理单元以确定所述可重编程处理单元是否准备好执行所述任务。7.根据权利要求5所述的设备，其特征在于，所述任务调度程序配置成告知所述处理单元所述可重编程处理单元准备好执行所述任务。8.一种异构计算环境的设备，其特征在于，包括：异构计算环境，至少部分地由中央处理单元控制，所述异构计算环境包括：所述中央处理单元，配置成在固定处理单元与可重编程处理单元之间分配计算任务；所述固定处理单元，具有配置成执行指令的固定逻辑电路；所述可重编程处理单元，具有可重编程逻辑电路，所述可重编程逻辑电路配置成执行包含用以控制存储器内处理功能的指令的指令；高带宽存储器裸片的堆叠，每一堆叠配置成存储数据并提供由所述可重编程处理单元可控制的存储器内处理功能，其中所述可重编程处理单元至少部分地与所述高带宽存储器裸片一起堆叠；以及中央存储器，包括为所述固定处理单元保留的缓冲器部分，以及为所述可重编程处理单元保留的缓冲器部分。9.根据权利要求8所述的设备，其特征在于，所述中央处理单元配置成向所述固定处理单元分配第一任务以用于执行；其中所述固...

【专利技术属性】
技术研发人员：克里希纳·T·马拉迪，郑宏忠，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：韩国,KR