【技术实现步骤摘要】
向外扩展高带宽存储系统对相关申请交叉引用本专利申请要求2018年9月20日提交的题为“SCALE-OUTHIGHBANDWIDTHMEMORYSYSTEM”的美国临时专利申请序列号62/733,965的权益，其全部内容通过引用明确地并入本文
本专利技术涉及一种向外扩展高带宽存储(highbandwidthmemory，HBM)系统。
技术介绍
多年来，存储行业一直在尝试将计算功能移得更靠近存储。存储内计算具有减少由存储和处理之间的数据移动引起的各种数据总线(例如，PCIe总线)上消耗的带宽的优点。随着存储器大小的增加，各种总线上的流量变得越来越拥挤。总线带宽瓶颈有时会导致严重的性能下降。因此，存储内计算变得越来越重要，并且由于存储内计算能力的提高，存储器内引擎的数量一直在增长。例如，几乎任何在DRAM中存储大型数据集的应用程序都可以从使用存储内计算中受益，以防止出现总线瓶颈。数据库和数据处理应用程序(诸如Impala和Spark)现在包括存储内计算功能，并且许多深度学习应用程序也在使用存储内计算。在过...
【技术保护点】
1.一种高带宽存储器(HBM)系统，包括：/n第一HBM+卡，其中，第一HBM+卡包括：/n多个HBM+立方体，其中每个HBM+立方体包括逻辑裸芯和存储器裸芯；/nHBM+卡控制器，耦接到多个HBM+立方体中的每一个并且被配置为与主机接口；/n引脚连接，被配置为连接到主机，以及/n结构连接，被配置为连接到至少一个HBM+卡。/n
【技术特征摘要】
20180920 US 62/733,965;20181116 US 16/194,2191.一种高带宽存储器(HBM)系统，包括：
第一HBM+卡，其中，第一HBM+卡包括：
多个HBM+立方体，其中每个HBM+立方体包括逻辑裸芯和存储器裸芯；
HBM+卡控制器，耦接到多个HBM+立方体中的每一个并且被配置为与主机接口；
引脚连接，被配置为连接到主机，以及
结构连接，被配置为连接到至少一个HBM+卡。
2.根据权利要求1所述的HBM系统，其中，逻辑裸芯包括加速器逻辑，加速器逻辑被配置为：
从HBM+卡控制器接收指令；
将向量输入到向量引擎；
执行融合乘加浮点运算；以及
将输出返回到累加器。
3.根据权利要求1所述的HBM系统，其中，逻辑裸芯包括加速器逻辑，其中，加速器逻辑包括：
控制引擎；
缓冲器；
指令解码器；以及
通用矩阵乘法(GEMM)引擎。
4.根据权利要求3所述的HBM系统，其中，控制引擎被配置为用作路由控制器、高带宽存储器控制器、直接存储器存取(DMA)引擎、功率控制器、多模型自适应控制器(MMAC)调度器。
5.根据权利要求3所述的HBM系统，其中，GEMM引擎包括：
密集多模型自适应控制器(MMAC)；
稀疏MMAC；以及
稀疏-密集多路复用器，被配置为将稀疏数据路由到稀疏MMAC，并将密集数据路由到密集MMAC。
6.根据权利要求1所述的HBM系统，其中，存储器裸芯包括至少一个DRAM块。
7.根据权利要求1所述的HBM系统，其中，逻辑裸芯和存储器裸芯是三维堆叠的。
8.根据权利要求1所述的HBM系统，其中，多个HBM+立方体中的每一个被配置为使用基于缓冲器或点对点通信链路中的至少一个来向多个HBM+立方体中的另一个HBM+立方体发送数据和从其接收数据。
9.一种高带宽存储器(HBM)系统，包括：
第一HBM+卡，其中，第一HBM+卡包括：
第一多个HBM+立方体，其中每个第一HBM+立方体包括逻辑裸芯和存储器裸芯；
第一HBM+卡控制器，耦接到第一多个HBM+立方体中的每一个并且被配置为与主机接口；
第一引脚连接，连接到主机；和
第一结构连接，被配置为连接到至少一个HBM+卡；以及
第二HBM+卡，其中，第二HBM+卡包括：
第二多个HBM+立方体，其中每个第二HBM+立方体包括逻辑裸芯和存储器裸芯；
第二HBM+卡控制器，耦接到第二多个HBM+立方体中的每一个，并被配置为与主机接口；
第二引脚连接，被配置为连接到主机；和
第二结构连接，被配置为连接到至少一个HBM+卡。
10.根据权利要求9所述的HBM系统，其中...
【专利技术属性】
技术研发人员：郑宏忠，KT马拉迪，牛迪民，P古，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：韩国;KR
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。