高性能计算中用于存储器分离的光学通信制造技术

本公开涉及高性能计算中用于存储器分离的光学通信。本技术通常涉及从专用集成电路(“ASIC”)封装中分离存储器。例如，高带宽存储器(“HBM”)光学模块封装可以经由一个或多个光学链路连接到ASIC封装。HBM光学模块封装可以包括HBM管芯、HBM小芯片和光学小芯片。光学小芯片可以被配置为将HBM光学模块连接到一个或多个光纤，其与ASIC封装的一个或多个其他组件形成光学链路。通过在HBM光学模块封装中包括光学小芯片，HBM光学模块封装可以从ASIC封装分离。分离。分离。

【技术实现步骤摘要】
高性能计算中用于存储器分离的光学通信
[0001]相关申请的交叉引用
[0002]本申请要求于2022年4月25日提交的美国临时专利申请No.63/334,395的申请日的权益，该申请的公开内容在此通过引用并入本文中。


[0003]本公开涉及高性能计算中用于存储器分离的光学通信。

技术介绍

[0004]高性能计算可能需要多个高带宽存储器(“HBM”)管芯。与其他类型的存储器相比，HBM可以提供更大的带宽，同时使用更小的功率。通常，HBM管芯集成在专用集成电路(“ASIC”)封装中。随着ASIC封装的性能要求增加，可能需要额外的HBM管芯来提供带宽和容量，以提高性能。然而，由于ASIC封装的空间约束、ASIC封装的功率约束和/或ASIC封装的热约束，集成在ASIC封装中的HBM管芯的数量可能受到限制。此外，对于具有集成HBM管芯的ASIC封装，任何HBM管芯中的缺陷都可能使整个ASIC封装不可操作。因此，由于故障的HBM管芯，包括ASIC管芯的整个ASIC封装可能必须更换，这可能是昂贵和浪费的。

技术实现思路

[0005]本技术通常涉及从ASIC封装中分离存储器。存储器可以为例如HBM。HBM管芯可以为光学连接到ASIC封装的HBM光学模块封装的一部分。HBM光学模块封装可以包括HBM管芯、HBM小芯片和光学小芯片。光学小芯片可以被配置为将HBM光学模块封装光学连接到ASIC封装。通过将HBM光学模块封装光学连接到ASIC封装，HBM管芯可以从ASIC封装中分离。通过将HBM管芯从ASIC封装中分离，无论ASIC封装的占地面积大小、ASIC封装的热约束和/或ASIC封装的功率约束如何，额外的HBM管芯都可以连接到ASIC封装。将HBM管芯从ASIC封装中分离可以另外或替代地提供介绍的维修成本，因为与整个ASIC封装相比，仅需更换HBM光学模块封装上的故障组件。
[0006]本技术的一个方面涉及一种封装，该封装包括一个或多个高带宽存储器(HBM)管芯、连接到一个或多个HBM模块的HBM小芯片以及耦合到HBM小芯片并且连接到一个或多个光纤的光学小芯片。光学小芯片可以被配置为经由所述一个或多个光纤将所述一个或多个HBM模块连接到单独的光学组件。
[0007]单独的光学组件可以为专用集成电路(ASIC)管芯。该封装可以包括用于一个或多个HBM管芯、HBM小芯片和光学小芯片的相应插槽。所述一个或多个HBM管芯、HBM小芯片和光学小芯片可以可移除地耦合到封装。HBM小芯片可以包括第一管芯到管芯(D2D)，并且光学小芯片包括第二D2D。HBM小芯片可以经由第一D2D与第二D2D之间的D2D接口与光学小芯片通信。
[0008]本技术的另一方面涉及一种系统，该系统包括第一封装和与第一封装光学耦合的第二封装。第二封装可以包括一个或多个高带宽存储器(HBM)管芯、连接到一个或多个HBM
模块的HBM小芯片以及耦合到HBM小芯片并且连接到一个或多个光纤的光学小芯片。光学小芯片可以被配置为经由所述一个或多个光纤将第二封装连接到第一封装。
[0009]第一封装可以为专用集成电路(ASIC)管芯。ASIC管芯可以包括一个或多个光学接口。所述一个或多个光学接口中的每个光学接口可以被配置为连接到一个或多个光纤。
[0010]光学小芯片可以包括一个或多个第一光纤端口，该第一光纤端口被配置为接收所述一个或多个光纤中的一个光纤的相应第一端，并且所述一个或多个光学接口可以包括一个或多个第二光纤端口，该第二光纤端口被配置为接收所述一个或多个光纤的相应第二端。
[0011]第二封装可以包括一个或多个HBM管芯、HBM小芯片和光学小芯片的相应插槽。所述一个或多个HBM管芯、HBM小芯片和光学小芯片可移除地耦合到第二封装。HBM小芯片可以包括第一管芯到管芯(D2D)，并且光学小芯片包括第二D2D。HBM小芯片可以经由第一D2D与第二D2D之间的D2D接口与光学小芯片通信。
附图说明
[0012]图1说明了根据本公开的方面的示例性封装。
[0013]图2说明了根据本公开的方面的示例性系统。
[0014]图3说明了根据本公开的方面的图2的示例性系统的详细部分。
具体实施方式
[0015]技术通常涉及从专用集成电路(“ASIC”)封装中分离存储器。例如，高带宽存储器(“HBM”)光学模块封装可以经由一个或多个光学链路连接到ASIC封装。HBM光学模块封装可以包括HBM管芯、HBM小芯片和光学小芯片。光学小芯片可以被配置为将HBM光学模块封装连接到一个或多个光纤，其与ASIC封装的一个或多个其他组件形成光学链路。通过在HBM光学模块封装中包括光学小芯片，HBM管芯可以从ASIC封装分离。
[0016]HBM光学模块封装与ASIC封装之间的光学链路可以允许与HBM管芯集成在ASIC封装内的情况相比，HBM光学模块封装以及因此HBM管芯与ASIC管芯的位置明显更远。由于HBM光学模块封装与ASIC封装之间的连接为光学连接，因此即使HBM管芯与ASIC封装之间的距离增加，也几乎不导致性能下降。
[0017]如本文所使用，信道范围是指信号通过光连接或电连接传播的距离。光学链路的信道范围可以比电链路的信道范围更远。通过分离HBM管芯以及将HBM管芯并入HBM光学模块封装中，系统设计者通过利用光学链路提供的更长信道范围，获得关于HBM管芯相对于ASIC封装的位置的更大灵活性。此外，由于HBM管芯可以位于ASIC封装外部，因此可以减小ASIC封装尺寸。
[0018]随着ASIC封装的性能要求增加，可能需要更多的HBM管芯来提供内存带宽和容量用于提高的性能。ASIC性能要求的增加可能限制可以在ASIC封装上放置多少HBM管芯。可用封装尺寸或ASIC占地面积可能限制封装上放置的HBM管芯的数量。例如，封装尺寸可以基于也必须连接到封装的其他组件为HBM管芯分配预定量的空间。因此，在不扩大封装的情况下，可以限制HBM管芯的空间量。放置在封装上的HBM管芯的数量可以基于封装的功率和热约束而另外或替代地受到限制。例如，在封装上包括额外的HBM管芯可能导致热输出增加。
热输出的增加可能超过封装的热约束，并且因此可能损坏封装内的组件和/或封装本身。
[0019]通过将HBM管芯并入HBM光学模块封装中，HBM管芯可以从ASIC模块分离，并且经由一个或多个光纤连接。将HBM管芯从ASIC模块分离可以增加可连接到ASIC封装的HBM管芯的数量。
[0020]图1从俯视图说明了HBM光学模块封装。HBM光学模块封装100可以包括多个组件，诸如HBM管芯102、HBM小芯片104和光学小芯片116。尽管图1示出了具有一个HBM管芯102、HBN小芯片104和光学小芯片116的示例性HBM光学模块封装100，但HBM光学模块封装可以包括任何数量的HBM管芯102、HBN小芯片104和光学小芯片116。因此，图1中所示的配置仅是一个示例，并不旨在进行限制。
[本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种封装，包括：一个或多个高带宽存储器(HBM)管芯；HBM小芯片，所述HBM小芯片被连接到所述一个或多个HBM管芯；以及光学小芯片，所述光学小芯片被耦合到所述HBM小芯片并且被连接到一个或多个光纤，其中，所述光学小芯片被配置为经由所述一个或多个光纤将所述一个或多个HBM管芯连接到单独的光学组件。2.根据权利要求1所述的封装，其中，所述单独的光学组件为专用集成电路(ASIC)管芯。3.根据权利要求1所述的封装，其中，所述封装包括用于所述一个或多个HBM管芯、所述HBM小芯片和所述光学小芯片的相应插槽。4.根据权利要求1所述的封装，其中，所述一个或多个HBM管芯、所述HBM小芯片和所述光学小芯片可移除地耦合到所述封装。5.根据权利要求1所述的封装，其中，所述HBM小芯片包括第一管芯到管芯(D2D)，并且所述光学小芯片包括第二D2D。6.根据权利要求5所述的封装，其中，所述HBM小芯片经由所述第一D2D与所述第二D2D之间的D2D接口与所述光学小芯片通信。7.一种系统，包括：第一封装；以及第二封装，所述第二封装光学耦合到所述第一封装，所述第二封装包括：一个或多个高带宽存储器(HBM)管芯；HBM小芯片，所述HBM小芯片被连接到所述一个或多个HBM管芯；以及光学小芯片，所述光学小芯片被耦合到所述HBM小芯片并且被连接到一个或多个光纤，其中，...

【专利技术属性】
技术研发人员：霍里亚，
申请(专利权)人：谷歌有限责任公司，
类型：发明
国别省市：