【技术实现步骤摘要】
【国外来华专利技术】通过单片封装内光学I/O使能的远程存储器架构
技术介绍
[0001]机器学习、视觉计算和图形分析应用激增所支撑的新工作负载推动了计算系统向硬件专业化发展。近年来，已经设计了许多片上加速器系统，从图形处理单元（GPU）的演进到甚至更明确的专用片上系统（SoC）。这些专用芯片使能目标应用的高吞吐量计算，并要求高带宽、低时延的存储器访问。在同一封装中集成高带宽存储器（HBM）已经服务于该需求，但存储器堆叠的容量有限。目前，最先进的SOC具有多达四个HBM接口，其耗尽了芯片滨线和封装基板面以托管附加的HBM堆叠和接口，其中封装内的总存储器限制在仅100千兆字节（GB）以下。随着算法和应用程序迅速向更大得多的数据占用空间扩展，这些节点的性能扩展受到访问更大存储器池的需求的严重影响。目前，该连接将通过外围部件快速互连（PCIe）总线或切换到主机中央处理单元（CPU）的本地动态随机存取存储器（DRAM）。需要一种新技术来使得SOC能够以封装内互连的带宽密度、时延和能量成本来访问封装外存储器池。本专利技术就是在该背景下产生的。
技术实现思路
[000...
【技术保护点】
【技术特征摘要】
【国外来华专利技术】1.一种远程存储器系统，包括：多芯片封装的衬底；连接到衬底的集成电路芯片，所述集成电路芯片包括高带宽存储器接口；和连接到所述衬底的电光芯片，所述电光芯片具有电连接到所述集成电路芯片的高带宽存储器接口的电气接口，所述电光芯片包括被配置为与光学链路光学连接的光子接口，所述电光芯片包括至少一个光学宏，所述至少一个光学宏中的每一个被配置为将通过所述电气接口从所述高带宽接口接收的传出电数据信号转换成传出光数据信号，所述至少一个光学宏中的每一个被配置为通过光子接口将传出光数据信号传输到光学链路，所述至少一个光学宏中的每一个被配置为将通过光子接口从光学链路接收的传入光数据信号转换成传入电数据信号，所述至少一个光学宏中的每一个被配置为通过电气接口将传入电数据信号传输到高带宽存储器接口。2.根据权利要求1所述的远程存储器系统，其中，所述衬底是中介层和有机衬底中的一个或多个。3.根据权利要求1所述的远程存储器系统，其中，所述衬底包括导电布线和光波导这二者。4.根据权利要求1所述的远程存储器系统，其中，所述衬底包括再分布层结构，所述集成电路芯片倒装芯片连接到所述再分布层结构，所述电光芯片倒装芯片连接到所述再分布层结构。5.根据权利要求1所述的远程存储器系统，进一步包括：远程存储器设备，包括电光扇出芯片，所述电光扇出芯片具有光学连接到光学链路的光子接口，所述远程存储器设备包括电连接到电光扇出芯片的电气接口的高带宽存储器堆叠。6.根据权利要求5所述的远程存储器系统，其中，所述光学链路包括光纤阵列，所述光纤阵列将所述多芯片封装的电光芯片的光子接口光学连接到所述远程存储器设备的电光扇出芯片的光子接口。7.根据权利要求5所述的远程存储器系统，其中，所述远程存储器设备包括电连接到所述电光扇出芯片的电气接口的多个高带宽存储器堆叠。8.根据权利要求7所述的远程存储器系统，其中，所述多封装芯片的衬底是第一衬底，所述远程存储器设备包括第二衬底，所述第二衬底包括电布线，所述电光扇出芯片电连接到所述第二衬底中的一些电布线，所述多个高带宽存储器堆叠中的每一个电连接到所述第二衬底中的一些电布线。9.根据权利要求8所述的远程存储器系统，其中，第二衬底中的电布线形成第二衬底内的再分布层结构的一部分，电光扇出芯片倒装芯片连接到再分布层结构，所述多个高带宽存储器叠层中的每一个倒装芯片连接到再分布层结构。10.根据权利要求5所述的远程存储器系统，其中，所述多芯片封装的电光芯片和所述远程存储器设备的电光扇出芯片中的每一个被配置为通过光学链路实现光学信号的波分复用。11.根据权利要求1所述的远程存储器系统，其中，所述至少一个光学宏中的每一个包括多个发射器切片和多个接收器切片，所述多个发射器切片中的每一个发射器切片包括第
一对应光学微环谐振器，所述第一对应光学微环谐振器被配置为调制连续波光以将传出电数据信号转换成传出光数据信号，所述多个接收器切片中的每一个接收器切片包括第二对应光学微环谐振器，所述第二对应光学微环谐振器被配置为光学耦合传入光数据信号。12.根据权利要求11所述的远程存储器系统，其中，所述第一对应光学微环谐振器被配置为在指定光学波长下操作，以调制具有指定光学波长的连续波光，从而将传出电数据信号转换成具有指定光学波长的传出光数据信号，所述第二对应光学微环谐振器被配置为在指定光学波长下操作，以光学耦合具有指定光学波长的传入光数据信号。13.根据权利要求1所述的远程存储器系统，进一步包括：连接到多芯片封装的衬底的至少一个附加电光芯片，所述至少一个附加电光芯片中的每一个具有电连接到多芯片封装的集成电路芯片的对应电气接口，所述至少一个附加电光芯片中的每一个具有光学连接到对应光学链路的第一端的对应光子接口。14.根据权利要求13所述的远程存储器系统，其中，每个光学链路具有第二端，所述第二端光学连接到单独的远程存储器设备的单独的电光扇出芯片。15.根据权利要求14所述的远程存储器系统，其中，每个远程存储器设备包括电连接到远程存储器设备的电光扇出芯片的至少一个高带宽存储器堆叠。16.一种用于操作远程存储器系统的方法，包括：生成传送用于存储器访问操作的指令的第一组电数据信号；基于所述第一组电数据信号生成光数据信号，所述光数据信号传送用于存储器访问操作的指令；通过光学链路将光数据信号传输到远程存储器设备；在远程存储器设备处从光数据信号生成第二组电数据信号，所述第二组电数据信号传送用于存储器访问操作的指令；和使用第二组电数据信号在远程存储器设备处执行存储器访问操作。17.根据权利要求16所述的方法，其中，所述远程存储器设备与生成第一组电数据信号的计算设备是物理分离的。18.根据权利要求16所述的方法，其中，所述存储器访问操作是高带宽存储器访问操作。19.根据权利要求16所述的方法，进一步包括：通过高带宽存储器接口将第一组电数据信号传输到第一电光芯片的电气接口；和操作所述第一电光芯片以基于所述第一组电数据信号生成所述光数据信号，并通过所述光学链路传输所述光数据信号。20.根据权利要求19所述的方法，其中，操作第一电光芯片以生成光数据信号包括操作第一电光芯片上的多个光学微环谐振器中的至少一个光学微环谐振器以调制具有指定光波长的连续波光，从而将第一组电数据信号转换成具有指定光波长的光数据信号。21.根据权利要求19所述的方法，进一步包括：通过远程存储器设备上的第二电光芯片的光子接口从光学链路接收光数据信号；和操作第二电光芯片以从光数据信号中生成第二组电数据信号。22.根据权利要求21所述的方法，进一步包括：操作第二电光芯片以通过第二电光芯片的电气接口将第二组电数据信号传输到远程
存储器设备上的高带宽存储器堆叠；和操作高带宽存储器堆叠以使用第二组电数据信号来执行高带宽存储器堆叠内的存储器访问操作。23.根据权利要求21所述的方法，其中，操作第二电光芯片以生成第二组电数据信号包括操作第二电光芯片上的多个光学微环谐振器中的至少一个光学微环谐振器，以光学耦合通过第二电光芯片的光子接口接收的光数据信号，并将光学耦合的光数据信号传送到电连接到第二电光芯片上的解调电路的光电检测器设备， 所述解调电路操作用于基于如传送到光电检测器设备的光数据信号生成第二组电数据信号。24.一种用于配置远程存储器系统的方法，包括：具有电连接到第一多芯片封装上的第一电光芯片的集成电路芯片；将第一电光芯片光学连接到光学链路的第一端；和将第二电光芯片光学连接到所述光学链路的第二端，所述第二电光芯片电连接到与所述第一多芯片封装物理分离的第二多芯片封装上的存储器设备。25.根据权利要求24所述的方法，进一步包括：将集成电路芯片倒装芯片连接到第一多芯片封装的衬底内的再分布层结构；和将第一电光芯片倒装芯片连接到第一多芯片封装的衬底内的再分布层结构。26.根据权利要求24所述的方法，其中，光学链路形成为光纤阵列。27.根据权利要求24所述的方法，进一步包括：将第二电光芯片倒装芯片连接到第二多芯片封装的衬底内的再分布层结构；和将存储器设备倒装芯片连接到第二多芯片封装的衬底内的再分布层结构。28.根据权利要求24所述的方法，其中，所述存储器设备是高带宽存储堆叠。29.根据权利要求24所述的方法，其中，所述第一电光芯片包括至少一个光学宏，所述至少一个光学宏中的每一个被配置为将从所述集成电路芯片接收的传出电数据信号转换成传出光数据信号，并通过所述光学链路传输传出光数据信号，所述至少一个光学宏中的每一个被配置为将通过所述光学链路接收的传入光数据信号转换成传入电数据信号，并将传入电数据信号传输到所述集成电路芯片。30.根据权利要求24所述的方法，其中，所述第二电光芯片包括至少...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。