算力加速卡、设计方法及算力服务器技术

技术编号:41873119 阅读:57 留言:0更新日期:2024-07-02 00:24
本申请提供一种算力加速卡、设计方法及算力服务器,算力加速卡包括:电路板,布设在电路板上的P个算力芯片;算力芯片包括封装基板以及布设在封装基板上的N个算力芯粒硅片,N大于或者等于1、小于或者等于单个算力芯片所允许容纳的算力芯粒硅片数目阈值;算力芯粒硅片包括算力核心单元以及与算力核心单元连接的M个高速串行接口,P、M均大于或者等于1;位于同一算力芯片上的算力芯粒硅片通过对应的高速串行接口形成封装级互连,位于不同算力芯片上的算力芯粒硅片通过对应的高速串行接口形成电路板级互连;P个算力芯片对应的算力核心单元构成核心计算模组。本申请可提升算力芯片的算力能力,降低芯片封装成本,构建高规格算力加速卡。

【技术实现步骤摘要】

本申请涉及电路设计,尤其涉及一种算力加速卡、设计方法及算力服务器


技术介绍

1、以chatgpt(chat generative pre-trained transformer,聊天生成预训练转换模型)为代表的人工智能应用需要大量的算力支撑,算力加速卡是一种内嵌算力芯片、用于专门处理人工智能等应用的电路模块单元,常见的形态包括pcie(peripheral componentinterconnect express,高速外围组件互联)加速卡、oam模组(ocp accelerator module,基于ocp标准的开放加速模组)等。

2、一台典型的多卡算力服务器包括cpu(central processing unit,中央处理器)、硬盘、内存、主板、以及多张pcie算力加速卡,由于服务器pcie卡槽数目固定(可插加速卡数量固定),单卡算力越高,cpu/硬盘等固定成本摊销越划算。

3、目前,生成式ai(artificial intelligence,人工智能)等大模型应用正在带来时代变革,全球算力需求呈爆发式增长趋势,但同时也面临本文档来自技高网...

【技术保护点】

1.一种算力加速卡,其特征在于,包括:

2.根据权利要求1所述的算力加速卡,其特征在于,所述算力芯粒硅片的M个高速串行接口对应于相同接口结构,不同算力芯粒硅片对应的高速串行接口的接口结构相同;且所述高速串行接口为可作为封装互连接口和电路板互连接口的统一互连接口。

3.根据权利要求2所述的算力加速卡,其特征在于,位于同一所述算力芯片上两个相连的所述算力芯粒硅片之间布设基板连线,且两个所述算力芯粒硅片的对应高速串行接口通过所述基板连线连接;

4.根据权利要求3所述的算力加速卡,其特征在于,所述高速串行接口支持调整传输速率;

5.根据权利要求1至...

【技术特征摘要】

1.一种算力加速卡,其特征在于,包括:

2.根据权利要求1所述的算力加速卡,其特征在于,所述算力芯粒硅片的m个高速串行接口对应于相同接口结构,不同算力芯粒硅片对应的高速串行接口的接口结构相同;且所述高速串行接口为可作为封装互连接口和电路板互连接口的统一互连接口。

3.根据权利要求2所述的算力加速卡,其特征在于,位于同一所述算力芯片上两个相连的所述算力芯粒硅片之间布设基板连线,且两个所述算力芯粒硅片的对应高速串行接口通过所述基板连线连接;

4.根据权利要求3所述的算力加速卡,其特征在于,所述高速串行接口支持调整传输速率;

5.根据权利要求1至4任一项所述的算力加速卡,其特征在于,在所述算力芯片中,第一算力芯粒硅片与至少一个第二算力芯粒硅片连接;

6.根据权利要求...

【专利技术属性】
技术研发人员:方绍峡原钢
申请(专利权)人:原粒北京半导体技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1