GPU缓存系统技术方案

技术编号:41850404 阅读:11 留言:0更新日期:2024-06-27 18:27
本发明专利技术涉及一种GPU缓存系统,包括GPU的M个执行单元,第一级GPU高速缓冲存储器、M个第二级GPU高速缓冲存储器C<supgt;2</supgt;、控制单元、扩展存储器和设置在CPU中的驱动模块;A<subgt;m</subgt;为第m个执行单元;C<supgt;1</supgt;<subgt;m</subgt;为设置在A<subgt;m</subgt;上的第一级高速缓冲存储器;驱动模块用于将存储单元划分为第一存储单元和第二存储单元,并将第一存储单元设置为GPU的第三级GPU高速缓冲存储器C<supgt;3</supgt;,将第二存储单元从逻辑上合并至GPU显存中;控制单元用于记录C<supgt;2</supgt;中数据访问信息,并在需要替换数据时,将C<supgt;2</supgt;中符合预设的访问需求的待替换的数据存储至C<supgt;3</supgt;中。本发明专利技术提高了GPU的数据访问速度,提升了GPU的性能。

【技术实现步骤摘要】

本专利技术涉及芯片,尤其涉及一种gpu缓存系统。


技术介绍

1、随着3d封装工艺的进步,以及静态随机存取存储器(sram)、增强动态随机存取存储器(edram)工艺的进步,图形处理器(gpu)的芯片外部或gpu封装内部可以设置有越来越大扩展存储器,提供越来越大的存储容量。例如设置在gpu芯片外部的高密度sram/edram,或者gpu内部的封装内的高带宽存储器(hbm)、异质集成嵌入式动态随机存取内存(sedram)3d静态随机存取存储器(3d sram)等。gpu芯片外部或gpu封装内的存储容量可以作为第三级高速缓冲存储器(cache)。现有技术中的gpu三级缓存架构至少存在以下缺点:

2、(1)第三级高速缓冲存储器通常设置在第二级高速缓冲存储器与gpu显存的通路之间,第二级高速缓冲存储器只能从第三级高速缓冲存储器获取数据。

3、(2)第三级高速缓冲存储器的存储容量并非越大越好,当存储容量达到一定的值之后,随着存储容量的继续增大,反而会由于控制逻辑变复杂,降低gpu的数据访问速度,降低gpu性能。且受限于物理、工艺的限制,gpu芯本文档来自技高网...

【技术保护点】

1.一种GPU缓存系统,其特征在于,

2.根据权利要求1所述的系统,其特征在于,

3.根据权利要求2所述的系统,其特征在于,

4.根据权利要求1所述的系统,其特征在于,

5.根据权利要求1所述的系统,其特征在于,

6.根据权利要求1所述的系统,其特征在于,

7.根据权利要求1所述的系统,其特征在于,

8.根据权利要求1所述的系统,其特征在于,

【技术特征摘要】

1.一种gpu缓存系统,其特征在于,

2.根据权利要求1所述的系统,其特征在于,

3.根据权利要求2所述的系统,其特征在于,

4.根据权利要求1所述的系统,其特征在于,

<...

【专利技术属性】
技术研发人员:请求不公布姓名
申请(专利权)人:沐曦集成电路上海有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1