【技术实现步骤摘要】
处理系统、操作处理系统的方法和计算机可读存储介质
[0001]本专利技术涉及一种处理系统,更具体地说,涉及一种处理系统、操作处理系统的方法和计算机可读存储介质。
技术介绍
[0002]图形处理器(GPU)是一种知名的、执行必要的计算以向帧缓冲区填充数据的设备,其中,帧缓冲区又用于在屏幕上显示图像。中央处理器(CPU)将向帧缓冲区填充数据这种计算密集型的任务交付给图形处理器,从而释放中央处理器以及时执行其他任务。
[0003]通用图形处理器(GPGPU)是图形处理器(GPU)的扩展,通用图形处理器可编程实现其他非图形处理的计算密集型操作。在人工智能(AI)和机器学习的应用中,中央处理器(CPU)通常与多个并行执行卷积操作的通用图形处理器(例如100GPGPU)配对使用。
[0004]通用图形处理器包括一个处理器和一个耦合到处理器的存储器(memory)。对于许多人工智能和机器学习的应用来说,容量大、访问速度快的存储器是必需的,因此,当通用图形处理器用于人工智能和机器学习时,通常使用以容量大、访问速度快而闻名的高带宽存储器(HBM)作为通用图形处理器的存储器。
[0005]典型的HBM包括若干个动态随机存取存储器(DRAM)晶粒,这些晶粒在彼此的顶部垂直堆叠,以提供具有小尺寸规格的大存储容量,例如4GB、24GB和64GB。此外,每个DRAM晶粒包括两个128位数据通道,以提供高带宽。
[0006]但当前,通用图形处理器的一个问题是通用图形处理器的HBM事实上存在一个最大容量,该最大容量反 ...
【技术保护点】
【技术特征摘要】
1.一种处理系统,包括:至少一个外部存储器;和耦合到至少一个所述外部存储器的至少一个通用图形处理器,每个所述通用图形处理器具有一个核、耦合到所述核的高速缓存和耦合到所述核的本地存储器,所述通用图形处理器需要第一时长来访问存储在所述通用图形处理器的高速缓存中的数据,需要比第一时长更长的第二时长来访问存储在所述通用图形处理器的本地存储器中的数据,需要以比第二时长更长的第三时长来访问存储在所述外部存储器中的数据,在一段时间内,当所述通用图形处理器的本地存储器中的第一数据被访问次数小于阈值时,所述通用图形处理器将所述第一数据从所述通用图形处理器的本地存储器移到至少一个所述外部存储器,以及当至少一个所述外部存储器中的第二数据在该段时间内被访问次数超过阈值时,将所述第二数据从至少一个所述外部存储器移到所述通用图形处理器的本地存储器,每个所述外部存储器仅用于存储要在所述通用图形处理器执行的程序指令和数据。2.根据权利要求1所述的处理系统,其中,所述外部存储器中的一个外部存储器与多个所述通用图形处理器建立映射。3.根据权利要求1所述的处理系统,其中,多个所述外部存储器与单个的所述通用图形处理器建立映射。4.根据权利要求1所述的处理系统,还包括多个直接连接,从而每个所述通用图形处理器都直接连接到至少一个所述外部存储器中的一个或多个。5.根据权利要求1所述的处理系统,其中,所述外部存储器是可分区的,从而一个或多个所述通用图形处理器被分配一个分区。6.根据权利要求1所述的处理系统,其中所述通用图形处理器用于:每次访问所述通用图形处理器的本地存储器中的存储单元时,增加第一计数器;标识在该段时间内被访问次数小于阈值的存储单元;将在该段时间内被访问次数小于阈值的存储单元从所述通用图形处理器的本地存储器移到所述外部存储器;确定所述外部存储器中的存储单元何时被访问;每次访问所述外部存储器中的存储单元时增加第二计数器;标识在该段时间内被访问次数超过阈值的存储单元;以及将在该段时间内被访问次数超过阈值的存储单元从所述外部存储器移到所述通用图形处理器的本地存储器中。7.根据权利要求1所述的处理系统,还包括耦合到至少一个所述外部存储器和至少一个所述通用图形处理器的中央处理器,所述中央处理器用于在应用被执行之前,将所述应用的第一多个程序指令加载到所述通用图形处理器的本地存储器中,并将所述应用的第二多个程序指令加载到所述外部存储器中,在所述中央处理器加载所述第一多个程序指令和所述第二多个程序指令之前,所述通用图形处理器的本地存储器和外部存储器不存储所述应用的程序指令。8.一种操作处理系统的方法,所述方法包括:需要第一时长访问存储在通用图形处理器的高速缓存中的数据,需要比第一时长更长
的第二时长访问存储在所述通用图形处理器的本地存储器中的数据,需要以比第二时长更长的第三时长访问存储在所述外部存储器中的数据;在一段时间内,当所述通用图形处理器的本地存储器中的第一数据被访问次数小于阈值时,所述通用图形处理器将所述第一数据从所述通用图形处理器的本地存储器移到至少一个所述外部存储器,以及当至少一个所述外部存储器中的第二数据在该段时间内被访问次数超过阈值时,将所述第二数据从至少一个所述外部存储器移到所述通用图形处理器的本地存储器,每个所述外部存储器仅用于存储要在所述通用图形处理器执行的程序指令和数据。9.根据权利要求8所述的...
【专利技术属性】
技术研发人员:王雨豪,牛迪民,关义金,王圣诚,李双辰,郑宏忠,
申请(专利权)人:平头哥上海半导体技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。