System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及一种计算系统,更具体的涉及一种可以减少整体翻译时间的计算系统。
技术介绍
1、由于绘图处理器(graphic processing unit,gpu)能够以单指令多数据(singleinstruction multiple datat,simd)的方式对大量的数据平行地执行运算,因此常被用来执行各种需要大量计算的应用中,例如深度学习模型,而不再限于绘制三维影像。随着绘图处理器在计算系统中扮演的脚色越来越重要,在有些计算系统中,也开始让绘图处理器与中央处理器使用共享的虚拟内存(shared virtual memory,svm)。也就是说,绘图处理器所使用的虚拟内存与中央处理器所使用的虚拟内存可对应到相同的物理内存,从而增加两者在运算时的匹配性。
2、然而,由于绘图处理器常以单指令多数据的方式执行运算,而单指令多数据的运算必须在取得所有数据后才能开始执行,因此绘图处理器的翻译后备缓存(translationlookaside buffer,tlb)常常会同时接收到同一指令所涉及的多笔数据的虚拟地址的翻译请求,而若翻译后备缓存必须长时间服务同一指令所涉及的多笔翻译请求,就可能会耽误到其他指令的翻译请求,导致整体等待翻译的时间过长,使绘图处理器的效能下降。因此,如何缩短计算系统的翻译等待时间,以提高整体效能,已成为亟待解决的问题。
技术实现思路
1、本申请的目的之一在于公开一种计算系统、主运算装置及从属运算装置及及相关方法来解决上述问题。
2、本申请
3、本申请的另一实施例涉及一种主运算装置,包括内存控制器、至少一处理单元及前述的输入输出内存管理单元。
4、本申请的另一实施例涉及一种从属运算装置,包括多个运算单元及前述第一翻译后备缓存。
5、本申请的另一实施例涉及一种计算系统方法。所述计算系统包括从属运算装置及主运算装置,所述从属运算装置包括第一翻译后备缓存,所述主运算装置包括输入输出内存管理单元,所述输入输出内存管理单元包括第二翻译后备缓存,所述方法包括:在所述第二翻译后备缓存中储存多个虚拟地址条目,及在每一虚拟地址条目中储存所述从属运算装置所请求的虚拟地址及所述虚拟地址所对应的物理地址、最近使用时间及相依工作量,其中所述虚拟地址是用于所述从属运算装置中特定运算单元所执行的特定指令,及所述虚拟地址的所述相依工作量是所述特定运算单元及所述特定指令所要求的虚拟地址翻译数量;当所述从属运算装置存取第一虚拟地址时,在所述第一翻译后备缓存中查找所述第一虚拟地址所对应的第一物理地址;当第一翻译后备缓存不存在包含第一虚拟地址的虚拟地址条目时,所述第一翻译后备缓存向所述输入输出内存管理单元发出第一翻译请求以取得所述第一虚拟地址所对应的所述第一物理地址;当所述输入输出内存管理单元接收到所述第一翻译请求,且所述第二翻译后备缓存并未储存包括所述第一虚拟地址的虚拟地址条目时,遍历所述主运算装置中的多个分页表以取得所述第一虚拟地址所对应的所述第一物理地址;依据所述多个虚拟地址条目中,每一多个虚拟地址条目的最近使用时间及相依工作量,自所述多个虚拟地址条目中选取第一虚拟地址条目;及清除所述第一虚拟地址条目以储存所述第一虚拟地址及所述第一物理地址。
6、由于本申请的计算系统、主运算装置、从属运算装置及相关方法可以依据翻译请求的相依工作量来选择翻译后备缓存中应优先淘汰的虚拟地址条目,使得翻译请求较少的运算单元能够在翻译后备缓存中有较高的命中机率,从而达到短进程优先的机制,并可减少运算单元整体等待翻译的时间,从而提升计算系统的效能。
本文档来自技高网...【技术保护点】
1.一种计算系统,其特征在于,包括:
2.依据权利要求1所述的计算系统,其特征在于,所述第一虚拟地址条目是所述多个虚拟地址条目中,最近使用时间最久且相依工作量最大的虚拟地址条目。
3.依据权利要求1所述的计算系统,其特征在于,所述输入输出内存管理单元还包括:翻译请求缓存,用以储存所述第一翻译后备缓存发出的多个翻译请求;及
4.依据权利要求1所述的计算系统,其特征在于,所述第一翻译后备缓存还用以计算所述第一虚拟地址的相依工作量,及所述第一翻译请求包括所述第一虚拟地址及所述第一虚拟地址的相依工作量。
5.依据权利要求4所述的计算系统,其特征在于,当所述输入输出内存管理单元接收到包括第二虚拟地址及第二工作相依量的第二翻译请求,且所述第二翻译后备缓存已储存包括所述第二虚拟地址的第二虚拟地址条目时,所述第二翻译后备缓存还用以将所述第二虚拟地址条目中原先记载的相依工作量改为所述第二相依工作量。
6.依据权利要求5所述的计算系统,其特征在于,所述第二翻译后备缓存还用以在将所述第二虚拟地址条目中原先记载的所述相依工作量改为所述第二相依工
7.依据权利要求1所述的计算系统,其特征在于,所述第一翻译后备缓存还用以依据所述第一虚拟地址所对应的运算单元及指令设定所述第一虚拟地址的第一相依工作编号,及所述第一翻译请求包括所述第一虚拟地址及所所述第一相依工作编号。
8.依据权利要求7所述的计算系统,其特征在于,所述第二翻译后备缓存还用以:
9.依据权利要求7所述的计算系统,其特征在于,当所述输入输出内存管理单元接收到包括第二虚拟地址及第二相依工作编号的第二翻译请求,且所述第二翻译后备缓存已储存包括所述第二虚拟地址的第二虚拟地址条目时,所述第二翻译后备缓存还用以:
10.依据权利要求1至9任一项所述的计算系统,其特征在于,所述主运算装置是中央处理器,及所述从属运算装置是绘图处理器。
11.一种主运算装置,其特征在于,包括:
12.一种从属运算装置,其特征在于,包括:
13.一种计算系统方法,其特征在于,所述计算系统包括从属运算装置及主运算装置,所述从属运算装置包括第一翻译后备缓存,所述主运算装置包括输入输出内存管理单元,所述输入输出内存管理单元包括第二翻译后备缓存,所述方法包括:
14.依据权利要求13所述的方法,其特征在于,所述第一虚拟地址条目是所述多个虚拟地址条目中,最近使用时间最久且相依工作量最大的虚拟地址条目。
15.依据权利要求13所述的方法,其特征在于,所述输入输出内存管理单元还包括翻译请求缓存及分页表遍历器,所述方法还包括:
16.依据权利要求13所述的方法,其特征在于,还包括:
17.依据权利要求16所述的方法,其特征在于,还包括:
18.依据权利要求13所述的方法,其特征在于,还包括:
19.依据权利要求18所述的方法,其特征在于,还包括:
20.依据权利要求18所述的方法,其特征在于,还包括:
...【技术特征摘要】
1.一种计算系统,其特征在于,包括:
2.依据权利要求1所述的计算系统,其特征在于,所述第一虚拟地址条目是所述多个虚拟地址条目中,最近使用时间最久且相依工作量最大的虚拟地址条目。
3.依据权利要求1所述的计算系统,其特征在于,所述输入输出内存管理单元还包括:翻译请求缓存,用以储存所述第一翻译后备缓存发出的多个翻译请求;及
4.依据权利要求1所述的计算系统,其特征在于,所述第一翻译后备缓存还用以计算所述第一虚拟地址的相依工作量,及所述第一翻译请求包括所述第一虚拟地址及所述第一虚拟地址的相依工作量。
5.依据权利要求4所述的计算系统,其特征在于,当所述输入输出内存管理单元接收到包括第二虚拟地址及第二工作相依量的第二翻译请求,且所述第二翻译后备缓存已储存包括所述第二虚拟地址的第二虚拟地址条目时,所述第二翻译后备缓存还用以将所述第二虚拟地址条目中原先记载的相依工作量改为所述第二相依工作量。
6.依据权利要求5所述的计算系统,其特征在于,所述第二翻译后备缓存还用以在将所述第二虚拟地址条目中原先记载的所述相依工作量改为所述第二相依工作量之后,重置所述第二虚拟地址条目的最近使用时间。
7.依据权利要求1所述的计算系统,其特征在于,所述第一翻译后备缓存还用以依据所述第一虚拟地址所对应的运算单元及指令设定所述第一虚拟地址的第一相依工作编号,及所述第一翻译请求包括所述第一虚拟地址及所所述第一相依工作编号。
8.依据权利要求7所述的计算系统,其特征在于,所述第二翻译后备...
【专利技术属性】
技术研发人员:段立德,张启晨,张仕健,陈彦光,
申请(专利权)人:阿里巴巴中国有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。