一种支持多数据流的TLB装置和TLB模块的更新方法制造方法及图纸

技术编号:17442007 阅读:39 留言:0更新日期:2018-03-10 14:42
一种支持多数据流的TLB装置和TLB模块的更新方法,该装置包括:控制单元,对应待处理的流式应用的k个数据流,设置k个TLB模块,每一个TLB模块具有一一对应的页与页框两部分,通过页与页框的映射关系完成逻辑地址向物理地址的转换;其中k为自然数。本发明专利技术的装置和方法针对于流式应用数据流本身的特点,可以极大减少逻辑地址与物理地址转换过程中TLB miss情况的发生,从而减少访问内存的次数,极大提高数据访问的性能。

【技术实现步骤摘要】
一种支持多数据流的TLB装置和TLB模块的更新方法
本专利技术涉及人工智能领域,更具体地涉及一种支持多数据流的TLB装置和TLB模块的更新方法。
技术介绍
内存管理单元(MemoryManagementUnit,MMU)的出现,通过逻辑地址向物理地址的映射,使得程序的数据、堆栈的总的大小可以超过物理存储器的大小,MMU的页表,即逻辑地址与物理地址的转换表,存储在内存中。由于逻辑地址到物理地址的转换需要多次访问内存,大大降低数据访问的性能,于是出现了传输后备缓存(TranslationLookasideBuffer,TLB)模块。TLB模块存储页表中的一部分页项,当数据处理装置发出一个逻辑地址时,MMU首先访问TLB模块,如果TLB模块中含有能转换这个逻辑地址的页,即TLB命中(TLBhit),直接利用此页进行地址转换,否则称为TLB失败(TLBmiss),MMU访问内存中的页表找到相关地址转换的页进行地址转换,同时,将这个页更新到TLB模块里。TLB模块的出现减少访问内存的频率,极大提高数据访问的性能,特别是在某些数据需要经常访问的情况下。对于类似于人工神经网络的流式应用,其特点是存本文档来自技高网...
一种支持多数据流的TLB装置和TLB模块的更新方法

【技术保护点】
一种支持多数据流的TLB装置,其特征在于,包括:控制单元,对应待处理的流式应用的k个数据流,设置k个TLB模块,每一个TLB模块具有一一对应的页与页框两部分,通过页与页框的映射关系完成逻辑地址向物理地址的转换;其中k为自然数。

【技术特征摘要】
1.一种支持多数据流的TLB装置,其特征在于,包括:控制单元,对应待处理的流式应用的k个数据流,设置k个TLB模块,每一个TLB模块具有一一对应的页与页框两部分,通过页与页框的映射关系完成逻辑地址向物理地址的转换;其中k为自然数。2.如权利要求1所述的TLB装置,其特征在于,数据处理装置传给所述控制单元的逻辑地址中,除了页号和偏移两个字段之外,还包括一个流ID字段,其中,所述流ID字段占用的比特数为k表示TLB的个数,表示取向上取整数操作。3.如权利要求1所述的TLB装置,其特征在于,对于人工神经网络,所述控制单元设置4个TLB模块,分别对应权值、输入、输出、部分和四个数据流。4.一种TLB模块的更新方法,其特征在于,包括以下步骤:对应待处理的流式应用的k个数据流,设置k个TLB模块,每一个TLB模块具有一一对应的页与页框两部分,通过页与页框的映射关系完成逻辑地址向物理地址的转换;其中k为自然数;当发生TLBmiss的情况时,控制单元访问内存中的页表找到相关地址转换的页进行地址转换,同时,将所述页更新到对应TLB模块里,替换掉所述TLB页中一个页项。5.权利要求4所述的更新方法,其特征在于,其中替换页项的步骤采用随机替换算法或LRU算法。6.一种TLB页的更新方法,其特征在于,包括以下步骤:对应待处理的流式应用的k个数据流,设置k个TLB模块,每一个TLB模块具有一一对应的页与页框两部分,通过页与页框的映射关系完成逻辑地址向物理地址的转换;其中...

【专利技术属性】
技术研发人员:陈天石郭崎陈云霁
申请(专利权)人:北京中科寒武纪科技有限公司
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1