一种人工智能设备及存取方法技术

技术编号:19023289 阅读:129 留言:0更新日期:2018-09-26 19:02
本发明专利技术公开一种人工智能设备,包括:一级片外行缓存及一级片外列缓存;至少一个二级行缓存,以松散方式读取一级片外行缓存的参数数据,每一二级行缓存为对应行的计算单元提供参数数据;至少一个二级列缓存,以松散方式读取一级片外列缓存的特征数据,每一二级列缓存为对应列的计算单元提供特征数据。采用两级缓存的模式,有效降低了内存能耗,并提高内部数据带宽,大大提高片外内存读取速度。

【技术实现步骤摘要】
一种人工智能设备及存取方法
本专利技术涉及电子设备
,尤其涉及一种人工智能设备及存取方法。
技术介绍
技术的进展已经产生更小且功能更强大的计算装置。数据存储是人工智能微处理器的核心部件,其效率决定了微处理器的性能和功耗。在传统的微处理器架构中,通常使用高速缓存结构来保存最近使用的指令和数据,高速缓存成为了弥补片外内存带宽,降低片外内存访问延迟和功耗的关键。为了满足人工智能的发展需要,需要进一步改善微处理的性能和功耗。
技术实现思路
本专利技术的目的在于,提出一种能够降低内存能耗,提高内部数据带宽的人工智能设备及存取方法。为了实现上述目的,本专利技术所采用的技术方案为:一种人工智能设备,包括:一级片外行缓存及一级片外列缓存;至少一个二级行缓存,以松散方式读取一级片外行缓存的参数数据,每一二级行缓存为对应行的计算单元提供参数数据;至少一个二级列缓存,以松散方式读取一级片外列缓存的特征数据,每一二级列缓存为对应列的计算单元提供特征数据。其中,所述一级片外行缓存、一级片外列缓存、二级行缓存、二级列缓存的寻址地址相互并列。其中,一行逻辑电路控制二级行缓存,一列逻辑电路控制二级列缓存,所述行逻辑电路、列逻辑电路独立控制二级行缓存、二级列缓存读取数据。其中,所述一级片外行缓存、一级片外列缓存为高速缓存。其中,所述二级行缓存、二级列缓存为高速缓存。其中,其集成于至少一个半导体裸片中。本专利技术还公开一种人工智能设备的存取方法,包括如下步骤:接收存取请求;二级行缓存从一级片外行缓存中读取参数数据,二级列缓存从一级片外列缓存中读取特征数据;计算单元从对应行的二级行缓存提取参数数据,从对应列的二级列缓存提取特征数据执行计算任务;计算单元输出计算结果至二级行缓存及二级列缓存中;依据先二级行缓存再二级列缓存的顺序将计算结果保存到一级片外行缓存、一级片外列缓存。其中,还包括:二级行缓存和二级列缓存释放存储空间。本专利技术的有益效果为:采用两级缓存的模式,两级缓存地址空间互不重叠,,降低了二级缓存访问频次,降低了内存能耗,并提高内部数据带宽,大大提高内存使用率。附图说明图1为本专利技术人工智能设备的结构示意图。具体实施方式以下将结合附图所示的具体实施方式对本专利技术进行详细描述。但这些实施方式并不限制本专利技术,本领域的普通技术人员根据这些实施方式所做出的结构、方法、或功能上的变换均包含在本专利技术的保护范围内。参阅图1所述,本专利技术的一实施方式中提供一种人工智能设备,包括:一级片外行缓存及一级片外列缓存;至少一个二级行缓存,以松散方式读取一级片外行缓存的参数数据,每一二级行缓存为对应行的计算单元提供参数数据;至少一个二级列缓存,以松散方式读取一级片外列缓存的特征数据,每一二级列缓存为对应列的计算单元提供特征数据。上述实施方式中,所述一级片外缓存、一级片外列缓存存储所有数据,一级片外行缓存、一级片外列缓存可读可写。二级片内缓存包括一个及以上独立的二级行缓存,图1所示包括二级行缓存0、二级行缓存1……·二级行缓存m,还包括一个及以上独立的二级列缓存,图1所示包括二级列缓存0、二级列缓存1……·二级列缓存n。二级行缓存与二级列缓存只可读,每一二级行缓存为一行计算单元提供参数数据,每一二级列缓存为一列计算单元提供特征数据。二级行缓存、二级列缓存的数量可根据计算单元的行数量和列数量进行灵活扩展。所述一级片外行缓存、一级片外列缓存、二级行缓存、二级列缓存的寻址地址相互并列。在该实施方式中,一级片外缓存、二级行缓存、二级列缓存的寻址地址空间不是重叠的,而是并列的两级缓存地址空间互不重叠,降低了二级缓存访问频次,降低了内存能耗,并提高内部数据带宽,大大提高内存使用率。一级片外行缓存、一级片外列缓存依据数据获取的顺序保存所有数据,二级行缓存、二级列缓存分别获取一级片外行缓存、一级片外列缓存的数据,并按照一定存储规则进行存储,所述一定存储规则依据具体的使用需求进行设定。一行逻辑电路控制二级行缓存,一列逻辑电路控制二级列缓存,所述行逻辑电路、列逻辑电路独立控制二级行缓存、二级列缓存读取数据。二级行缓存、二级列缓存分别由各自的电路进行控制,互不干扰,相互独立工作。所述一级片外行缓存、一级片外列缓存为高速缓存,所述二级行缓存、二级列缓存为高速缓存。采用高速缓存保存最近使用的指令和数据,成为了弥补片外缓存带宽,降低片外缓存访问延迟和功耗的关键。上述实施方式所述的一种人工智能设备,其集成于至少一个半导体裸片中。所述人工智能设备制作成一集成芯片,满足现代设备小型化的需求。本专利技术的一实施方式中还公开一种人工智能设备的存取方法,所述人工智能设备存取方法应用于以上实施方式所述的人工智能设备中,在以上实施方式中公开了所述人工智能设备包括至少一个及以上的二级行缓存,图1所示包括二级行缓存0、二级行缓存1……·二级行缓存m,还包括一个及以上独立的二级列缓存,图1所示包括二级列缓存0、二级列缓存1……·二级列缓存n,所述人工智能设备的存取方法包括如下步骤:接收存取请求;二级行缓存从一级片外行缓存中读取参数数据,二级列缓存从一级片外列缓存中读取特征数据;在该步骤中,先从二级行缓存0开始,根据人工智能使用的需求从一级片行外缓存中读取数据,并暂时存储。接着按照先二级行缓存,再二级列缓存的顺序,依次从一级片外行缓存、一级片外列缓存中获取参数数据以及特征数据,并存储;计算单元从对应行的二级行缓存提取参数数据,从对应列的二级列缓存提取特征数据,执行计算任务;计算单元输出计算结果至二级行缓存及二级列缓存中;依据先二级行缓存再二级列缓存的顺序将计算结果保存到一级片外行缓存、一级片外列缓存中,所述计算结果依据数据存储的需求,既可以保存在一级片外行缓存也可以保存在一级片外列缓存中,一级行缓存与一级列缓存均用于保存计算结果。该步骤中,按照先二级行缓存,再二级列缓存的顺利依次把计算结果保存到一级片外行缓存、一级片外列缓存中,保存完毕后二级行缓存和二级列缓存释放存储空间,可被下一次数据覆盖。上述实施方式,采用二级缓存的模式,有效降低了内存能耗,并提高内部数据带宽,大大提高片外内存读取速度。应当理解,虽然本说明书按照实施方式加以描述,但并非每个实施方式仅包含一个独立的技术方案,说明书的这种叙述方式仅仅是为清楚起见,本领域技术人员应当将说明书作为一个整体,各实施方式中的技术方案也可以经适当组合,形成本领域技术人员可以理解的其他实施方式。上文所列出的一系列的详细说明仅仅是针对本专利技术的可行性实施方式的具体说明,它们并非用以限制本专利技术的保护范围,凡未脱离本专利技术技艺精神所作的等效实施方式或变更均应包含在本专利技术的保护范围之内。本文档来自技高网...

【技术保护点】
1.一种人工智能设备,其特征在于包括:一级片外行缓存及一级片外列缓存;至少一个二级行缓存,以松散方式读取一级片外行缓存的参数数据,每一二级行缓存为对应行的计算单元提供参数数据;至少一个二级列缓存,以松散方式读取一级片外列缓存的特征数据,每一二级列缓存为对应列的计算单元提供特征数据。

【技术特征摘要】
1.一种人工智能设备,其特征在于包括:一级片外行缓存及一级片外列缓存;至少一个二级行缓存,以松散方式读取一级片外行缓存的参数数据,每一二级行缓存为对应行的计算单元提供参数数据;至少一个二级列缓存,以松散方式读取一级片外列缓存的特征数据,每一二级列缓存为对应列的计算单元提供特征数据。2.根据权利要求1所述的一种人工智能设备,其特征在于:所述一级片外行缓存、一级片外列缓存、二级行缓存、二级列缓存的寻址地址相互并列。3.根据权利要求1所述的一种人工智能设备,其特征在于:一行逻辑电路控制二级行缓存,一列逻辑电路控制二级列缓存,所述行逻辑电路、列逻辑电路独立控制二级行缓存、二级列缓存读取数据。4.根据权利要求1所述的一种人工智能设备,其特征在于:所述一级片外行缓存及一级片外列...

【专利技术属性】
技术研发人员:罗闳訚何日辉周志新
申请(专利权)人:福建新大陆电脑股份有限公司
类型:发明
国别省市:福建,35

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1