一种众核芯片以及众核芯片的数据获取方法技术

技术编号:41154676 阅读:30 留言:0更新日期:2024-04-30 18:19
本发明专利技术实施例公开了一种众核芯片以及众核芯片的数据获取方法。本发明专利技术实施例中的众核芯片,包括:至少两个计算集群,其中,所述至少两个计算集群之间具有数据通路;所述计算集群包括存储器和缓存,其中,所述存储器用于存储权值数据块;所述缓存用于存储从所述存储器中读取的所述计算集群对应的权值数据块,以及存储通过所述数据通路与其它计算集群的缓存交互的权值数据块;所述计算集群还包括处理核,所述处理核用于获取所述缓存中存储的权值数据块,以及进行神经网络计算模型的计算。在上述众核芯片的基础上进行数据获取,可以在获取神经网络计算模型的权值数据时减少加载数据的开销,进而减少网络计算时延。

【技术实现步骤摘要】

本专利技术涉及计算机,具体涉及一种众核芯片以及众核芯片的数据获取方法


技术介绍

1、随着人工智能技术的发展,用户对芯片处理能力的要求越来越高,由于单核芯片的处理能力有限,为了提升片上系统soc的算力,众核芯片随之出现;在众核芯片中,存在多个簇,每个簇是由多个处理核组成的计算集群,多个簇可以并行计算,提升了片上系统soc的算力。

2、现有技术中,多个簇并行计算时,每个簇需要使用相同的神经网络计算模型的权值数据处理不同图片输入,储存在双倍速率同步动态随机存储器(double data rate,ddr)内存上的神经网络计算模型的权值数据需要被不同的簇重复读取,但是由于ddr内存带宽的限制,会影响网络计算时延。

3、综上所述,如何在获取神经网络计算模型的权值数据时减少加载数据的开销,减少网络计算时延,是目前需要解决的问题。


技术实现思路

1、有鉴于此,本专利技术实施例提供了一种基于众核芯片的数据获取方法和装置,可以在获取神经网络计算模型的权值数据时减少加载数据的开销,进而减少网络计算时延。本文档来自技高网...

【技术保护点】

1.一种众核芯片,其特征在于,包括:至少两个计算集群,其中,所述至少两个计算集群之间具有数据通路;

2.如权利要求1所述的众核芯片,其特征在于,所述计算集群还包括直接存储器访问,所述直接存储器访问用于从所述存储器读取所述计算集群对应的权值数据块至所述缓存。

3.如权利要求1-2任一项所述的众核芯片,其特征在于,所述众核芯片还包括控制模块,所述控制模块用于根据所述计算集群的数量,对全部权值数据进行分块处理,得到至少两个权值数据块;以及,确定每个所述计算集群对应的权值数据块。

4.如权利要求3所述的众核芯片,其特征在于,所述存储器用于存储所述全部权值数据;...

【技术特征摘要】

1.一种众核芯片,其特征在于,包括:至少两个计算集群,其中,所述至少两个计算集群之间具有数据通路;

2.如权利要求1所述的众核芯片,其特征在于,所述计算集群还包括直接存储器访问,所述直接存储器访问用于从所述存储器读取所述计算集群对应的权值数据块至所述缓存。

3.如权利要求1-2任一项所述的众核芯片,其特征在于,所述众核芯片还包括控制模块,所述控制模块用于根据所述计算集群的数量,对全部权值数据进行分块处理,得到至少两个权值数据块;以及,确定每个所述计算集群对应的权值数据块。

4.如权利要求3所述的众核芯片,其特征在于,所述存储器用于存储所述全部权值数据;或者

5.如权利要求1-4任一项所述的众核芯片,其特征在于,所述存储器为双倍速率同步动态随机存储器,所述缓存为最后一级缓存。

6.一种众核芯片的数据获取方法,其...

【专利技术属性】
技术研发人员:李涛蒋路
申请(专利权)人:北京希姆计算科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1