【技术实现步骤摘要】
本专利技术涉及计算机,具体涉及一种众核芯片以及众核芯片的数据获取方法。
技术介绍
1、随着人工智能技术的发展,用户对芯片处理能力的要求越来越高,由于单核芯片的处理能力有限,为了提升片上系统soc的算力,众核芯片随之出现;在众核芯片中,存在多个簇,每个簇是由多个处理核组成的计算集群,多个簇可以并行计算,提升了片上系统soc的算力。
2、现有技术中,多个簇并行计算时,每个簇需要使用相同的神经网络计算模型的权值数据处理不同图片输入,储存在双倍速率同步动态随机存储器(double data rate,ddr)内存上的神经网络计算模型的权值数据需要被不同的簇重复读取,但是由于ddr内存带宽的限制,会影响网络计算时延。
3、综上所述,如何在获取神经网络计算模型的权值数据时减少加载数据的开销,减少网络计算时延,是目前需要解决的问题。
技术实现思路
1、有鉴于此,本专利技术实施例提供了一种基于众核芯片的数据获取方法和装置,可以在获取神经网络计算模型的权值数据时减少加载数据的开销,进
...【技术保护点】
1.一种众核芯片,其特征在于,包括:至少两个计算集群,其中,所述至少两个计算集群之间具有数据通路;
2.如权利要求1所述的众核芯片,其特征在于,所述计算集群还包括直接存储器访问,所述直接存储器访问用于从所述存储器读取所述计算集群对应的权值数据块至所述缓存。
3.如权利要求1-2任一项所述的众核芯片,其特征在于,所述众核芯片还包括控制模块,所述控制模块用于根据所述计算集群的数量,对全部权值数据进行分块处理,得到至少两个权值数据块;以及,确定每个所述计算集群对应的权值数据块。
4.如权利要求3所述的众核芯片,其特征在于,所述存储器用于存
...【技术特征摘要】
1.一种众核芯片,其特征在于,包括:至少两个计算集群,其中,所述至少两个计算集群之间具有数据通路;
2.如权利要求1所述的众核芯片,其特征在于,所述计算集群还包括直接存储器访问,所述直接存储器访问用于从所述存储器读取所述计算集群对应的权值数据块至所述缓存。
3.如权利要求1-2任一项所述的众核芯片,其特征在于,所述众核芯片还包括控制模块,所述控制模块用于根据所述计算集群的数量,对全部权值数据进行分块处理,得到至少两个权值数据块;以及,确定每个所述计算集群对应的权值数据块。
4.如权利要求3所述的众核芯片,其特征在于,所述存储器用于存储所述全部权值数据;或者
5.如权利要求1-4任一项所述的众核芯片,其特征在于,所述存储器为双倍速率同步动态随机存储器,所述缓存为最后一级缓存。
6.一种众核芯片的数据获取方法,其...
【专利技术属性】
技术研发人员:李涛,蒋路,
申请(专利权)人:北京希姆计算科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。