一种多级程序加载的方法、装置和存储介质制造方法及图纸

技术编号:41907658 阅读:19 留言:0更新日期:2024-07-05 14:12
本申请提供一种多级程序加载方法、装置和存储介质,涉及计算机技术领域,用以解决在神经网络模型程序过大时导致的NNP无法完成计算任务的问题。该方案包括:控制PDMA模块从存储设备中加载一级加载内容至程序存储器,一级加载内容包括二级动态加载控制代码以及N个函数组的程序中的第一个函数组的程序,N个函数组的程序由目标网络模型的程序分割得到;第一个函数组的程序运行之后,根据二级动态加载控制代码,控制PDMA模块执行N‑1次二级动态加载过程,直至第N个函数组的程序被加载至程序存储器,加载至程序存储器的函数组的程序运行后则执行下一次二级动态加载过程,N个函数组的程序在程序存储器的起始存储地址相同。

【技术实现步骤摘要】

本申请涉及计算机,尤其涉及一种多级程序加载的方法、装置和存储介质


技术介绍

1、卷积神经网络(convolutional neural network,cnn)模型由最基本的层(layer)组成,每个layer对应一个操作,操作类型包括convolution(卷积)、pooling(池化)、element-wise(按元素操作)、concatenate(连接一起)、fully-connected(全连接)、bath-normalization(批处理归一化)等。神经网络处理器(neural network processor,nnp)是专门用来执行卷积神经网络模型计算任务的处理器。nnp取指的简单实现方式是使用程序dma(pdma)模块将程序指令编码从ddr搬运到程序存储器(program memory,pm),然后指令读取(ifetch)模块从pm读取指令并分发到各流水线。在这种情况下,指令在其被取指前必须已经存在于pm。所以如果模型的程序大于pm的剩余存储空间则不能在pm完整存储。如果模型的程序不能在pm完整存储则会使得nnp模型程序不能被完整执行,本文档来自技高网...

【技术保护点】

1.一种多级程序加载方法,其特征在于,所述方法应用于神经网络处理器中,所述神经网络处理器包括直接存储器访问模块,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述二级动态加载控制代码,控制所述直接存储器访问模块执行至少N-1次二级动态加载过程,直至所述直接存储器访问模块将第N个所述函数组的程序加载至所述程序存储器中,包括:

3.根据权利要求2所述的方法,其特征在于,所述二级动态加载控制代码包括:二级动态加载次数计数器,以及二级动态加载的目标次数;

4.根据权利要求2所述的方法,其特征在于,所述第一信息至少包括:所述第i次二级加载内容...

【技术特征摘要】

1.一种多级程序加载方法,其特征在于,所述方法应用于神经网络处理器中,所述神经网络处理器包括直接存储器访问模块,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述二级动态加载控制代码,控制所述直接存储器访问模块执行至少n-1次二级动态加载过程,直至所述直接存储器访问模块将第n个所述函数组的程序加载至所述程序存储器中,包括:

3.根据权利要求2所述的方法,其特征在于,所述二级动态加载控制代码包括:二级动态加载次数计数器,以及二级动态加载的目标次数;

4.根据权利要求2所述的方法,其特征在于,所述第一信息至少包括:所述第i次二级加载内容在所述存储设备中的起始存储地址;

5.根据权利要求4所述的方法,其特征在于,所述第一信息还包括所述第i次二级动态加载过程对应的目标程序行数,相应的,所述方法还包括:

6.根据权利要求1~5任一项所述的方法,其特征在于,所述控制所...

【专利技术属性】
技术研发人员:文博曹庆新李炜
申请(专利权)人:深圳云天励飞技术股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1