应用于神经网络的内存申请方法、装置及设备制造方法及图纸

本申请提供一种应用于神经网络的内存申请方法、装置及设备，该设备包括：存储器和处理器；其中存储器用于存储处理器可执行指令，处理器用于调用存储器中的程序指令执行应用于神经网络的内存申请方法。本申请提供的应用于神经网络的内存申请方法、装置及设备，优化了内存碎片，有效避免了内存空间的浪费。有效避免了内存空间的浪费。有效避免了内存空间的浪费。

【技术实现步骤摘要】
应用于神经网络的内存申请方法、装置及设备


[0001]本申请涉及神经网络
，尤其涉及一种应用于神经网络的内存申请方法、装置及设备。

技术介绍

[0002]神经网络是一种通过调整系统内部大量节点之间相互连接的关系，而实现信息处理的数学模型。神经网络在训练或推理计算的过程中，需要申请大量的内存以存放运行数据。
[0003]目前，常见的内存申请方法为，当目标任务当前运行需要内存时，则向内存管理器发送内存申请指令，以使内存管理器为目标任务分配当前所需内存，并使用内存缓存机制将申请到的内存保留下来，以在目标任务本次运行过程中反复使用。
[0004]但是，随着目标任务的运行，目标任务会不断产生新的内存需求，当目标任务产生的新的内存需求大小，大于内存缓存机制保留下来的内存中未被使用的内存大小时，目标任务会重新向内存管理器申请新的内存，也就是说，此前内存缓存机制保留下来的内存中未被使用的内存则无法被利用，从而形成内存碎片，造成内存空间的浪费。

技术实现思路

[0005]本申请提供一种应用于神经网络的内存申请方法、装置及设备本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种应用于神经网络的内存申请方法，其特征在于，包括：接收目标任务发送的第一内存申请请求；其中，所述第一内存申请请求包括目标任务当前运行所需的内存大小；根据所述目标任务当前运行所需的内存大小，判断所述目标任务的内存需求等级；其中，所述内存需求等级包括低级、中级以及高级；根据所述目标任务的内存需求等级，确定待申请的内存大小；其中，不同的内存需求等级对应不同的待申请的内存大小；向内存管理器发送第二内存申请请求，以使所述内存管理器为所述目标任务分配与所述待申请的内存大小相一致的内存；其中，所述第二内存申请请求包括待申请的内存大小。2.根据权利要求1所述的方法，其特征在于，所述根据所述目标任务当前运行所需的内存大小，判断所述目标任务的内存需求等级，包括：判断所述目标任务当前运行所需的内存大小是否小于预设的第一阈值；其中，所述预设的第一阈值由所述目标任务在整个运行过程中预计所需内存大小的分布情况确定；若所述目标任务当前运行所需的内存大小小于预设的第一阈值，则判断所述目标任务的内存需求等级为低级。3.根据权利要求2所述的方法，其特征在于，所述根据所述目标任务当前运行所需的内存大小，判断所述目标任务的内存需求等级，还包括：若所述目标任务当前运行所需的内存大小不小于预设的第一阈值，则查找所述目标任务所在设备的内存管理器，并获取所述设备当前未被使用的内存大小；根据所述目标任务当前运行所需的内存大小以及所述设备当前未被使用的内存大小，判断所述目标任务的内存需求等级。4.根据权利要求3所述的方法，其特征在于，所述根据所述目标任务当前运行所需的内存大小以及所述设备当前未被使用的内存大小，判断所述目标任务的内存需求等级，包括：判断所述目标任务当前运行所需的内存大小与所述设备当前未被使用的内存大小的比值，是否小于预设的第二阈值；若是，则判断所述目标任务的内存需求等级为中级；若否，则判断所述目标任务的内存需求等级为高级。5.根据权利要求4所述的方法，其特征在于，所述根据所述目标任务的内存需求等级，确定待申请的内存大小，包括：若所述目标任务的内存需求等级为低级，则确定待申请的内存大小为第一内存大小；其中，所述第一内存大小大于等于预设的第一阈值；若所述目标任务的内存需求等级...

【专利技术属性】
技术研发人员：请求不公布姓名，
申请(专利权)人：寒武纪昆山信息科技有限公司，
类型：发明
国别省市：