一种内存管理方法、系统、设备及计算机可读存储介质技术方案

本申请公开了一种内存管理方法、系统、设备及计算机可读存储介质，获取目标神经网络模型；基于各个目标计算设备对目标神经网络模型中算子的运算支持，将目标神经网络模型剖分为与各个目标计算设备对应的子函数；分发子函数至对应的目标计算设备；对于每个目标计算设备，均基于目标计算设备中各个计算单元的运算信息，将对应的子函数剖分为与各个计算单元对应的执行单元，以执行单元为粒度对目标计算设备进行内存管理。使得各个目标计算设备所需运算的子函数与自身的运算性能相符合，且以执行单元为粒度对目标计算设备进行内存管理，实现了对计算设备内存的准确管理。本申请提供的内存管理系统、设备及计算机可读存储介质也解决了相应技术问题。了相应技术问题。了相应技术问题。

A memory management method, system, device and computer readable storage medium

【技术实现步骤摘要】
一种内存管理方法、系统、设备及计算机可读存储介质


[0001]本申请涉及计算机
，更具体地说，涉及一种内存管理方法、系统、设备及计算机可读存储介质。

技术介绍

[0002]在神经网络模型的使用过程中，需要借助具有计算能力的计算设备来运行神经网络模型中的相应计算，因为神经网络模型中算子的输入输出会占据一定的存储空间，而计算设备的内存空间有限，如果内存分配不合理的话，会使得神经网络模型的运算速度降低，所以为了提高神经网络模型的运算速度，需对计算设备的内存进行准确管理。
[0003]综上所述，如何对计算设备的内存进行准确管理是目前本领域技术人员亟待解决的问题。

技术实现思路

[0004]本申请的目的是提供一种内存管理方法，其能在一定程度上解决如何对计算设备的内存进行准确管理的技术问题。本申请还提供了一种内存管理系统、设备及计算机可读存储介质。
[0005]为了实现上述目的，本申请提供如下技术方案：
[0006]一种内存管理方法，包括：
[0007]获取目标神经网络模型；
>[0008]基于各本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种内存管理方法，其特征在于，包括：获取目标神经网络模型；基于各个目标计算设备对所述目标神经网络模型中算子的运算支持，将所述目标神经网络模型剖分为与各个所述目标计算设备对应的子函数；分发所述子函数至对应的所述目标计算设备；对于每个所述目标计算设备，均基于所述目标计算设备中各个计算单元的运算信息，将对应的子函数剖分为与各个所述计算单元对应的执行单元，以所述执行单元为粒度对所述目标计算设备进行内存管理。2.根据权利要求1所述的方法，其特征在于，所述以所述执行单元为粒度对所述目标计算设备进行内存管理，包括：将所述目标计算设备的内存划分为目标内存及预留内存；确定所述执行单元在所述目标内存中的内存占用信息；基于所述内存占用信息对所述目标计算设备的内存进行管理。3.根据权利要求2所述的方法，其特征在于，所述确定所述执行单元在所述目标内存中的内存占用信息，包括：将所述目标内存划分为与各个所述执行单元对应的内存块；将所述执行单元与所述内存块间的对应关系作为所述内存占用信息。4.根据权利要求3所述的方法，其特征在于，所述将所述目标内存划分为与各个所述执行单元对应的内存块，包括：基于内存复用原则，将所述目标内存划分为与各个所述执行单元对应的内存块。5.根据权利要求4所述的方法，其特征在于，所述基于所述内存占用信息对所述目标计算设备的内存进行管理，包括：统计各个所述执行单元在所述子函数中的出现次数，将所述出现次数作为所述执行单元对应的所述内存块的使用次数，并且若所述执行单元在所述目标计算设备中出现一次，则将所述使用次数的值减1；对于每个所述执行单元，判断对应的所述内存块的所述使用次数的值是否为...

【专利技术属性】
技术研发人员：何也，
申请(专利权)人：山东云海国创云计算装备产业创新中心有限公司，
类型：发明
国别省市：