任务运行时的动态存储管理方法、装置、设备及介质制造方法及图纸

技术编号:42112812 阅读:30 留言:0更新日期:2024-07-25 00:34
本发明专利技术公开了一种任务运行时的动态存储管理方法、装置、设备及介质。该方法包括:在使用后端系统执行可逆计算任务的过程中,每当检测到内存释放请求时,识别该内存释放请求中的第一缓冲对象,并将第一缓冲对象加入至设定的先入先出队列中;每当检测到内存申请请求时,顺序扫描所述先入先出队列,获取所述先入先出队列中首个满足该内存申请请求的第二缓冲对象,并将第二缓冲对象提供给所述内存申请请求的请求方。本发明专利技术实施例的技术方案创新性的提出了一种可以有效适配可逆计算任务的新的动态存储管理策略,可以进一步提高可逆深度学习模型在计算、带宽和存储资源利用率上的优势。

【技术实现步骤摘要】

本专利技术涉及内存管理,尤其涉及一种任务运行时的动态存储管理方法、装置、设备及介质


技术介绍

1、深度学习模型的可逆化技术是一种能在模型训练过程中对计算、带宽和存储资源利用效率进行有效优化的技术方案。具体的实现方式是将深度学习模型中的某些局部结构(也可以称为可逆结构)等价转换成特定的可逆模式,以得到可逆深度学习模型。其中,可逆模式的核心是使用输出位置的梯度张量和通过可逆结构传递的伴随张量合成梯度,消除了累积存储激活的需要。

2、专利技术人通过研究发现,可逆深度学习模型在执行模型训练过程中,具有存储生命周期短、存储复用频繁等存储特点,但是,现有技术中没有精准适配可逆深度学习模型这种存储特点的存储管理策略,因此,无法充分发挥可逆深度学习模型的各项优势。


技术实现思路

1、本专利技术提供了一种任务运行时的动态存储管理方法、装置、设备及介质,以提供一种有效适配可逆计算任务的动态存储管理策略。

2、根据本专利技术实施例的一方面,提供了一种任务运行时的动态存储管理方法,包括:

3、在本文档来自技高网...

【技术保护点】

1.一种任务运行时的动态存储管理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,在将第一缓冲对象加入至设定的先入先出队列中之前,还包括:

3.根据权利要求1所述的方法,其特征在于,将第二缓冲对象提供给所述内存申请请求的请求方,包括:

4.根据权利要求1所述的方法,其特征在于,所述方法还包括:

5.根据权利要求4所述的方法,其特征在于,在按照目标频率执行内存去碎片操作和存储压缩操作之前,还包括:

6.根据权利要求5所述的方法,其特征在于,以所述标准执行频率为起点,以最小化运行时时间开销为目标,沿频率减小方向逐级...

【技术特征摘要】

1.一种任务运行时的动态存储管理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,在将第一缓冲对象加入至设定的先入先出队列中之前,还包括:

3.根据权利要求1所述的方法,其特征在于,将第二缓冲对象提供给所述内存申请请求的请求方,包括:

4.根据权利要求1所述的方法,其特征在于,所述方法还包括:

5.根据权利要求4所述的方法,其特征在于,在按照目标频率执行内存去碎片操作和存储压缩操作之前,还包括:

6.根据权利要求5所述的方法,其特征在于,以所述标准执行...

【专利技术属性】
技术研发人员:石恒胡维张亚林姚建国
申请(专利权)人:上海燧原科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1