【技术实现步骤摘要】
本专利技术涉及深度学习编译,具体涉及内存复用优化方法、装置、设备、存储介质及程序产品。
技术介绍
1、在深度学习编译技术中,多级中间表示(mlir,multi-level intermediaterepresentation)是一种构建可重用和扩展深度学习编译器基础设施的新方法。mlir旨在解决编译软件统一化的问题,从而改进异构硬件的编译过程,显著降低构建特定领域深度学习编译器的成本,并可帮助将已有的深度学习编译器连接在一起。在mlir中,深度学习中的张量一般被表示为memref(内存块),内存块占用的内存空间大小,直接影响着程序运行时的内存空间使用量,所以优化内存块的内存占用至关重要。对内存块进行内存分配时,虽然相关技术可以根据相关技术对部分内存空间进行复用,但是,由于相关技术存在的技术局限,仍存在内存资源浪费问题。
技术实现思路
1、有鉴于此,本专利技术提供了一种内存复用优化方法、装置、设备、存储介质及程序产品,以解决相关技术中对内存块进行内存分配的方案仍然存在内存资源浪费问题。
>2、第一方面本文档来自技高网...
【技术保护点】
1.一种内存复用优化方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述确定所述目标内存块的活性范围和所述子内存块的活性范围,包括:
3.根据权利要求1所述的方法,其特征在于,所述确定所述目标内存块的活性范围和所述子内存块的活性范围,包括:
4.根据权利要求1至3中任一项所述的方法,其特征在于,多个所述目标内存块和至少一个所述子内存块组成内存块集合,所述根据所述目标内存块的活性范围和所述子内存块的活性范围,构建所述目标内存块和所述子内存块中的不同内存块之间的干涉关系,包括:
5.根据权利要求4
...【技术特征摘要】
1.一种内存复用优化方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述确定所述目标内存块的活性范围和所述子内存块的活性范围,包括:
3.根据权利要求1所述的方法,其特征在于,所述确定所述目标内存块的活性范围和所述子内存块的活性范围,包括:
4.根据权利要求1至3中任一项所述的方法,其特征在于,多个所述目标内存块和至少一个所述子内存块组成内存块集合,所述根据所述目标内存块的活性范围和所述子内存块的活性范围,构建所述目标内存块和所述子内存块中的不同内存块之间的干涉关系,包括:
5.根据权利要求4所述的方法,其特征在于,所述构建干涉图之后,所述方法还包括对所述干涉图进行更新;
6.根据权利要求1至3中任一项所述的方法,其特征在于,多个所述目标内存块包括父内存块和独立内存块,所述子内存块为基于对所述父内存块进行复用操作产生的内存块;所述基于所述干涉关系,对所述目标内存块和所述子内存块进行内存分配,包括:
7.根据权利要求6所述的方法,其特征在于,所述依次为所述父内存块及其子内存块分配内存空间,包括:
8.根据权利要求7所述的...
【专利技术属性】
技术研发人员:请求不公布姓名,请求不公布姓名,请求不公布姓名,请求不公布姓名,请求不公布姓名,请求不公布姓名,
申请(专利权)人:寒武纪昆山信息科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。