一种显存分配方法、装置、存储介质及电子设备制造方法及图纸

本申请公开了一种显存分配方法、装置、存储介质及电子设备，其中方法包括：获取用于处理数据的目标算法类链条；基于目标算法类链条中各算法子类单次运行时输入元素个数与输出元素个数的元素比以及各算法子类的输入间隔的步长，对目标算法类链条进行分割处理，获得若干算法类单元；确定各算法类单元的输入元素总个数，并基于各算法类单元的输入元素总个数、各算法类单元的公共元素比以及各算法类单元的步长，计算各算法类单元的输出元素总个数；至少基于各算法类单元对应的输入元素总个数以及输出元素总个数，对待分配的目标显存进行存储空间分配，获得各算法类单元对应的显存空间。本申请中能够使得分配结果更加合理，进而减少显存开销。而减少显存开销。而减少显存开销。

【技术实现步骤摘要】
一种显存分配方法、装置、存储介质及电子设备


[0001]本专利技术涉及计算机
，特别涉及一种显存分配方法、装置、存储介质及电子设备。

技术介绍

[0002]大多数异构平台的主要结构是一张CPU搭载一个外部计算设备，CPU负责该设备的调用、数据传输等功能，外部设备负责数据的处理、计算。主流的外部计算设备有：GPU、FPGA和DSP。随着NVIDIA公司发布CUDA语言以后，使用GPU进行并行计算的难度被大大降低，GPU也因其易于编程和搭建硬件环境的优点，变成了普遍使用的异构平台元件。
[0003]然而在面临大规模数据计算时，通常会在单次计算时会尽可能调用单张显卡上所有的计算单元，通过提高算法的并行性来尽量多地启用GPU线程数，因而显存开销较大的问题。

技术实现思路

[0004]有鉴于此，本专利技术提供了一种显存分配方法、装置、存储介质及电子设备，主要目的在于解决目前存在的显存开销较大的问题。
[0005]为解决上述问题，本申请提供一种显存分配方法，包括：
[0006]获取用于处理数据的目标算法类链条；本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种显存分配方法，其特征在于，包括：获取用于处理数据的目标算法类链条；基于所述目标算法类链条中各算法子类单次运行时输入元素个数与输出元素个数的元素比以及各算法子类的输入间隔的步长，对所述目标算法类链条进行分割处理，获得若干算法类单元；确定各算法类单元的输入元素总个数，并基于各算法类单元的输入元素总个数、各算法类单元的公共元素比以及各算法类单元的步长，计算各算法类单元的输出元素总个数；至少基于各算法类单元对应的输入元素总个数以及输出元素总个数，对待分配的目标显存进行存储空间分配，获得各算法类单元对应的显存空间。2.如权利要求1所述的方法，其特征在于，所述基于所述目标算法类链条中各算法子类单次运行时输入元素个数与输出元素个数的元素比以及各算法子类的输入间隔的步长，对所述目标算法类链条进行分割处理，获得若干算法类单元，具体包括：确定目标算法类链条中各算法子类单次运行时的输入元素个数与输出元素个数的元素比以及各算法子类的输入间隔的步长；基于任意相邻两个算法子类的元素比以及步长，利用预定的判断公式判断所述相邻两个算法子类是否符合分割条件，以在符合分割条件的情况下，对所述相邻两个算法子类合并，获得初始算法类单元；基于所述初始算法类单元的初始公共元素比、初始步长、与所述初始算法类单元相邻的算法子类的元素比以及步长，利用所述预定的判断公式判断所述初始算法类单元与所述算法子类是否符合分割条件，直至针对各算法子类均完成分割条件的判断时，基于各所述初始算法类单元以及未进行分割的算法子类获得所述若干算法类单元。3.如权利要求2所述的方法，其特征在于，在获得初始算法类单元之后，所述方法还包括：基于所述初始算法类单元中的各算法子类的元素比以及步长，利用预定的计算公式，计算获得初始算法类单元的所述初始公共元素比以及所述初始步长。4.如权利要求1所述的方法，其特征在于，所述确定各算法类单元的输入元素总个数，并基于各算法类单元的输入元素总个数、各算法类单元的公共元素比以及各算法类单元的步长，计算各算法类单元的输出元素总个数，具体包括：基于目标算法类链条对应的配置文件，获取各算法子类的最小输入元素个数；基于同一算法类单元中所包含的算法子类数量以及各算法子类对应的最小输入元素个数，确定算法类单元的最小输入元素个数以获得算法类单元的输入元素总个数；基于各算法类单元的输入元素总个数以及各算法类单元的公共元素比以及各算法类单元的步长，分别确定各算法类单元对应的输出元素总个数。5.如权利要求1所述的方法，其特征在于，所述至少基于各算法类单元对应的输入元素总个数以及输...

【专利技术属性】
技术研发人员：陈静雷，
申请(专利权)人：东软医疗系统股份有限公司，
类型：发明
国别省市：