图形处理器资源管理方法、装置、电子设备及可读介质制造方法及图纸

本发明专利技术实施例提供了图形处理器资源管理方法、装置、电子设备及可读介质，所述方法包括：检测图形处理器中是否存在处于停滞状态的流式多处理器；若存在处于停滞状态的流式多处理器，将处于停滞状态的流式多处理器的剩余内存资源与至少一个其他流式多处理器的剩余内存资源合并；确定处于停滞状态的流式多处理器中至少一个待执行的线程束，作为目标线程束；基于合并后的剩余内存资源，通过图形处理器中预设的线程调度器为目标线程束分配内存资源，以使目标线程束基于重新分配的内存资源执行预设的指令。可以对流式处理器中的剩余内存资源进行合理调配，使流式处理器中的线程束可以高效地运行，提高了图形处理器中流式处理器的资源使用效率。资源使用效率。资源使用效率。

【技术实现步骤摘要】
图形处理器资源管理方法、装置、电子设备及可读介质


[0001]本专利技术涉及测试
，特别是涉及一种图形处理器的内存资源管理方法、一种图形处理器的内存资源管理装置、一种电子设备以及一种计算机可读介质。

技术介绍

[0002]近几年来，随着高性能计算的发展，较大规模的计算对中央处理器(Central processing unit，CPU)自身能力有着较为强大的需求，图形处理器(Graphics processing unit，GPU)逐渐体现出其计算性能方面的优势，图形处理器性能的优化也逐渐变成研究领域的热点问题。图形处理器的资源分为计算资源和内存资源两个部分，相较于计算资源，内存资源是图形处理器最主要的资源之一。
[0003]现有技术中，图像处理器内存资源的分配通常可以采用内存资源池机制，将图形处理器中可用的内存资源组成内存资源池，利用函数接口和调度分配算法实现动态分配。不同的线程可以访问不同的内存资源，减少多线程运行的情况下产生资源访问冲突的情况。
[0004]但是，现有的内存资源分配机制中主要基于线程之间的依赖关系来优化资源分配调度，而并未考虑资源需求的协调问题。在分配资源时若遇到资源分配错误以及大量并发线程请求分配资源的情况，容易导致访问冲突以及内存争用，从而导致图形处理器中出现线程锁死的情况，使得图形处理器的运行效率降低。

技术实现思路

[0005]鉴于上述问题，提出了本专利技术实施例以便提供一种图形处理器的内存资源管理方法、一种图形处理器的内存资源管理装置、一种电子设备以及一种计算机可读介质。
[0006]本专利技术实施例提供了一种图形处理器的内存资源管理方法，所述图形处理器包括若干流式多处理器，所述流式多处理器中运行有至少一个线程束；
[0007]所述方法包括：
[0008]检测所述图形处理器中是否存在处于停滞状态的流式多处理器；
[0009]若存在所述处于停滞状态的流式多处理器，将所述处于停滞状态的流式多处理器的剩余内存资源与至少一个其他流式多处理器的剩余内存资源合并；
[0010]确定所述处于停滞状态的流式多处理器中至少一个待执行的线程束，作为目标线程束；
[0011]基于合并后的所述剩余内存资源，通过所述图形处理器中预设的线程调度器为所述目标线程束分配内存资源，以使所述目标线程束基于重新分配的内存资源执行预设的指令。
[0012]可选地，所述流式多处理器依序配置有第一序号；
[0013]所述将所述处于停滞状态的流式多处理器的剩余内存资源与至少一个其他流式多处理器的剩余内存资源合并的步骤，包括：
[0014]按照所述第一序号顺序，将所述处于停滞状态的流式多处理器的剩余内存资源与至少一个其他流式多处理器的剩余内存资源合并。
[0015]可选地，所述按照所述第一序号顺序，将所述处于停滞状态的流式多处理器的剩余内存资源与至少一个其他流式多处理器的剩余内存资源合并的步骤，包括：
[0016]将第一序号与所述处于停滞状态的流式多处理器的第一序号相邻的流式多处理器作为待合并流式多处理器；
[0017]将所述处于停滞状态的流式多处理器的剩余内存资源作为待使用剩余内存资源；
[0018]将所述待使用剩余内存资源与所述待合并流式多处理器的剩余内存资源合并，得到新的待使用剩余内存资源；
[0019]确定所述待使用剩余内存资源是否满足所述处于停滞状态的流式多处理器中待执行的线程束的需求；
[0020]若合并后的剩余内存资源不满足所述处于停滞状态的流式多处理器中待执行的线程束的需求，将第一序号与所述待合并流式多处理器的第一序号相邻的流式多处理器作为新的待合并流式多处理器，重复所述将所述待使用剩余内存资源与所述待合并流式多处理器的剩余内存资源合并，得到新的待使用剩余内存资源的步骤，直至所述待使用剩余内存资源满足所述处于停滞状态的流式多处理器中待执行的线程束的需求。
[0021]可选地，所述流式处理器中的线程束依序配置有第二序号；
[0022]所述确定所述待使用剩余内存资源是否满足所述处于停滞状态的流式多处理器中待执行的线程束的需求的步骤，包括：
[0023]依序确定所述待使用剩余内存资源是否满足所述处于停滞状态的流式多处理器中任一待执行的线程束的需求。
[0024]可选地，所述检测所述图形处理器中是否存在处于停滞状态的流式多处理器的步骤，包括：
[0025]检测所述流式多处理器中的线程束是否可以获取内存资源；
[0026]若所述流式多处理器中的线程束无法获取内存资源，确定所述图形处理器中存在所述处于停滞状态的流式多处理器。
[0027]可选地，所述方法还包括：
[0028]若所述目标线程束完成所述指令的执行，释放所述目标线程束所占用的内存资源。
[0029]可选地，所述方法还包括：
[0030]计算所述图形处理器中每一流式多处理器的剩余内存资源。
[0031]本专利技术实施例还提供一种图形处理器的内存资源管理装置，所述图形处理器包括若干流式多处理器，所述流式多处理器中运行有至少一个线程束；
[0032]所述装置包括：
[0033]检测模块，用于检测所述图形处理器中是否存在处于停滞状态的流式多处理器；
[0034]资源合并模块，用于若存在所述处于停滞状态的流式多处理器，将所述处于停滞状态的流式多处理器的剩余内存资源与至少一个其他流式多处理器的剩余内存资源合并；
[0035]目标线程束确定模块，用于确定所述处于停滞状态的流式多处理器中至少一个待执行的线程束，作为目标线程束；
[0036]重新分配模块，用于基于合并后的所述剩余内存资源，通过所述图形处理器中预设的线程调度器为所述目标线程束分配内存资源，以使所述目标线程束基于重新分配的内存资源执行预设的指令。
[0037]可选地，所述流式多处理器依序配置有第一序号；所述资源合并模块包括：
[0038]资源合并子模块，用于按照所述第一序号顺序，将所述处于停滞状态的流式多处理器的剩余内存资源与至少一个其他流式多处理器的剩余内存资源合并。
[0039]可选地，所述资源合并子模块包括：
[0040]待合并流式处理器确定单元，用于将第一序号与所述处于停滞状态的流式多处理器的第一序号相邻的流式多处理器作为待合并流式多处理器；
[0041]待使用剩余内存资源确定单元，用于将所述处于停滞状态的流式多处理器的剩余内存资源作为待使用剩余内存资源；
[0042]第一资源合并单元，用于将所述待使用剩余内存资源与所述待合并流式多处理器的剩余内存资源合并，得到新的待使用剩余内存资源；
[0043]需求确定单元，用于确定所述待使用剩余内存资源是否满足所述处于停滞状态的流式多处理器中待执行的线程束的需求；
[0044]第二资源合并单元，用于若合并后的剩余内存资源不满足所述处于停滞状态的流式多处理器中待执行的线程束的需求，本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种图形处理器的内存资源管理方法，其特征在于，所述图形处理器包括若干流式多处理器，所述流式多处理器中运行有至少一个线程束；所述方法包括：检测所述图形处理器中是否存在处于停滞状态的流式多处理器；若存在所述处于停滞状态的流式多处理器，将所述处于停滞状态的流式多处理器的剩余内存资源与至少一个其他流式多处理器的剩余内存资源合并；确定所述处于停滞状态的流式多处理器中至少一个待执行的线程束，作为目标线程束；基于合并后的所述剩余内存资源，通过所述图形处理器中预设的线程调度器为所述目标线程束分配内存资源，以使所述目标线程束基于重新分配的内存资源执行预设的指令。2.根据权利要求1所述的方法，其特征在于，所述流式多处理器依序配置有第一序号；所述将所述处于停滞状态的流式多处理器的剩余内存资源与至少一个其他流式多处理器的剩余内存资源合并的步骤，包括：按照所述第一序号顺序，将所述处于停滞状态的流式多处理器的剩余内存资源与至少一个其他流式多处理器的剩余内存资源合并。3.根据权利要求2所述的方法，其特征在于，所述按照所述第一序号顺序，将所述处于停滞状态的流式多处理器的剩余内存资源与至少一个其他流式多处理器的剩余内存资源合并的步骤，包括：将第一序号与所述处于停滞状态的流式多处理器的第一序号相邻的流式多处理器作为待合并流式多处理器；将所述处于停滞状态的流式多处理器的剩余内存资源作为待使用剩余内存资源；将所述待使用剩余内存资源与所述待合并流式多处理器的剩余内存资源合并，得到新的待使用剩余内存资源；确定所述待使用剩余内存资源是否满足所述处于停滞状态的流式多处理器中待执行的线程束的需求；若合并后的剩余内存资源不满足所述处于停滞状态的流式多处理器中待执行的线程束的需求，将第一序号与所述待合并流式多处理器的第一序号相邻的流式多处理器作为新的待合并流式多处理器，重复所述将所述待使用剩余内存资源与所述待合并流式多处理器的剩余内存资源合并，得到新的待使用剩余内存资源的步骤，直至所述待使用剩余内存资源满足所述处于停滞状态的流式多处理器中待执行的线程束的需求。4.根据权利要求3所述的方法，其特征在于，所述流式处理器中的线程束依序配置有第二序号；所述确定所述待使...

【专利技术属性】
技术研发人员：刘益嘉，
申请(专利权)人：苏州浪潮智能科技有限公司，
类型：发明
国别省市：