用于GPU系统的负载分配方法、装置、设备和介质制造方法及图纸

本公开涉及电数字数据处理技术领域，尤其涉及一种用于GPU系统的负载分配方法、装置、设备和介质。所述GPU系统包括至少两个核，所述方法包括：针对任一核，响应于所述核中未处理完成的负载片段的数量小于预设数量，且GPU系统中存在待分配的负载片段，向所述核分配所述待分配的负载片段中的一个或连续多个负载片段，使得各个核中未处理完成的负载片段的数量等于预设数量。由此能够基于各个核处理负载片段的进度，自适应地将负载片段分配到各个核中，以平衡各个核之间的工作负载，使得各个核在相近的时间处理完成负载片段，从而能够提高GPU系统的计算效率，减少各个核的空闲时间，优化GPU系统的性能，节省GPU系统的功耗。节省GPU系统的功耗。节省GPU系统的功耗。

【技术实现步骤摘要】
用于GPU系统的负载分配方法、装置、设备和介质


[0001]在本公开涉及电数字数据处理
，尤其涉及一种用于GPU系统的负载分配方法、GPU系统的负载分配装置、电子设备、存储介质和程序产品。

技术介绍

[0002]目前，部分GPU（Graphics Processing Unit，图形处理器）系统包括两个以上核。针对包括至少两个核的GPU系统，如何对工作负载进行分配，以提高GPU系统的计算效率，是亟待解决的技术问题。

技术实现思路

[0003]本公开提供了一种用于GPU系统的负载分配技术方案。
[0004]根据本公开的一方面，提供了一种用于GPU系统的负载分配方法，所述GPU系统包括至少两个核，所述方法包括：针对GPU系统的任一核，响应于所述核中未处理完成的负载片段的数量小于预设数量，且所述GPU系统中存在待分配的负载片段，向所述核分配所述待分配的负载片段中的一个或连续多个负载片段，使得所述GPU系统的各个核中未处理完成的负载片段的数量等于所述预设数量。
[0005]通过针对所述GPU系统的任一核，响应于所述本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于GPU系统的负载分配方法，其特征在于，所述GPU系统包括至少两个核，所述方法包括：针对GPU系统的任一核，响应于所述核中未处理完成的负载片段的数量小于预设数量，且所述GPU系统中存在待分配的负载片段，向所述核分配所述待分配的负载片段中的一个或连续多个负载片段，使得所述GPU系统的各个核中未处理完成的负载片段的数量等于所述预设数量。2.根据权利要求1所述的方法，其特征在于，所述核中未处理完成的负载片段的数量小于预设数量基于接收到来自于所述核的片段完成消息确定，其中，所述片段完成消息表示所述核处理完成至少一个负载片段的消息。3.根据权利要求2所述的方法，其特征在于，所述片段完成消息为所述核处理完成一个负载片段的消息。4.根据权利要求2或3所述的方法，其特征在于，所述片段完成消息包括所述核处理完成的负载片段的标识信息。5.根据权利要求1所述的方法，其特征在于，所述向所述核分配所述待分配的负载片段中的一个或连续多个负载片段，包括：向所述核发送所述待分配的负载片段中的一个或连续多个负载片段的标识信息。6.根据权利要求1至3中任意一项所述的方法，其特征在于，所述预设数量基于所述GPU系统的工作负载的类型进行配置。7.根据权利要求6所述的方法，其特征在于，所述预设数量大于或等于2。8.一种GPU系统，其特征在于，所述GPU系统包括至少两个核以及负载同步模块；所述负载同步模块被配置为：针对所述GPU系统的任一核，响应于所述核中未处理完成的负载片段的数量小于预设数量，且所述GPU系统中存在待分配的负载片段，向所述核分配所述待分配的负载片段中的一个或连续多个负载片段，使得所述GPU系统的各个核中未处理完成的负载片段的数量等...

【专利技术属性】
技术研发人员：请求不公布姓名，
申请(专利权)人：摩尔线程智能科技北京有限责任公司，
类型：发明
国别省市：