任务调度、预处理、处理方法及设备、处理单元、介质技术

本公开提供了一种计算任务的调度方法，包括：划分至少一个处理单元分组，每个所述处理单元分组包括多个处理单元；将第一张量的至少一个分块映射到至少一个所述处理单元分组，以使所述处理单元分组中的多个处理单元处理所述分块对应的计算任务；不同的所述处理单元分组对应不同的所述分块；其中，所述处理单元具有缓存，同一个所述处理单元分组中的多个处理单元能够相互传输数据。本公开还提供一种计算任务的预处理方法、一种计算任务的处理方法、一种控制器、一种处理单元、一种电子设备、一种预处理装置、一种计算机可读介质。

【技术实现步骤摘要】
任务调度、预处理、处理方法及设备、处理单元、介质
本公开涉及计算机
，特别涉及一种计算任务的调度方法、一种计算任务的预处理方法、一种计算任务的处理方法、一种控制器、一种处理单元、一种电子设备、一种预处理装置、一种计算机可读介质。
技术介绍
稀疏高维数据(例如稀疏高维张量)在现实生活被广泛使用，稀疏高维数据之间的计算因此成为重要的工作负载。张量之间的乘法是在张量(Tensor)分解过程中的一种常见稀疏高维数据之间的计算。在一些相关技术中，图形处理器(GPU，GraphicsProcessingUnit)在处理稀疏张量与低秩张量的乘法时，由GPU的每一个核处理稀疏张量的一个分块所涉及的计算。通常流程为先将稀疏张量的分块对应的低秩张量的数据加载到GPU核的局部缓存中，然后逐个加载分块的非零元素进行计算。但是，稀疏张量的稀疏度变化范围很大，GPU在处理不同稀疏度的张量乘法时无法确保缓存数据复用率，严重影响运行性能。
技术实现思路
本公开实施例提供一种计算任务的调度方法、一种计算任务的预处理方法、一种计算任务的处本文档来自技高网...

【技术保护点】
1.一种计算任务的调度方法，包括：/n划分至少一个处理单元分组，每个所述处理单元分组包括多个处理单元；/n将第一张量的至少一个分块映射到至少一个所述处理单元分组，以使所述处理单元分组中的多个处理单元处理所述分块对应的计算任务；不同的所述处理单元分组对应不同的所述分块；/n其中，所述处理单元具有缓存，同一个所述处理单元分组中的多个处理单元能够相互传输数据。/n

【技术特征摘要】
1.一种计算任务的调度方法，包括：
划分至少一个处理单元分组，每个所述处理单元分组包括多个处理单元；
将第一张量的至少一个分块映射到至少一个所述处理单元分组，以使所述处理单元分组中的多个处理单元处理所述分块对应的计算任务；不同的所述处理单元分组对应不同的所述分块；
其中，所述处理单元具有缓存，同一个所述处理单元分组中的多个处理单元能够相互传输数据。


2.根据权利要求1所述的调度方法，其中，将第一张量的至少一个分块映射到至少一个所述处理单元分组的步骤包括：
确定目标处理单元分组，所述目标处理单元分组为所述分块对应的处理单元分组；
将所述分块对应的第二张量的数据加载到所述目标处理单元分组中的多个处理单元的缓存中；
将所述分块的非零元素注入所述目标处理单元分组中的处理单元。


3.根据权利要求2所述的调度方法，其中，所述第二张量由多个因子张量缩并得到，所述分块对应的第二张量的数据为缩并得到所述第二张量的各个所述因子张量中所述分块对应的数据片段，每个所述数据片段包括多个子片段，每一个所述非零元素对应各个所述数据片段的一个所述子片段；将所述分块对应的第二张量的数据加载到所述目标处理单元分组中的处理单元的缓存中的步骤包括：
将所述分块对应的多个所述数据片段加载到所述目标处理单元分组中的多个处理单元的缓存中。


4.一种计算任务的预处理方法，包括：
根据第一张量的数据维度、目标缓存数据复用率和所述第一张量的稀疏度，将所述第一张量划分为至少一个分块；
根据所述分块的大小和处理单元的缓存大小，确定目标数量，所述目标数量为组成一个处理单元分组的所述处理单元的数量；
其中，组成同一个所述处理单元分组中的多个所述处理单元能够相互传输数据，所述处理单元分组用于...

【专利技术属性】
技术研发人员：邓磊，李涵，何伟，赵蓉，施路平，
申请(专利权)人：北京灵汐科技有限公司，
类型：发明
国别省市：北京;11