数据处理方法及装置、电子设备和存储介质制造方法及图纸

本公开涉及一种数据处理方法及装置、电子设备和存储介质，其中，所述方法包括：获取待处理数据中至少一组数据的数据量；根据所述数据量以及至少一个计算单元的缓存容量，为所述待处理数据中每组数据分配计算单元；从内存中读取所述待处理数据，并将所述待处理数据缓存至分配的计算单元的缓存中，以通过所述分配的计算单元对所述缓存中的所述待处理数据进行处理。

Data processing methods and devices, electronic equipment and storage media

【技术实现步骤摘要】
数据处理方法及装置、电子设备和存储介质
本公开涉及计算机
，尤其涉及一种数据处理方法及装置、电子设备和存储介质。
技术介绍
随着人工智能技术的快速发展，一大批人工智能企业如雨后春笋一般建立起来，图像处理器(GraphicsProcessingUnit，GPU)的计算任务由小规模逐渐向大规模、高速网络互连发展。为了满足不同任务对GPU的不同要求，可以将GPU划分为多个计算单元，利用多个计算单元对不同任务进行处理。通常，一个GPU上的多个计算单元是相对独立的，多个计算单元可以共享GPU的全局存储器。但是，如何利用计算单元实现任务的高效处理，是尚待解决的一个技术问题。
技术实现思路
本公开提出了一种数据处理技术方案。根据本公开的一方面，提供了一种数据处理方法，包括：获取待处理数据中至少一组数据的数据量；根据所述数据量以及至少一个计算单元的缓存容量，为所述待处理数据中每组数据分配计算单元；从内存中读取所述待处理数据，并将所述待处理数据缓存至分配的计算单元的缓存中，以通过所述分配的计算单元对所述缓存中的所述待处理数据进行处理。在一个可能的实现方式中，在所述从内存中读取所述待处理数据之后，所述方法还包括：通过所述分配的计算单元对所述待处理数据进行第一处理，得到处理结果；所述通过所述分配的计算单元对所述缓存中的所述待处理数据进行处理，包括：从所述缓存中获取所述待处理数据；通过所述分配的计算单元，对所述处理结果以及从所述缓存中获取的所述待处理数据进行第二处理。在一个可能的实现方式中，所述根据所述数据量以及至少一个计算单元的缓存容量，为所述待处理数据中每组数据分配计算单元，包括：在所述数据量小于或等于所述至少一个计算单元中每个计算单元的缓存容量的情况下，将内存中的所述每组数据分配给一个计算单元。在一个可能的实现方式中，所述根据所述数据量以及至少一个计算单元的缓存容量，为所述待处理数据中每组数据分配计算单元，包括：在所述数据量大于所述至少一个计算单元中每个计算单元的缓存容量的情况下，将内存中的所述每组数据分配给多个计算单元。在一个可能的实现方式中，所述根据所述数据量以及至少一个计算单元的缓存容量，为所述待处理数据中每组数据分配计算单元，包括：在所述数据量小于或等于所述至少一个计算单元中部分计算单元的缓存容量，和/或所述数据量大于所述至少一个计算单元中部分计算单元的缓存容量的情况下，将内存中部分组数据中的每组数据分配给一个计算单元，并将内存中除所述部分组数据以外的每组数据分配给多个计算单元。在一个可能的实现方式中，对于分配给多个计算单元的一组数据，所述通过所述分配的计算单元对所述缓存中的所述待处理数据进行处理，包括：从分配的多个计算单元中每个计算单元的缓存中获取属于一组数据的目标数据；通过所述多个计算单元中的每个计算单元，分别对所述处理结果以及所述目标数据进行第二处理。在一个可能的实现方式中，所述通过所述多个计算单元中的每个计算单元，分别对所述处理结果以及所述目标数据进行第二处理，包括：在所述多个计算单元中每个计算单元完成所述第一处理的情况下，通过所述多个计算单元中每个计算单元，分别对所述处理结果以及所述目标数据进行第二处理。在一个可能的实现方式中，所述通过所述多个计算单元中每个计算单元，分别对所述处理结果以及所述目标数据进行第二处理之前，还包括：确定所述多个计算单元中完成所述第一处理的计算单元的数量；在完成所述第一处理的计算单元的数量大于或等于所述多个计算单元的总数量的情况下，确定所述多个计算单元中每个计算单元完成所述第一处理。在一个可能的实现方式中，所述待处理数据包括图像数据；所述图像数据包括多个通道的数据；所述每组数据对应所述图像数据中一个通道的数据。根据本公开的一方面，提供了一种数据处理装置，包括：获取模块，用于获取待处理数据中至少一组数据的数据量；分配模块，用于根据所述数据量以及至少一个计算单元的缓存容量，为所述待处理数据中每组数据分配计算单元；处理模块，用于从内存中读取所述待处理数据，并将所述待处理数据缓存至分配的计算单元的缓存中，以通过所述分配的计算单元对所述缓存中的所述待处理数据进行处理。在一个可能的实现方式中，所述处理模块，还用于通过所述分配的计算单元对所述待处理数据进行第一处理，得到处理结果；所述处理模块，具体用于从所述缓存中获取所述待处理数据；通过所述分配的计算单元，对所述处理结果以及从所述缓存中获取的所述待处理数据进行第二处理。在一个可能的实现方式中，所述分配模块，具体用于在所述数据量小于或等于所述至少一个计算单元中每个计算单元的缓存容量的情况下，将内存中的所述每组数据分配给一个计算单元。在一个可能的实现方式中，所述分配模块，具体用于在所述数据量大于所述至少一个计算单元中每个计算单元的缓存容量的情况下，将内存中的所述每组数据分配给多个计算单元。在一个可能的实现方式中，所述分配模块，具体用于在所述数据量小于或等于所述至少一个计算单元中部分计算单元的缓存容量，和/或所述数据量大于所述至少一个计算单元中部分计算单元的缓存容量的情况下，将内存中部分组数据中的每组数据分配给一个计算单元，并将内存中除所述部分组数据以外的每组数据分配给多个计算单元。在一个可能的实现方式中，所述处理模块，具体用于从分配的多个计算单元中每个计算单元的缓存中获取属于一组数据的目标数据；通过所述多个计算单元中的每个计算单元，分别对所述处理结果以及所述目标数据进行第二处理。在一个可能的实现方式中，所述处理模块，具体用于在所述多个计算单元中每个计算单元完成所述第一处理的情况下，通过所述多个计算单元中每个计算单元，分别对所述处理结果以及所述目标数据进行第二处理。在一个可能的实现方式中，所述处理模块，还用于确定所述多个计算单元中完成所述第一处理的计算单元的数量；在完成所述第一处理的计算单元的数量大于或等于所述多个计算单元的总数量的情况下，确定所述多个计算单元中每个计算单元完成所述第一处理。在一个可能的实现方式中，所述待处理数据包括图像数据；所述图像数据包括多个通道的数据；所述每组数据对应所述图像数据中一个通道的数据。根据本公开的另一方面，提供了一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为：执行上述数据处理方法。根据本公开的另一方面，提供了一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述数据处理方法。在本公开实施例中，可以获取待处理数据中至少一组数据的数据量，然后根据至少一组数据的数据量以及至少一个计算单元的缓存容量，为待处理数据中每组数据分配计算单元，从内存中读取待处理数据，并将待处理数据缓存至分配的计算单元的缓存中，以通过分配的计算单元对缓存中的待处理数据进行处理。这样，通过将待处理数据缓存在分配的计算单元的缓存中，在再次或多次读取待处理数据的情况下，可以在计算单元的缓本文档来自技高网...

【技术保护点】
1.一种数据处理方法，其特征在于，包括：/n获取待处理数据中至少一组数据的数据量；/n根据所述数据量以及至少一个计算单元的缓存容量，为所述待处理数据中每组数据分配计算单元；/n从内存中读取所述待处理数据，并将所述待处理数据缓存至分配的计算单元的缓存中，以通过所述分配的计算单元对所述缓存中的所述待处理数据进行处理。/n

【技术特征摘要】
1.一种数据处理方法，其特征在于，包括：
获取待处理数据中至少一组数据的数据量；
根据所述数据量以及至少一个计算单元的缓存容量，为所述待处理数据中每组数据分配计算单元；
从内存中读取所述待处理数据，并将所述待处理数据缓存至分配的计算单元的缓存中，以通过所述分配的计算单元对所述缓存中的所述待处理数据进行处理。


2.根据权利要求1所述的方法，其特征在于，在所述从内存中读取所述待处理数据之后，所述方法还包括：
通过所述分配的计算单元对所述待处理数据进行第一处理，得到处理结果；
所述通过所述分配的计算单元对所述缓存中的所述待处理数据进行处理，包括：
从所述缓存中获取所述待处理数据；
通过所述分配的计算单元，对所述处理结果以及从所述缓存中获取的所述待处理数据进行第二处理。


3.根据权利要求1或2所述的方法，其特征在于，所述根据所述数据量以及至少一个计算单元的缓存容量，为所述待处理数据中每组数据分配计算单元，包括：
在所述数据量小于或等于所述至少一个计算单元中每个计算单元的缓存容量的情况下，将内存中的所述每组数据分配给一个计算单元。


4.根据权利要求1或2所述的方法，其特征在于，所述根据所述数据量以及至少一个计算单元的缓存容量，为所述待处理数据中每组数据分配计算单元，包括：
在所述数据量大于所述至少一个计算单元中每个计算单元的缓存容量的情况下，将内存中的所述每组数据分配给多个计算单元。


5.根据权利要求1或2所述的方法，其特征在于，所述根据所述数据量以及至少一个计算单元的缓存容量，为所述待处理数据中每组数据分配计算单元，包括：
在所述数据量小于或等于所述至少一个计算单元中部分计算单元的缓存容量，和/或所述数据量大于所述至少一个计算单元中部分计算单元的缓存容量的情况下，将内存中部分组数据中的每组数据分配给一个计算单元，并将内存中除所述部分组数据以外的每组数据分配给多个计算单元。


6.根据权利要求4或5所述的方法，其特征在于，对于分配给多个计算单元的一组数据，所述通过所述分配的计算单元对所述缓存中的所述待处理数据进行处理，包括：
从分配的多个计算单元中每个计算单元的缓存中获取属于一组数据的目标数据；
通过所述多个计算单元中的每个计算单元，分别对所述处理结果以及所述目标数据进行第二处理。


7.根据权利要求6所述的方法，其特征在于，所述通过所述多个计算单元中的每个计算单元，分别对所述处理结果以及所述目标数据进行第二处理，包括：
在所述多个计算单元中每个计算单元完成所述第一处理的情况下，通过所述多个计算单元中每个计算单元，分别对所述处理结果以及所述目标数据进行第二处理。


8.根据权利要求7所述的方法，其特征在于，所述通过所述多个计算单元中每个计算单元，分别对所述处理结果以及所述目标数据进行第二处理之前，还包括：
确定所述多个计算单元中完成所述第一处理的计算单元的数量；
在完成所述第一处理的计算单元的数量大于或等于所述多个计算单元的总数量的情况下，确定所述多个计算单元中每个计算单元完成所述第一处理。


9.根据权利要求1至8任意一项所述的方法，其特征在于，所述待处理数据包括图像数据；所述图像数...

【专利技术属性】
技术研发人员：李英晗，张行程，
申请(专利权)人：深圳市商汤科技有限公司，
类型：发明
国别省市：广东;44