一种图像处理的方法及相关装置和系统制造方法及图纸

本申请公开了一种图像处理的方法及相关装置，应用于人工智能AI图像处理系统，AI图像处理系统包括多个计算设备，多个计算设备之间建立远程直接内存访问RDMA连接，多个计算设备的内存构成AI图像处理系统的共享内存；第二计算设备通过RDMA连接接收来自第一计算设备的第一处理结果，第一处理结果是第一计算设备根据目标图像生成的；第二计算设备通过RDMA连接从共享内存中获取目标图像；第二计算设备根据第一处理结果和目标图像生成第二处理结果。本申请中，将完整的图像处理任务分配到不同的多个计算设备完成，利用多个计算设备的资源来协同进行处理，不再由一个计算设备来独立完成所有任务，减少单个计算设备的算力开销，实现负载均衡，提高处理性能。提高处理性能。提高处理性能。

【技术实现步骤摘要】
一种图像处理的方法及相关装置和系统


[0001]本专利技术涉及计算机
，尤其涉及一种图像处理的方法及相关装置。

技术介绍

[0002]视频流的人工智能(artificial intelligence,AI)处理会串行经过多个处理模块，其中，主要包括视频读取模块、模型推理模块、逻辑后处理模块以及业务后处理模块。当前处理模块会处理输入图片以及上一处理模块的输出，从而得到当前处理模块的输出，而图片和元数据在各个处理模块间则通过队列的方式进行交互。
[0003]由于上述各个处理模块之间是串行地部署于一个计算设备当中，因此，各个视频的处理任务需要基于先进先出(first input first output，FIFO)机制进行队列等候。在面对并行处理多路视频的场景时，需要由多个线程(进程)来执行，一路视频由一个线程(进程)负责。
[0004]而面对多路视频并行处理的场景，这对计算设备的算力开销是巨大的，各个线程(进程)之间的资源竞争剧烈，造成处理性能下降。

技术实现思路

[0005]本申请提供了一种图像处理的方法及相本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种图像处理的方法，其特征在于，所述方法应用于人工智能AI图像处理系统，所述AI图像处理系统包括第一计算设备、第二计算设备在内的多个计算设备，所述多个计算设备之间建立远程直接内存访问RDMA连接，所述多个计算设备的内存通过所述RDMA连接构成所述AI图像处理系统的共享内存，所述方法包括：所述第二计算设备通过RDMA连接接收来自第一计算设备的第一处理结果，所述第一处理结果是所述第一计算设备根据目标图像生成的；所述第二计算设备通过RDMA连接从所述共享内存中获取所述目标图像；所述第二计算设备根据所述第一处理结果和所述目标图像生成第二处理结果。2.根据权利要求1所述的方法，其特征在于，所述第二计算设备从所述共享内存中获取所述目标图像之前，所述方法还包括：所述第二计算设备通过RDMA连接接收来自所述第一计算设备的目标图像的指针，所述目标图像的指针用于指示所述目标图像在所述共享内存中的存储地址。3.根据权利要求1或2所述的方法，其特征在于，所述第二计算设备中包括中央处理器CPU不包括图形处理器GPU，所述第二计算设备根据所述第一处理结果和所述目标图像生成第二处理结果，包括：所述第二计算设备通过所述CPU对所述第一处理结果和所述目标图像进行非GPU任务处理，得到第二处理结果，所述非GPU任务是不需要GPU参与的任务。4.根据权利要求3所述的方法，其特征在于，所述第一计算设备中包括GPU，所述第一处理结果为所述第一计算设备通过所述GPU对所述目标图像执行GPU任务的处理结果，所述GPU任务为需要GPU参与的任务。5.一种人工智能AI图像处理系统，其特征在于，所述AI图像处理系统包括第一计算设备、第二计算设备在内的多个计算设备，所述多个计算设备之间建立远程直接内存访问RDMA连接，所述多个计算设备的内存通过RDMA连接构成所述AI图像处理系统的共享内存，所述AI图像处理系统包括：所述第一计算设备，用于根据目标图像计算生成第一处理结果，将所述第一处理结果通过RDMA连接发送给所述第二计算设备；所述第二计算设备，用于通过RDMA连接从所述共享内存中获取所述目标图像，根据所述第一处理结果和所述目标图像生成第二处理结果。6.根据权利要求5所述的AI图像处理系统，其特征在于，所述AI图像处理系统还包括第三计算设备和第四计算设备；所述第三计算设备，用于根据对所述目标图像执行图像读流任务，得到第三处理结果，将所述第三处理结果通过RDMA连接发送给所述第一计算设备，所述第一处理结果为所述第一计算设备对所述目标图像和所述第三处理结果执行模型推理任务所得到的，所述第二处理结果为所述第二计算设备对所述目标图像和所述第一处理结果执行逻辑后处理任务所得到的；所述第四计算设备，用于根据所述目标图像和所述第二处理结果执行业务后处理任务，得到第四处理结果，并输出所述第四处理结果。7.根据权利要求5或6所述的AI图像处理系统，其特征在于，所述第二计算设备还用于：通过RDM...

【专利技术属性】
技术研发人员：韩承志，陈安伟，吴学文，王小辉，张亚斌，唐强，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：