一种协同计算方法、装置、系统及介质制造方法及图纸

本发明专利技术提供了本发明专利技术提供了一种协同计算方法、装置、系统及介质，所述协同计算方法包括：CPU将应用任务放入第一消息队列；GPU处理第一消息队列中的应用任务，并把处理后的结果放入第二消息队列；CPU处理第二消息队列中的应用任务。本发明专利技术提供的GPU+CPU协同计算方法，能够在GPU+CPU的系统中，充分发挥CPU和GPU各自的优势，尽可能地利用系统资源，在提升计算性能的同时保证系统负载的均衡性。

【技术实现步骤摘要】
一种协同计算方法、装置、系统及介质
本专利技术涉及计算机
，尤其涉及一种协同计算方法、装置、系统及介质。
技术介绍
基于GPU+CPU的异构协同计算系统具有很大的发展潜力。由于GPU在神经网络计算方面得天独厚的优势，很多基于神经网络的系统，如基于神经网络的语音识别、语音合成等系统都已经引入了GPU，利用GPU的超强算力，提升整个系统的计算能力。同时由于历史原因，以及CPU在串行/并行计算方面也有其优势，并不能完全使用GPU替代掉CPU。因此，目前最常见的系统是GPU+CPU的异步系统计算构架：由GPU负责计算量最大的神经网络计算部分，而这部分计算占整个系统中的大部分计算，其他并行计算由CPU线程多线程负责。但由于CPU和GPU计算能力差距巨大，有各自擅长的应用领域，所以协同计算时，如果不进行协同设计，极容易造成资源浪费、系统负载失衡甚至达不到预定目标。在GPU+CPU的异构系统中，如果不进行协同设计，在高并发计算时，极容易造成负载失衡，导致整个机器的sy升高，影响整个系统的性能，甚至不可用，这是因为sy严重本文档来自技高网...

【技术保护点】
1.一种协同计算方法，其特征在于，所述方法包括：/nCPU将应用任务放入第一消息队列；/nGPU处理第一消息队列中的应用任务，并把处理后的结果放入第二消息队列；/nCPU处理第二消息队列中的应用任务。/n

【技术特征摘要】
1.一种协同计算方法，其特征在于，所述方法包括：
CPU将应用任务放入第一消息队列；
GPU处理第一消息队列中的应用任务，并把处理后的结果放入第二消息队列；
CPU处理第二消息队列中的应用任务。


2.根据权利要求1所述的方法，其特征在于，根据应用任务，调节CPU的参数配置。


3.根据权利要求2所述的方法，其特征在于，所述根据应用任务，调节CPU的参数配置，具体为：
根据应用任务，配置CPU使用的核个数。


4.根据权利要求3所述的方法，其特征在于，所述根据应用任务，配置CPU使用的核个数，具体为：
配置给CPU使用的核个数小于CPU总核数。


5.根据权利要求1所述的方法，其特征在于，调节GUP的参数配置，处理第一消息队列中的应用任务。


6.一种协同计算装置，其特征在于，所述装置包括：CPU运算模块和GPU运算模块；
所述CPU运算模块，用于将应用任务放入第一消...

【专利技术属性】
技术研发人员：李旭滨，范红亮，
申请(专利权)人：云知声智能科技股份有限公司，厦门云知芯智能科技有限公司，
类型：发明
国别省市：北京;11