卷积神经网络模型的计算方法及装置制造方法及图纸

本发明专利技术提供了的一种卷积神经网络模型的计算方法及装置，该方法包括：通过获取卷积神经网络模型的训练任务的计算模型；然后，将所述卷积神经网络模型的训练任务的计算模型中的乘累加运算拆分成多个乘加运算任务；再根据预设的计算模型与计算设备的对应关系，确认每一个乘加运算任务所对应的计算设备；最后，利用所述每一个乘加运算任务所对应的计算设备，分别对所述每一个乘加运算任务进行计算。达到了提高当CNN模型训练任务在不同计算设备上进行迁移或不同处理器协同计算的灵活性，提高计算速度的目的。

Calculation method and device of convolution neural network model

【技术实现步骤摘要】
卷积神经网络模型的计算方法及装置
本专利技术涉及计算机
，特别涉及一种卷积神经网络模型的计算方法及装置。
技术介绍
随着计算机技术以及人工智能技术的不断发展，卷积神经网络(ConvolutionalNeuralNetwork，CNN)模型应用的越来越广泛，随着人们的对CNN模型在目标检测与识别过程中的准确率要求越来越高，CNN模型的规模也在不断的增长，因此对于用来进行CNN模型训练任务的硬件平台的要求也越来越高。然而随着摩尔定律的限制，现有技术中用于CNN训练任务的硬件平台逐渐达到瓶颈。因此，业界内均开始尝试采用其他异构设备对CNN模型训练任务进行异构加速；但是，现有技术中包含CPU、GPU、FPGA、AI专用处理器在内的计算设备，在进行CNN模型训练计算任务时，均有着专用定制的计算执行粒度，当CNN模型训练任务在不同计算设备上进行迁移或不同处理器协同计算时，十分的不灵活，严重影响了计算速度。
技术实现思路
有鉴于此，本专利技术实施例提供一种卷积神经网络模型的计算方法及装置，用于提高当CNN模型训练任务在不同计本文档来自技高网...

【技术保护点】
1.一种卷积神经网络模型的计算方法，其特征在于，包括：/n获取卷积神经网络模型的训练任务的计算模型；/n将所述卷积神经网络模型的训练任务的计算模型中的乘累加运算拆分成多个乘加运算任务；/n根据预设的计算模型与计算设备的对应关系，确认每一个乘加运算任务所对应的计算设备；/n利用所述每一个乘加运算任务所对应的计算设备，分别对所述每一个乘加运算任务进行计算。/n

【技术特征摘要】
1.一种卷积神经网络模型的计算方法，其特征在于，包括：
获取卷积神经网络模型的训练任务的计算模型；
将所述卷积神经网络模型的训练任务的计算模型中的乘累加运算拆分成多个乘加运算任务；
根据预设的计算模型与计算设备的对应关系，确认每一个乘加运算任务所对应的计算设备；
利用所述每一个乘加运算任务所对应的计算设备，分别对所述每一个乘加运算任务进行计算。


2.根据权利要求1所述的方法，其特征在于，所述获取卷积神经网络模型的训练任务的计算模型，包括：
获取卷积神经网络模型的训练任务；
利用深度学习框架对卷积神经网络模型的训练任务进行处理，生成数据流图，所述数据流图作为所述卷积神经网络模型的训练任务的计算模型。


3.根据权利要求1所述的方法，其特征在于，所述将所述卷积神经网络模型的训练任务的计算模型中的乘累加运算拆分成多个乘加运算任务，包括：
将所述卷积神经网络模型的训练任务的计算模型中的乘累加运算拆分成首位乘加运算任务、中间乘加运算任务和末位乘加运算任务；其中，所述首位乘加运算任务在进行前向传播计算时，包括一个乘法计算，进行后向传播计算时包括一个乘法计算和一个加法计算；所述中间乘加运算任务，包括一个乘法计算和一个加法计算；所述末位乘加计算任务，在进行前向传播计算时，包括一个一个乘法计算和一个加法计算，进行后向传播计算时包括一个乘法计算。


4.根据权利要求1所述的方法，其特征在于，所述利用所述每一个乘加运算任务所对应的计算设备，分别对所述每一个乘加运算任务进行计算，还包括：
判断所述乘加运算任务所对应的计算设备的当前负载率是否大于所述乘加运算任务所对应的计算设备所对应的负载率阈值；
若判断出所述乘加运算任务所对应的计算设备的的当前负载率大于所述乘加运算任务所对应的计算设备所对应的负载率阈值，则调用当前可用的计算设备进行计算所述乘加运算任务。


5.根据权利要求1所述的方法，其特征在于，所述将所述卷积神经网络模型的训练任务的计算模型中的乘累加运算拆分成多个乘加运算任务之后，还包括：
在每一个乘加运算任务中添加标识；其中，所述标识用于标记每一个乘加运算任务在所述...

【专利技术属性】
技术研发人员：郭振华，范宝余，王丽，高开，
申请(专利权)人：浪潮电子信息产业股份有限公司，
类型：发明
国别省市：山东;37