一种用于卷积神经网络CNN的硬件加速系统及控制方法技术方案

技术编号:26343601 阅读:44 留言:0更新日期:2020-11-13 20:47
本发明专利技术示出一种用于卷积神经网络CNN的硬件加速系统及控制方法。硬件加速系统包括:CNN网络模型服务器和CNN硬件加速器。硬件加速系统的控制方法为:设计人员根据应用需求选择合适的网络模型,CNN网络模型服务器接收网络模型,预先生成控制指令和网络参数的文件,CNN硬件加速器预先存储控制指令和网络参数的文件。在实际应用场景中,CNN硬件加速器被部署在应用系统里,用以当应用系统运行时,接收特征数据,并基于上述控制指令对网络参数和特征数据进行CNN计算,最终将计算结果输出给应用系统的控制单元。本发明专利技术示出的硬件加速系统可以预先生成控制指令,解决了因软硬件实时交互消耗一定时间造成的加速器性能下降的问题。

A hardware acceleration system and control method for convolutional neural network CNN

【技术实现步骤摘要】
一种用于卷积神经网络CNN的硬件加速系统及控制方法
本专利技术涉及硬件加速领域,具体涉及一种用于卷积神经网络CNN的硬件加速系统及控制方法。
技术介绍
卷积神经网络(convolutionalneuralnetwork,CNN)是人工智能的主流解决方案,通过CNN诸如图像分类、语音识别、知识问答、人机对弈、无人驾驶等人工智能技术实现了从“不能用或不好用”到“可以用”的技术突破。但是,目前的CNN网络模型都比较大,需要海量的计算来完成任务。因此我们在实际应用中通过部署CNN硬件加速器来提高数据处理能力。现有技术中,CNN硬件加速器通常采用在中央处理器(centralprocessingunit,CPU)或数字信号处理器(AdvancedRISCMachine,ARM)等处理器上运行软件,和CNN硬件加速器实时交互实现控制的方法,协同完成CNN硬件加速处理。软件和CNN硬件加速器配合一起实现CNN硬件加速,这种方案虽然便于灵活部署,但是部署时要求必须有CPU或者ARM等处理器来运行软件,对基础硬件的需求较高。r>然而,现有技术存本文档来自技高网...

【技术保护点】
1.一种用于卷积神经网络CNN的硬件加速系统,其特征在于,包括:CNN网络模型服务器和CNN硬件加速器,/n所述CNN网络模型服务器被配置为:接收网络模型;以及,根据网络模型预先生成控制指令和网络参数文件,所述控制指令用于当应用系统运行时控制所述CNN硬件加速器完成CNN计算;/n所述CNN硬件加速器被配置为:预先接收和存储所述CNN网络模型服务器输出的所述控制指令和所述网络参数文件;以及,当应用系统运行时,接收特征数据;以及,基于所述控制指令对所述网络参数和所述特征数据进行CNN计算,直到完成CNN计算,得到CNN计算结果。/n

【技术特征摘要】
1.一种用于卷积神经网络CNN的硬件加速系统,其特征在于,包括:CNN网络模型服务器和CNN硬件加速器,
所述CNN网络模型服务器被配置为:接收网络模型;以及,根据网络模型预先生成控制指令和网络参数文件,所述控制指令用于当应用系统运行时控制所述CNN硬件加速器完成CNN计算;
所述CNN硬件加速器被配置为:预先接收和存储所述CNN网络模型服务器输出的所述控制指令和所述网络参数文件;以及,当应用系统运行时,接收特征数据;以及,基于所述控制指令对所述网络参数和所述特征数据进行CNN计算,直到完成CNN计算,得到CNN计算结果。


2.根据权利要求1所述的硬件加速系统,其特征在于,所述CNN网络模型服务器包括:网络模型训练模块和CNN加速工具链模块,
所述网络模型训练模块被配置为:接收网络模型,根据所述网络模型得到训练后的网络参数;
所述CNN加速工具链模块被配置为:读取所述网络模型和所述网络参数,生成所述控制指令和所述网络参数文件。


3.根据权利要求1所述的硬件加速系统,其特征在于,所述CNN硬件加速器包括:控制单元、CNN加速单元及存储单元,
所述控制单元被配置为:
预处理步骤:将所述控制指令和所述网络参数加载到所述存储单元;
参数提供步骤:响应于应用系统运行的信号,将特征数据加载到所述存储单元;以及,输出所述控制指令、所述网络参数及所述特征数据;
所述CNN加速单元被配置为:
参数接收步骤:读取所述控制指令、所述网络参数及所述特征数据;
CNN计算步骤:基于所述控制指令对所述网络参数和所述特征数据进行卷积神经网络计算,得到所有数据计算完成的计算结果;以及,输出计算结果到所述存储单元,生成完成计算的计算终结信号;
所述控制单元还被配置为:
调取计算结果步骤:响应于所述计算终结信号,从所述存储单元内调取所述计算结果。


4.根据权利要求...

【专利技术属性】
技术研发人员:杨东天王中风孟明杨灿
申请(专利权)人:南京风兴科技有限公司
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1