【技术实现步骤摘要】
本专利技术涉及神经网络，尤其是一种基于fpga的神经网络加速方法及系统。
技术介绍
1、随着神经网络在无人机方向的应用越来越广泛，传统的计算平台已经无法满足实时性和低功耗的要求。而目前的fpga技术在低功耗和高算力方面具有显著优势，因此成为加速神经网络的理想选择。
2、然而，传统的神经网络模型在fpga上的应用存在一系列问题。首先，由于fpga的硬件架构不同于传统的cpu和gpu，神经网络模型在fpga上的计算效率并不高。其次，神经网络模型通常非常庞大，包含大量冗余的连接和神经元，这导致在fpga上运行时需要消耗大量资源和功耗，而且神经网络在fpga上的计算速度也无法满足实时性的要求。
技术实现思路
1、本专利技术为了解决上述存在的技术问题，提供一种基于fpga的神经网络加速方法及系统。
2、本专利技术的技术方案是这样实现的：
3、一种基于fpga的神经网络加速方法，包括以下步骤：
4、s1.确定无人机应用需求和性能指标：根据具体应用需求，确定性能指标，无人机应用于高速目标的目标识别、跟踪和检测，考虑因素包括无人机的飞行速度和高度，应用需求包括实时性和准确性，性能指标包括目标识别、跟踪和检测速度、能耗、延迟和误检率；
5、s2.设计和训练神经网络模型：根据s1中无人机应用需求和性能指标，设计适合的神经网络模型，使用卷积神经网络进行图像处理任务，进行实时目标检测，使用训练数据集对神经网络模型进行训练，以提高神经网络模型的准确
6、s3.优化神经网络模型：针对高速目标的目标识别、跟踪和检测应用，使用量化技术减少神经网络模型的位宽，将神经网络模型的权重和激活值表示为低精度的定点数，以降低计算和存储需求，使用剪枝技术去除冗余连接和无用节点，减少神经网络模型的参数量，从而减少计算复杂度，通过对底层电路进行重构，优化电路布局和结构，更新神经网络模型；
7、s4.将优化后的模型映射到fpga：将优化后的神经网络模型映射到fpga上进行加速，将神经网络模型的各层操作转化为fpga上的硬件实现，使用高级综合工具(hls)来自动转换神经网络模型代码为fpga可执行的硬件描述语言；
8、s5.设计fpga加速器：根据映射结果，设计fpga加速器以实现神经网络模型的计算，采用数据并行和模型并行，将神经网络模型的计算任务分解成多个并行的小任务，利用fpga的并行计算能力来加速整个神经网络模型的执行，以满足无人机的实时要求；
9、s6.进行加速器验证和调优：在实际硬件上实现fpga加速器后，进行验证和调优，使用真实的无人机数据集进行验证，以保证加速器在无人机应用中的可靠性和性能，并通过合理的数据流管理，优化数据传输和计算的重叠，减少数据传输延迟，提高计算效率，同时采用缓存技术，将经常使用的数据存储在fpga的片上存储器中，减少对外部存储器的访问延迟；
10、s7.集成fpga加速器到无人机平台：将fpga加速器集成到无人机平台中，确保fpga加速器与无人机平台的协同工作，并满足无人机应用需求。
11、作为优选，所述s3包括以下子步骤：
12、s31.量化技术：采用定点量化，将浮点数表示转换为定点数表示，通过限制权重和激活值的位宽和范围，减少存储需求和计算复杂度，并通过训练和微调来补偿量化带来的精度损失；
13、s32.剪枝技术：根据权重大小来选择需要剪枝的连接，选择权重小的连接进行删除，通过重新训练或修剪算法，调整神经网络模型的权重并保持其性能；
14、s33.重构底层电路：采用定制的加法器、乘法器和存储器，重构电路的布局和结构，提高电路的并行性和吞吐量。
15、作为优选，所述s32包括以下子步骤：
16、s321.根据神经网络模型的特点和任务需求，获取神经网络模型的连接矩阵和节点权重；
17、s322.通过计算节点的重要性指标，包括权重大小、梯度大小，确定需要剪枝的节点；
18、s323.根据剪枝的策略，包括保留前k％重要节点、根据阈值进行剪枝，确定需要保留或去除的连接和节点，阈值包括权重阈值、梯度阈值和剪枝率阈值，权重阈值根据节点的权重大小来确定阈值，将权重小的连接定义为不重要的连接，选择权重小于设定阈值的连接进行剪枝，梯度阈值根据节点梯度大小来确定阈值，通过计算节点的梯度大小，将梯度小的节点定义为不重要的节点，选择梯度小于设定阈值的节点进行剪枝，剪枝率指剪枝后剩余连接数与原始连接数的比值，保留剪枝后的连接数占原始连接数的一定比例设为剪枝率阈值，将低于该阈值的连接进行剪枝；
19、s324.根据剪枝策略确定的剪枝结果，调整神经网络模型的连接矩阵和节点权重；
20、s325.判断剪枝后的神经网络模型在验证集上的性能，如果满足要求则结束，否则继续剪枝；
21、s326.重复s322至s325，直到满足性能要求或达到预定的剪枝比例；
22、s327.根据剪枝后的神经网络模型结构，重新训练神经网络模型以恢复性能；
23、s328.根据剪枝后的神经网络模型结构，重新计算神经网络模型的参数量和计算量，评估剪枝效果。
24、作为优选，所述s5包括以下子步骤：
25、s51.分解任务：根据映射结果，将计算任务细化为在fpga上运行的子任务；
26、s52.数据并行：如果映射结果中存在多个数据依赖性低的子任务，采用数据并行的方式将这些子任务同时运行在fpga上，如果映射结果中包含多个矩阵乘法运算，将这些乘法任务分配给不同的fpga核心，使它们可以并行执行；
27、s53.模型并行：如果映射结果中存在大的计算任务，无法完全在一个fpga上并行执行，采用模型并行的方式将计算任务分解为多个子任务，分别在多个fpga上执行。
28、一种基于fpga的神经网络加速系统，包括无人机平台、数据交互模块、模型构建模块、模型优化模块、模型映射模块、fpga处理模块；
29、所述无人机平台用于存储和处理无人机数据，包括对高速目标的目标识别、跟踪和检测数据，以及其飞行速度和高度数据，输出无人机应用需求和性能指标；
30、所述数据交互模块用于连接无人机平台和模型构建模块之间的数据传输与集成，将无人机平台输出的无人机应用需求和性能指标传输至模型构建模块中，以及连接fpga处理模块与无人机平台之间的数据传输与集成，将fpga处理模块输出的fpga加速器集成到无人机平台中；
31、所述模型构建模块用于接收无人机应用需求和性能指标，构建适合的神经网络模型，使用训练数据集对神经网络模型进行训练；
32、所述模型优化模块用于根据无人机应用需求和性能指标，使用量化技术和剪枝技术对神经网络模型进行优化，并对其底层电路进行重构，更新神经网络模型；
33、所述模型映射模块用于将优化后的神经网络模型映射至fpga处本文档来自技高网...
【技术保护点】
1.一种基于FPGA的神经网络加速方法，其特征在于：包括以下步骤：
2.根据权利要求1所述的一种基于FPGA的神经网络加速方法，其特征在于：所述S3包括以下子步骤：
3.根据权利要求2所述的一种基于FPGA的神经网络加速方法，其特征在于：所述S32包括以下子步骤：
4.根据权利要求1所述的一种基于FPGA的神经网络加速方法，其特征在于：所述S5包括以下子步骤：
5.一种基于FPGA的神经网络加速系统，其特征在于：包括无人机平台、数据交互模块、模型构建模块、模型优化模块、模型映射模块、FPGA处理模块；
6.根据权利要求5所述的一种基于FPGA的神经网络加速系统，其特征在于：所述模型构建模块包括模型设计单元、模型训练单元；
7.根据权利要求5所述的一种基于FPGA的神经网络加速系统，其特征在于：所述模型优化模块包括量化单元、剪枝单元、电路重构单元；
8.根据权利要求5所述的一种基于FPGA的神经网络加速系统，其特征在于：所述FPGA处理模块包括任务分解单元、加速器单元、验证单元、调优单元；
【技术特征摘要】
1.一种基于fpga的神经网络加速方法，其特征在于：包括以下步骤：
2.根据权利要求1所述的一种基于fpga的神经网络加速方法，其特征在于：所述s3包括以下子步骤：
3.根据权利要求2所述的一种基于fpga的神经网络加速方法，其特征在于：所述s32包括以下子步骤：
4.根据权利要求1所述的一种基于fpga的神经网络加速方法，其特征在于：所述s5包括以下子步骤：
5.一种基于fpga的神经网络加速系统，其特征在于：包括无人机平台、数据交互模块...
【专利技术属性】
技术研发人员：王静静，黄飞龙，李庆元，娄渊伟，
申请(专利权)人：电科云北京科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。