基于人工智能的数据智能模型训练与硬件加速方法及系统技术方案

技术编号:42783043 阅读:12 留言:0更新日期:2024-09-21 00:42
本发明专利技术涉及人工智能领域,具体公开了一种基于人工智能的数据智能模型训练与硬件加速方法,包括:设置原始深度卷积神经网络模型DNN的网络结构;经过首次训练得到卷积神经网络模型;进而进行阶段和类别划分,从而得到块;计算每一个块中各个类别卷积层的滤波器滤波通道大小及剪枝权重;使用剪枝后的智能模型执行推理任务;根据任务类型选择对应的激活函数;并进行量化和知识蒸馏;设计通用硬件加速器,将优化后的深度卷积神经网络模型DNN部署在FPGA中。本发明专利技术通过深度卷积神经网络模型DNN的网络结构的构建,设计多种激活函数通用硬件架构,使其在更轻量化的同时,在提高卷积神经网络的表达能力的同时,能够准确提高智能化水平。

【技术实现步骤摘要】

本专利技术涉及人工智能领域,特别地,本专利技术涉及一种基于人工智能的数据智能模型训练与硬件加速方法。


技术介绍

1、深度神经网络dnn的快速发展至使越来越多的人从事相关研究工作,其在目标检测、自然语言处理、计算机视觉等领域已经取得巨大的发展。随着集成电路的发展,计算机处理能力的不断提高,神经网络再度成为人工智能研究发展的热点。

2、但神经网络包含一系列的并行工作的隐藏层,并且每一隐藏层中包含大量的神经元,每一神经元都从其他神经元中获取输入、再计算输出,就要使用激活函数,来增加其表达能力,使其具有真正意义。然后,激活函数有各自的优缺点,有线性和非线性之分,且对硬件的要求及实现难度各不相同。同时,为了进一步提高神经网络的性能,神经网络模型的结构设计越来越复杂、网络层数也越来越多。这导致神经网络算法的计算更加复杂,在功耗要求严格的场景下难以部署。

3、因此,需要一种既适用于dnn又可以提高计算效率、 降低功耗,尽可能减少存储资源的通用激活函数硬件加速器。


技术实现思路

1、有鉴于此,本专利技本文档来自技高网...

【技术保护点】

1.一种基于人工智能的数据智能模型训练与硬件加速方法,其特征在于,所述方法包括:

2.如权利要求1所述的一种基于人工智能的数据智能模型训练与硬件加速方法,其特征在于,所述步骤S3,根据各个卷积层的属性共性对首次训练后的卷积神经网络模型DNN的卷积层进行阶段和类别划分,包括:

3.如权利要求1所述的一种基于人工智能的数据智能模型训练与硬件加速方法,其特征在于,所述S4步骤中计算每一个块中各个类别卷积层的滤波器滤波通道大小及剪枝权重,通过能够调节滤波通道大小的滤波器,来进行权值的重要性筛选,包括:

4.如权利要求3所述的一种基于人工智能的数据智能模型训练与...

【技术特征摘要】

1.一种基于人工智能的数据智能模型训练与硬件加速方法,其特征在于,所述方法包括:

2.如权利要求1所述的一种基于人工智能的数据智能模型训练与硬件加速方法,其特征在于,所述步骤s3,根据各个卷积层的属性共性对首次训练后的卷积神经网络模型dnn的卷积层进行阶段和类别划分,包括:

3.如权利要求1所述的一种基于人工智能的数据智能模型训练与硬件加速方法,其特征在于,所述s4步骤中计算每一个块中各个类别卷积层的滤波器滤波通道大小及剪枝权重,通过能够调节滤波通道大小的滤波器,来进行权值的重要性筛选,包括:

4.如权利要求3所述的一种基于人工智能的数据智能模型训练与硬件加速方法,其特征在于,所述步骤s5,使用剪枝后的智能模型执行推理任务,当不满足推理任务时,调整滤波通道大小,包括:

5.如权利要求1所述的一种基于人工智能的数据智能模型训练与硬件加速方法,其特征在于,所述步骤s6,根据任务类型选择对应的激活函数,对优化后的神经网络模型进行重新训练,包括:根据选择信号,选择对应的激活函数,所述激活函数包括sgn函数、sigmoid函数、tanh函数,

6.如权利要求5所述的一种基于人工智能的数据智能模型训练与硬件加...

【专利技术属性】
技术研发人员:陈声棉何新安郑卫群肖广郭文智
申请(专利权)人:广州佳新智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1