基于混合神经网络的分布式系统构建方法、设备及介质技术方案

本发明专利技术涉及一种基于混合神经网络的分布式系统构建方法、设备及介质，该方法在终端设备上部署经过压缩优化后的深度神经网络，在云服务器设备上部署原始的深度神经网络，若所述终端设备上压缩优化后的深度神经网络输出检测结果满足置信度的标准即可直接输出结果；若终端设备结果不能满足要求，则所述终端设备将处理后的初始特征样本传至云服务器，由所述运服务器的原始深度神经网络进一步处理后输出结果。与现有技术相比，本发明专利技术具有在资源受限的嵌入式环境中快速完成特征提取的推理运算等优点。等优点。等优点。

【技术实现步骤摘要】
基于混合神经网络的分布式系统构建方法、设备及介质


[0001]本专利技术涉及一种分布式系统构建方法，尤其是涉及一种基于混合神经网络的分布式系统构建方法、设备及介质。

技术介绍

[0002]在众多人工智能技术中，深度神经网络(DNN)是一种通过模拟人脑神经网络实现类人工智能的机器学习技术。鉴于其具有高效的数据特征提取与分析能力，其现已被广泛应用在计算机视觉、自然语言处理、无人驾驶、智能家居等相关的领域或行业，影响着人们的日常生活。
[0003]深度神经网络的本质是通过模拟人脑神经，组合低层特征形成更加抽象的高层特征，从而分析出数据所表达的信息。构建一个DNN主要分为两个阶段：训练阶段与推测阶段。训练阶段需要网络模型先基于大量训练数据进行调整网络模型中的权重等信息。推理运算阶段直接利用训练完成的网络模型对数据进行分析，该阶段无需存储训练数据和进行反向传播操作。
[0004]目前的主流深度学习框架的模型训练和推理计算均是在云端/服务器端进行，而在资源受限、强调实时性的终端/嵌入式端环境中的深度学习计算引擎的实现还在发展中。另一方面，在本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于混合神经网络的分布式系统构建方法，其特征在于，该方法在终端设备上部署经过压缩优化后的深度神经网络，在云服务器设备上部署原始的深度神经网络，若所述终端设备上压缩优化后的深度神经网络输出检测结果满足置信度的标准即可直接输出结果；若终端设备结果不能满足要求，则所述终端设备将处理后的初始特征样本传至云服务器，由所述运服务器的原始深度神经网络进一步处理后输出结果。2.根据权利要求1所述的一种基于混合神经网络的分布式系统构建方法，其特征在于，该方法具体包括以下步骤：步骤1)对训练好的深度神经网络进行网络模型压缩和权重调整的简化处理；步骤2)在资源受限的终端设备中部署采用压缩优化的深度神经网络；步骤3)在资源丰富的云服务器中部署原始的深度神经网络；步骤4)在终端设备的本地深度神经网络上设置出口点；步骤5)所述终端设备首先向本地压缩优化的深度神经网络发送采样数据并进行快速推理运算；步骤6)所述终端设备确定本地深度神经网络的推理结果基于置信度的标准是否能够做出准确的分类；步骤7)如果是，则对样本进行分类，并直接在终端设备上完成处理；步骤8)如果不是，则终端设备将中间计算结果通过出口点推向云服务器，以便进行进一步的分类处理，步骤9)所述云服务器基于终端的推送信息在高精度深度神经网络上进行最终分类决策。3.根据权利要求1所述的一种基于混合神经网络的分布式系统构建方法，其特征在于，该方法的分布式系统通过分布式计算，增强了传感器融合、数据隐私和系统容错能力。4.根据权利要求1所述的一种基于混合神经网络的分布式系统构建方法，其特征在于，该方法不仅可扩大神经网络的规模，...

【专利技术属性】
技术研发人员：范平清，邓畅，马西沛，李森，
申请(专利权)人：上海工程技术大学，
类型：发明
国别省市：