【技术实现步骤摘要】
本专利技术涉及人工智能，特别涉及一种面向隐私推理的神经网络深度剪枝方法及系统。
技术介绍
1、在大数据时代下，深度学习等理论和技术取得的突破性进展，为机器在计算机视觉、自然语言处理以及语音识别等多个领域的蓬勃发展提供了数据和算法层面的强有力支撑，同时也促进了机器学习技术在诸如自动驾驶、人脸识别、智慧医疗以及智能风控等多个场景中的落地应用并且取得了巨大的成功。深度学习快速发展的一个主要原因是深度神经网络的进展，在很多领域中，深度神经网络在准确性方面超越了其他机器学习技术，部分领域神经网络模型的表现甚至超过了人类。但随着深度学习应用范围不断扩展，神经网络面临的隐私安全问题愈发严峻，现有的主要解决方法是利用现代密码学技术，设计有效的安全协议，保证数据和模型的隐私安全，实现神经网络的安全推理。而从实际应用情况来看，安全推理的高延迟、高开销的问题制约着隐私保护神经网络的应用。
2、缓解该问题的一种方法是降低神经网络中开销巨大的relu数量，构建面向安全推理的轻量化神经网络。现有方法多采用在网络中增加relu选择参数并重新训练实现对重要...
【技术保护点】
1.一种面向隐私推理的神经网络深度剪枝方法，其特征在于，包含：
2.根据权利要求1所述的面向隐私推理的神经网络深度剪枝方法，其特征在于，在训练过程中统计各神经元Relu单元平均输出状态，包含：
3.根据权利要求1或2述的面向隐私推理的神经网络深度剪枝方法，其特征在于，各神经元Relu单元平均输出状态的统计过程表示为：其中，表示第l层第i个神经元训练过程中的平均输出状态，表示第l层第i个神经元线性运算输出，表示第l层第i个神经元的Relu输出，n为训练样本数据总数。
4.根据权利要求1述的面向隐私推理的神经网络深度剪枝方法，其特征在于...
【技术特征摘要】
1.一种面向隐私推理的神经网络深度剪枝方法，其特征在于，包含：
2.根据权利要求1所述的面向隐私推理的神经网络深度剪枝方法，其特征在于，在训练过程中统计各神经元relu单元平均输出状态，包含：
3.根据权利要求1或2述的面向隐私推理的神经网络深度剪枝方法，其特征在于，各神经元relu单元平均输出状态的统计过程表示为：其中，表示第l层第i个神经元训练过程中的平均输出状态，表示第l层第i个神经元线性运算输出，表示第l层第i个神经元的relu输出，n为训练样本数据总数。
4.根据权利要求1述的面向隐私推理的神经网络深度剪枝方法，其特征在于，根据relu单元平均输出状态确定各神经元relu重要性，包含：
5.根据权利要求1所述的面向隐私推理的神经网络深度剪枝方法，其特征在于，依据神经元relu重...
【专利技术属性】
技术研发人员：孙磊，胡鹏，毛秀青，胡翠云，于淼，李作辉，郭松辉，臧韦菲，周明，杨梦梦，孙世恺，罗哲希，王晶雯，
申请(专利权)人：中国人民解放军战略支援部队信息工程大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。