一种深度学习模型的测试方法、装置、电子设备和存储介质制造方法及图纸

本申请一种深度学习模型的测试方法，包括：将图片数据I输入深度学习模型，根据添加噪声E前后所述深度学习模型中每一个神经元输出的差异，获得神经元的扰动值，所述深度学习模型M中神经元的数量为n个；从所述n个神经元中选取k个扰动值最大的神经元作为采样神经元，其中k<<n；根据k个所述采样神经元的扰动值，获得所述k个采样神经元中每个神经元的扰动分布；所述神经元的扰动分布包括收敛和未收敛；根据所述k个神经元中每个神经元的扰动分布确定扰动分布为未收敛的神经元的数量为m个，其中m<k；对m个所述扰动分布为未收敛的神经元通过反向传播更新所述噪声E的参数，重复上述步骤；在在所述扰动分布为未收敛的神经元的数量为0的情况下，完成所述深度学习模型测试。完成所述深度学习模型测试。完成所述深度学习模型测试。

【技术实现步骤摘要】
一种深度学习模型的测试方法、装置、电子设备和存储介质


[0001]本申请实施例涉及人工智能领域，尤其涉及一种深度学习模型的测试方法、装置、电子设备和存储介质。

技术介绍

[0002]深度学习是用于建立、模拟人脑进行分析学习的一种数学方程，通过模仿人脑的机制来解释数据的一种技术。深度学习模型是针对实际深度学习问题进行分析，完成求解后获得的模型。神经元是深度学习模型中的重要组成部分，用于连接模型上下层并传递参数。
[0003]包括自动驾驶、智能制造在内的智能应用都会用到深度学习模型，然而大量文献和现实案例都指出，当深度学习模型的输入出现噪声时，深度学习模型的输出容易出错。
[0004]图1展示了一个深度学习模型受噪声影响而输出错误的例子，给定输入数据I，也就是路况图片，当路况图片I输入到自动驾驶深度学习模型M时，输出M(I)为停车；在这个例子里M(I)为停车是正确的深度学习模型输出；如果把环境噪声E(如雨滴)加到路况图片I，然后把I+E输入到深度学习模型，输出M(I+E)为加速，由于M(I+E)不等于M(I)，而M(I)是正确的输出本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种深度学习模型的测试方法，其特征在于，所述方法包括：将图片数据输入深度学习模型；根据添加噪声前后所述深度学习模型中每一个神经元输出的差异，获得模型中每一个神经元的扰动值，所述深度学习模型中神经元的数量为n个；从所述n个神经元中选取k个扰动值最大的神经元作为采样神经元，其中k<<n；根据k个所述采样神经元的扰动值，获得所述k个采样神经元中每个神经元的扰动分布；所述神经元的扰动分布包括收敛和未收敛；根据所述k个神经元中每个神经元的扰动分布确定扰动分布为未收敛的神经元的数量为m个，其中m<k；对m个所述扰动分布为未收敛的神经元通过反向传播更新所述噪声E的参数；在所述扰动分布为未收敛的神经元的数量为0的情况下，完成所述深度学习模型测试。2.根据权利要求1所述的深度学习模型的测试方法，其特征在于，所述根据添加噪声前后所述深度学习模型中每一个神经元输出的差异，获得模型中每一个神经元的扰动值，包括：根据输入的所述图片数据，获得所述深度学习模型中每一个神经元的输出为第一输出；在所述图片数据中添加噪声，获得所述深度学习模型中每一个神经元的输出为第二输出；根据所述第一输出和第二输出之间差值，得到所述每一个神经元的扰动值。3.根据权利要求1所述的深度学习模型的测试方法，其特征在于，所述从所述n个神经元中选取k个扰动值最大的神经元作为采样神经元，包括：遍历每一个神经元对抽样数据集上每一个图片数据输出的扰动值，计算所述n个神经元中每一个神经元的扰动值方差；所述抽样数据集包括多个不同的图片数据；从所述n个神经元中选取k个扰动值方差最大的神经元作为采样神经元。4.根据权利要求1所述的深度学习模型的测试方法，其特征在于，所述根据k个所述采样神经元的扰动值，获得所述k个采样神经元中每个神经元的扰动分布，包括：根据根据k个所述采样神经元的扰动值，通过MCMC算法拟合所述k个采样神经元中每个神经元的扰动分布。5.根据权利要求1所述的深度学习模型的测试方法，其特征在于，所述根据k个所述采样神经元的扰动值，获得所述k个采样神经元中每个神经元的扰动分布，包括：根据所述k个采样神经元中每一个神经元在抽样数据集上每一个数据的扰动值，计算所述k个采样神经元中每一个神经元的扰动值方差；所述抽样数据集包括多个不同的图片数据；根据所述k个采样神经元每一个神经元的扰动值方差，通过MCMC算法拟合所述k个采样神经元中每个神经元的扰动分布。6.根据权利要求1
‑
5之一所述的深度学习模型的测试方法，其特征在于，所述所述根据k个所述采样神经元的...

【专利技术属性】
技术研发人员：李梓安，黄东，崔鹤铭，王森，陈力，张弓，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：