利用忆阻器本征噪声实现贝叶斯神经网络的方法及装置制造方法及图纸

本发明专利技术公开了一种利用忆阻器本征噪声实现贝叶斯神经网络的方法及装置，其中，该方法包括：获取贝叶斯网络，根据选定的数据集对所述贝叶斯网络进行训练得到所述贝叶斯网络的权重分布；对所述贝叶斯网络的权重分布进行处理，根据处理后的权重分布及多个忆阻器的电导进行计算，得到目标电导值，将所述目标电导值映射到所述忆阻器中。该方法利用忆阻器交叉阵列实现贝叶斯神经网络，功耗低，计算速度快，计算能效高。

The method and device of realizing Bayesian neural network by using intrinsic noise of memristor

【技术实现步骤摘要】
利用忆阻器本征噪声实现贝叶斯神经网络的方法及装置
本专利技术涉及神经网络
，特别涉及一种利用忆阻器本征噪声实现贝叶斯神经网络的方法及装置。
技术介绍
在人工智能领域，深度神经网络(Deepneuralnetworks，DNNs)近年来得到快速发展，在图像和视觉计算、语音和语言处理、信息安全、棋类比赛等领域取得了令人瞩目的成绩。然而，普通的DNN难以抵御攻击，比如在图像分类的情况下，输入图像添加了人眼察觉不到的小扰动，但是DNN产生错误和过分自信的分类结果，因为DNN不能捕捉预测和模型中的不确定性。这样的扰动输入(被称为对抗样本，adversarialexample)是在安全关键应用中使用DNN的主要障碍。另一方面，贝叶斯神经网络(Bayesianneuralnetwork，BayNN)可以通过评估预测的不确定性来检测对抗样本。基于这一优点，贝叶斯神经网络被广泛应用于医疗诊断、推荐系统、少样本学习、非线性动态系统控制和攻击检测等领域。与标准DNNs中的定值权值不同，BayNNs中的所有权值都用随机变量表示。概率分布的均值和标准差应可调，以训本文档来自技高网...

【技术保护点】
1.一种利用忆阻器本征噪声实现贝叶斯神经网络的方法，其特征在于，包括以下步骤：/nS1，获取贝叶斯网络，根据选定的数据集对所述贝叶斯网络进行训练得到所述贝叶斯网络的权重分布；/nS2，对所述贝叶斯网络的权重分布进行处理，根据处理后的权重分布及多个忆阻器的电导进行计算，得到目标电导值，将所述目标电导值映射到所述忆阻器中。/n

【技术特征摘要】
1.一种利用忆阻器本征噪声实现贝叶斯神经网络的方法，其特征在于，包括以下步骤：
S1，获取贝叶斯网络，根据选定的数据集对所述贝叶斯网络进行训练得到所述贝叶斯网络的权重分布；
S2，对所述贝叶斯网络的权重分布进行处理，根据处理后的权重分布及多个忆阻器的电导进行计算，得到目标电导值，将所述目标电导值映射到所述忆阻器中。


2.根据权利要求1所述的利用忆阻器本征噪声实现贝叶斯神经网络的方法，其特征在于，在所述S2之后还包括：
通过所述贝叶斯网络进行预测计算时，将输入序列以READ电压脉冲施加到映射后的忆阻器的位线上，采集所述映射后的忆阻器的源线流出的输出电流，对所述输出电流进行计算，得到预测结果。


3.根据权利要求1所述的利用忆阻器本征噪声实现贝叶斯神经网络的方法，其特征在于，所述对所述贝叶斯网络进行计算得到所述贝叶斯网络的权重分布，包括：
通过变分方法对所述选定的数据集进行计算，得到所述贝叶斯网络的权重分布。


4.根据权利要求1所述的利用忆阻器本征噪声实现贝叶斯神经网络的方法，其特征在于，所述对所述贝叶斯网络的权重分布进行处理，包括：
对所述权重分布进行偏置和放缩，以使所述权重分布满足所述忆阻器的电导窗口。


5.根据权利要求1所述的利用忆阻器本征噪声实现贝叶斯神经网络的方法，其特征在于，所述根据处理后的权重分布及多个忆阻器的电导进行计算，得到目标电导值，包括：
处理后的所述贝叶斯网络的权重分布为(μ,σ2)，其中，μ为均值，σ为标准差，多个忆阻器的电导Gntarget(n＝1,2,…,N)；
使处理后的所述贝叶斯网络的权重分布与所述多个忆阻器的电导满足公式(1)和(2)：
sum(Gntarget)＝μ(1)
sum[σ(Gntarget)2]＝σ2(2)
对式(1)和式(2)进行求解，得到所述目标电导值。


6.根据权利要求1所述的利用...

【专利技术属性】
技术研发人员：吴华强，高滨，林钰登，张清天，唐建石，钱鹤，
申请(专利权)人：清华大学，
类型：发明
国别省市：北京;11