System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及一种利用自旋轨道矩隧道结搭建随机二值化神经网络的方法,属于半导体和新型计算。
技术介绍
1、自从人工神经网络的概念首次被提出,其在模拟人脑的复杂计算过程方面的潜力已经被全世界广泛认可。神经网络模型的基础是神经元,这些神经元被连接在一起以形成一个复杂的网络结构。通过训练,这些网络能够学习如何从输入数据中捕获复杂的模式,从而执行各种各样的任务,如图像识别、自然语言处理等。
2、在此背景下,随机二值化神经网络(pbnn)应运而生,它是一种特别的神经网络,其中的权重和激活值都被二值化。这种方法极大地提高了神经网络的训练速度,并具有优秀的抗噪声能力。然而,尽管pbnn具有这些优点,但其在实现随机性方面还存在一些挑战。
3、目前,许多系统使用互补金属氧化物半导体(cmos)或静态随机存储器(sram)来实现pbnn的随机性。这些随机数生成电路,通常是通过放大热噪声噪声、引入竞争信号来实现的。然而,这些解决方案都存在不少问题。首先,cmos和sram的功耗都相当高。尽管在处理速度和稳定性方面它们表现优秀,但是在能源效率上却远非理想。这对于需要大量运算和长时间运行的神经网络应用来说,显然是一个大问题。其次,由于cmos和sram的体积较大,因此当需要构建大型神经网络时,它们的物理尺寸可能会成为一个限制。这样一来,就无法在有限的空间内实现足够复杂的计算模型。最后,cmos和sram实现的随机性质量也有一定的问题,电路非对称性、信号噪声等非理想情况会严重影响随机信号的概率分布,产生的随机性可能并不理想,这在一定
4、为了解决这些问题,研究人员开始探索使用mram(磁阻随机存取存储器)作为一种替代方案。mram有许多优点,包括更低的功耗、更高的读写次数以及其天然具有的随机性翻转性质。这使得mram成为实现pbnn的理想选择。
5、近年来,使用mram的pbnn的研究取得了一些突破,特别是在三端器件sot-mram上。sot-mram利用自旋轨道矩(sot)现象,可以实现低能耗的磁矩翻转,非常适合实现pbnn。然而,如何设计适合sot-mram的读写电路,并通过适当的互连实现pbnn的功能,仍然是一个待解决的问题。
6、总的来说,神经网络和pbnn已经取得了显著的进展,但在实现随机性方面仍然存在挑战。使用sot-mram的pbnn可能是一种解决方案,但我们还需要设计出适合sot-mram的读写电路,并通过合适的互连实现pbnn的功能。
技术实现思路
1、本专利技术的目的是:提供一种利用非易失性存储器sot-mram来搭建随机二值化神经网络应用于分类问题的方法。
2、为了达到上述目的,本专利技术的技术方案是提供了一种利用自旋轨道矩隧道结搭建随机二值化神经网络的方法,其特征在于,利用sot-mram取代sram实现随机二值化神经网络中概率生成和采样的部分,通过数模转换器和比较器的辅助,在片上实现整个随机二值化神经网络的功能,进一步分为由sot-mram搭建的部分以及其他电路辅助工作的部分,其中:
3、sot-mram搭建了一个用于产生概率的mram阵列单元以及一个用于产生参考电流的mram dummy单元。利用sot-mram产生特定概率的二值化结果的方式为,设定mram的高阻态和低阻态分别对应二值化中的0和1,通过在mram的顶电极vte和底电极vbe,l、vbe,r间通小电压除以测得的隧穿电流得到其隧穿电阻,而翻转概率由流经mram底电极vbe,l、vbe,r的脉冲电压大小和脉宽决定,通过在器件上多次采样同一脉冲下的翻转情况,得到脉冲和翻转概率的关系,从而为后续随机二值化神经网络中,sot-mram的写入脉冲编写提供参考;
4、其他电路辅助工作的部分包括模块间的连接和数模转换器的控制:每一层随机二值化神经网络节点对应的权重被写入并存储在sot-mram的mram阵列单元中,而输入则作为mram阵列单元的位线bli上的读取电压,i=0~n,并将每行的读出结果在子线上累加,实现输入向量和权重矩阵的乘法,其中,训练完成的权重作为一个精度值被映射到[0,1]区间内,作为对应sot-mram器件的反转概率,每一次矩阵乘法操作前,参照写入电压与sot-mram器件反转概率的映射关系,对其进行随机性反转,则有精度的权重翻转概率在单次采样中表现为一个二值化权重被存储在对应的磁性隧道结中;上一层的结果作为当前层的输入,通过量化变成多位的数字信号,这一数字信号再通过数模转换器产生模拟电压作为当前层的模拟输入信号施加在磁性隧道结上,多列此行磁性隧道结的读取电流在子线上累加后的结果,也即由多个伯努利分布的二值随机数加权累加后得到的新随机数,依照中心极限定理,在二值数足够多的前提下所获得的随机数服从正态分布;对这一正态分布的随机数进行概率二值化,作为当前层的输出,即对该正态分布计算到零点的定积分,得出该数小于等于零的概率,此概率二值化的操作在电路上即对应于将mram阵列单元子线上的累加结果与sot-mram器件中的mram dummy单元的累加结果输入比较器进行比较;若当前层是随机二值化神经网络的最后一层,则在mram阵列单元的多个输出结果中选择概率最高的一个作为当前随机二值化神经网络识别出的对象类别。
5、优选地,在其他电路辅助工作的部分中:通过swldecoder控制写入的行;通过数模转换器控制写入mram阵列单元以及mram dummy单元的列以及写入电压的大小和脉宽;通过tia将mram阵列单元以及mram dummy单元输出的电流信号转换为电压信号后输入比较器以及rwldecoder;通过rwldecoder选择mram阵列单元上要和mram dummy单元输出的参考电压比较的行;通过比较器实时比较mram阵列单元自身累加后电流以及mram dummy单元产生的参考电流的大小,通过统计比较结果实现激发概率的统计。
6、优选地,所述mram dummy单元的列数与所述mram阵列单元的列数对应;所述mramdummy单元的行数为2行,分别为一行高组态mram及一行低阻态mram。
7、本专利技术的另一个技术方案是提供了一种通过上述的方法搭建的随机二值化神经网络应用于分类问题的方法,其特征在于,包括以下步骤:
8、步骤一:沿sot-mram底电极正方向施加重置电压0~99v,基于自旋轨道矩层的自旋霍尔效应,自旋轨道力矩作用在隧道结下磁性层的磁矩上并改变其磁化方向,将隧道结电阻写入低阻态,即重置操作;在400ps~999ms范围内控制输入脉冲长度和并在0~99v范围内控制输入脉冲大小,在sot-mram底电极负方向施加写入电压,以某一特定概率改变磁矩状态;在0~99v范围内,在sot-mram底电极vbe,l、vbe,r两端施加较小的读取电压,读取两端电流,计算磁性隧道结电阻,确认是否发生翻转;
9、重复以上步骤10~999次,得到翻转概率和脉冲的关系;
10、步本文档来自技高网...
【技术保护点】
1.一种利用自旋轨道矩隧道结搭建随机二值化神经网络的方法,其特征在于,利用SOT-MRAM取代SRAM实现随机二值化神经网络中概率生成和采样的部分,通过数模转换器和比较器的辅助,在片上实现整个随机二值化神经网络的功能,进一步分为由SOT-MRAM搭建的部分以及其他电路辅助工作的部分,其中:
2.如权利要求1所述的一种利用自旋轨道矩隧道结搭建随机二值化神经网络的方法,其特征在于,在其他电路辅助工作的部分中:通过SWLDecoder控制写入的行;通过数模转换器控制写入MRAM阵列单元以及MRAM Dummy单元的列以及写入电压的大小和脉宽;通过TIA将MRAM阵列单元以及MRAM Dummy单元输出的电流信号转换为电压信号后输入比较器以及RWLDecoder;通过RWLDecoder选择MRAM阵列单元上要和MRAM Dummy单元输出的参考电压比较的行;通过比较器实时比较MRAM阵列单元自身累加后电流以及MRAM Dummy单元产生的参考电流的大小,通过统计比较结果实现激发概率的统计。
3.如权利要求1所述的一种利用自旋轨道矩隧道结搭建随机二值化神经网络的方
4.一种通过权利要求1所述的方法搭建的随机二值化神经网络应用于分类问题的方法,其特征在于,包括以下步骤:
...【技术特征摘要】
1.一种利用自旋轨道矩隧道结搭建随机二值化神经网络的方法,其特征在于,利用sot-mram取代sram实现随机二值化神经网络中概率生成和采样的部分,通过数模转换器和比较器的辅助,在片上实现整个随机二值化神经网络的功能,进一步分为由sot-mram搭建的部分以及其他电路辅助工作的部分,其中:
2.如权利要求1所述的一种利用自旋轨道矩隧道结搭建随机二值化神经网络的方法,其特征在于,在其他电路辅助工作的部分中:通过swldecoder控制写入的行;通过数模转换器控制写入mram阵列单元以及mram dummy单元的列以及写入电压的大小和脉宽;通过tia将mram阵列单元以及mram dummy单元输出的电流信号转换为电压信号后输...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。