使用均衡传播来进行学习的模拟系统技术方案

描述了一种用于执行学习的系统。系统包括线性可编程网络层和非线性激活层。线性可编程网络层包括输入、输出和互连在输入和输出之间的线性可编程网络组件。非线性激活层与输出耦合。线性可编程网络层和非线性激活层被配置为具有处在系统的内容的最小值处的静态状态。具有处在系统的内容的最小值处的静态状态。具有处在系统的内容的最小值处的静态状态。

【技术实现步骤摘要】
【国外来华专利技术】使用均衡传播来进行学习的模拟系统
[0001]其它申请的交叉引用本申请要求2019年8月14日提交的题为“METHOD AND SYSTEM FOR PERFORMING ANALOG EQUILIBRIUM PROPAGATION (用于执行模拟均衡传播的方法和系统)”的美国临时专利申请No.62/886,800的优先权，该申请被通过引用合并于此以用于所有目的。

技术介绍

[0002]为了在硬件中执行机器学习，特别是监督学习，将从一组特定的输入数据实现合期望的输出。例如，输入数据被提供给第一层。在该层中，输入数据与值或权重的矩阵相乘。针对层的输出信号是该层中矩阵乘法的结果。输出信号作为输入信号提供给下一层矩阵乘法。该处理可以被针对大量的层重复。最后一层的最终输出信号被期望为与一组特定的目标值匹配。为了执行机器学习，调整一个或多个层中的权重(例如，电阻)，以便使最终输出信号更接近目标值。虽然该处理理论上可以更改层的权重以提供目标输出，但是在实践中，确定一组适当的权重是有挑战性的。存在各种数学模型以便帮助确定权重。然而，可能难以或不可能将这样的模型转换到设备中。<本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于执行学习的系统，包括：线性可编程网络层，其包括多个输入、多个输出以及在所述多个输入和所述多个输出之间互连的多个线性可编程网络组件；以及非线性激活层，其与所述多个输出耦合，线性可编程网络层和非线性激活层被配置为具有处在针对所述系统的内容的最小值处的静态状态。2.根据权利要求1所述的系统，其中非线性激活层进一步包括：非线性激活模块；以及再生模块，其与所述多个输出以及与非线性激活模块耦合，再生模块被配置为对来自所述多个输出的多个输出信号进行缩放。3.根据权利要求2所述的系统，其中再生模块包括双向放大器。4.根据权利要求1所述的系统，其中线性可编程网络层包括可编程电阻网络层。5.根据权利要求4所述的系统，其中可编程电阻网络层包括完全连接的可编程电阻网络层。6.根据权利要求5所述的系统，其中完全连接的可编程电阻网络层包括交叉杆阵列，交叉杆阵列包括多个可编程电阻器。7.根据权利要求6所述的系统，其中所述多个可编程电阻器包括多个忆阻器。8.根据权利要求4所述的系统，其中可编程电阻网络层包括稀疏连接的可编程电阻网络层。9.根据权利要求8所述的系统，其中可编程电阻网络层包括部分连接的交叉杆阵列。10.根据权利要求8所述的系统，其中可编程电阻网络层包括：多个纳米纤维，所述多个纳米纤维中的每个具有导电芯和包围导电芯的至少一部分的忆阻层；以及多个电极，忆阻层的一部分在所述多个纳米纤维的导电芯和所述多个电极之间。11.根据权利要求8所述的系统，其中可编程电阻网络层包括：多个纳米纤维，所述多个纳米纤维中的每个具有导电芯和包围导电芯的至少一部分的绝缘层，绝缘层在其中具有多个孔；用于所述多个孔的多个忆阻插塞，所述多个忆阻插塞中的每个的至少一部分处在所述多个孔的每个中；以及多个电极，所述多个忆阻插塞在导电芯和所述多个电极之间。12.根据权利要求1所述的系统，其中非线性激活层包括多个二极管。13.一种系统，包括：多个线性可编程网络层，所述多个线性可编程网络层中的每个包括多个输入、多个输出、以及在所述多个输入和所述多个输出之间互连的多个线性可编程网络组件；以及至少一个非线性激活层，其被插入在所述多个线性可编程网络层之间，所述至少一个非线性激活层中的每个与所述多个线性可编程网络层中的线性可编程网络层的所述多个输出耦合...

【专利技术属性】
技术研发人员：J，
申请(专利权)人：睿纽摩菲斯公司，
类型：发明
国别省市：