一种实现静态隐马尔科夫模型推理的神经电路制造技术

本发明专利技术公开了一种实现静态隐马尔科夫模型推理的神经电路，本发明专利技术赢者通吃电路(Winner‑take‑all,WTA)电路可以实现静态隐马尔可夫模型的近似最优推理，网络中的脉冲神经元可以不断地累积证据，即通过新的证据更新后验概率；WTA电路中的竞争机制可以对分布进行归一化。

A neural circuit for realizing inference of static hidden Markov models

The invention discloses a neural circuit for realizing static hidden Markov model inference. The winner take all (WTA) circuit of the invention can realize the approximate optimal inference of static hidden Markov model. The impulse neurons in the network can continuously accumulate evidence, that is, update the posterior probability through new evidence. The competition mechanism in the WTA circuit can normalize the distribution.

【技术实现步骤摘要】
一种实现静态隐马尔科夫模型推理的神经电路
本专利技术涉及计算神经科学领域，尤其涉及一种实现静态隐马尔科夫模型推理的神经电路。
技术介绍
隐马尔可夫模型是一种重要的有向概率图模型。在计算神经科学中，隐马尔可夫模型经常被用于在一系列的传感输入条件下探测隐藏的规律。当隐变量时不变时，这种隐马尔可夫模型叫做静态隐马尔可夫模型，实验证明这样的隐马尔可夫模型可以十分有效地模拟人脑认知中的推理与决策过程，但是尚不清楚神经电路如何实现静态马尔科夫模型的推理，很多研究者尝试建立脉冲神经电路的动力学方程与隐马尔可夫模型推理方程的对应关系，由于这两个方程不能完全等价，所以只能实现隐马尔可夫模型的近似推理，我们分析了隐马尔可夫模型的推理过程，发现它包括证据累积和归一化两个操作，这两个操作相互耦合，每一步计算中归一化的结果正是下一步计算中的需要累积的证据，因此当建立相应的脉冲神经网络时需要引入很多约束和近似，从而导致不准确的推理结果。
技术实现思路
针对上述问题，本专利技术提供了一种实现静态隐马尔科夫模型推理的神经电路，以解决建立相应的脉冲神经网络时需要引入很多约束和近似，从而导致不准确的推理结果的问题。为解决上述技术问题，本专利技术所采用的技术方案是：其基本构成可以分为隐马尔可夫模型、脉冲WTA电路两部分，隐马尔可夫模型是一种重要的动态贝叶斯网络，它可以用来表示隐变量和观测变量随时间t的变化关系，脉冲WTA电路中每个脉冲神经元都是自连接的，因此神经元zk的输入电流包含两个部分：外部输入电流和自连接产生的内部电流进一步的，隐变量序列Y＝{y1,y2,...,yt}是一个一阶的马氏链，当前状态的条件概率p(yt|y1,y2,...,yt-1)只取决于前一时刻的状态yt-1，也就是，p(yt|y1,y2,...,yt-1)＝p(yt|yt-1)。进一步的，观测序列X＝{x1,x2,...,xt}由隐状态序列决定，每个观测变量xi(i＝1,2,...,t)只取决于相应的隐变量yi，据此，隐马尔可夫模型的联合分布可以表示为进一步的，神经元zk的膜电位方程可以表示为：其中表示神经元zk静止电位，表示一个核函数，它决定神经元zk在时刻发放一个脉冲后膜电位的变化情况，κ(s)表示神经元对单位脉冲电流的响应函数。进一步的，运用标准的指数核：这里重置电势η0＝5mV，膜时间常数τ＝20ms，电压响应幅值ε0＝5mV，化简方程得：由上述对本专利技术的描述可知，和现有技术相比，本专利技术具有如下优点：本专利技术一种实现静态隐马尔科夫模型推理的神经电路，赢者通吃电路(Winner-take-all,WTA)电路可以实现静态隐马尔可夫模型的近似最优推理，网络中的脉冲神经元可以不断地累积证据，即通过新的证据更新后验概率；WTA电路中的竞争机制可以对分布进行归一化。附图说明图1为本专利技术的静态隐马尔可夫模型结构图。具体实施方式为了使本专利技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本专利技术进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本专利技术，并不用于限定本专利技术。实施例1一种实现静态隐马尔科夫模型推理的神经电路，隐马尔可夫模型是一种重要的动态贝叶斯网络，它可以用来表示隐变量和观测变量随时间t的变化关系(如图1所示)，其中隐变量序列Y＝{y1,y2,...,yt}是一个一阶的马氏链，当前状态的条件概率p(yt|y1,y2,...,yt-1)只取决于前一时刻的状态yt-1，也就是，p(yt|y1,y2,...,yt-1)＝p(yt|yt-1)。观测序列X＝{x1,x2,...,xt}由隐状态序列决定，每个观测变量xi(i＝1,2,...,t)只取决于相应的隐变量yi，据此，隐马尔可夫模型的联合分布可以表示为：当y1＝y2＝...＝yt时为静态隐马尔可夫模型，这个模型的研究对于很多推理决策问题尤为重要，这是因为在多数情况下我们已经知道隐变量的状态不随时间改变，隐马尔可夫模型的推理问题就是已知从1时刻到t时刻的观测的条件下推断t时刻隐变量的最有可能的状态值，即脉冲WTA电路脉冲WTA电路中每个脉冲神经元都是自连接的，因此神经元zk的输入电流包含两个部分：外部输入电流和自连接产生的内部电流则神经元zk的膜电位方程可以表示为：其中表示神经元zk静止电位，表示一个核函数，它决定神经元zk在时刻发放一个脉冲后膜电位的变化情况，κ(s)表示神经元对单位脉冲电流的响应函数，我们运用标准的指数核：这里重置电势η0＝5mV，膜时间常数τ＝20ms，电压响应幅值ε0＝5mV。化简方程可得：实施例2一种实现静态隐马尔科夫模型推理的神经电路，定理1：假设G(y0＝yi)＝logp(y1＝yi)，且对于任意的t≥1，G(yt)＝logp(xt|yt)+G(yt-1)成立，则正比于分布p(yt|x1,x2,...,xt)，即仅在最后一步进行归一化并不影响推理结果的准确性，因此可以运用差分方程和初始条件G(y0＝yi)＝logp(y1＝yi)来实现概率推理，且后验概率需要注意的是这里的归一化常数定理1表明证据累积操作和归一化操作可以被解耦和，当前步骤中归一化的结果不需要做为下一步中的输入，因此当建立相应的脉冲神经网络时，可以将神经网络分为两个部分：一是利用新的证据来更新后验，即G(yt)＝logp(xt|yt)+G(yt-1)，二是对后验分布进行归一化。实施例3一种实现静态马尔科夫模型推力的神经电路，定理2：考虑脉冲WTA电路，其中神经元的静止电位外部电流(j＝1,2,3...)，这里Tj表示电流的到达时间，Θ(·)表示单位阶跃函数(当x≥0时Θ(x)＝1，否则Θ(x)＝0)，则对于任意的t≥1，如果Tt+1-Tt≥3τ都成立，那么uk(Tt+1)＝btlogp(yt＝yk|x1,x2,...,xt),成立，这里bt表示一个常数(bt≠0)，且ρk(Tt+1)∝p(yt＝yk|x1,x2,...,xt).定理2建立了脉冲WTA电路的动态性和隐马尔可夫模型的推理方程之间的对应关系：当隐马尔可夫模型新的观测到达时，脉冲WTA电路中神经元zk在Tt的输入电流将增加脉冲WTA电路中每个神经元的膜电位对隐马尔可夫模型中隐变量的后验概率的对数进行编码，每个神经元的发放概率(或者发放率)正比于隐变量的后验概率，在这样的条件下可以证明神经元的膜电位随时间的变化过程即为隐马尔可夫模型的后验概率推理过程，推理结果可以通过在一个大约几百毫秒的时间窗内统计神经元的发放脉冲的个数占所有发放的比例来获得，该方法也与猴子大脑皮层中的实验观测一致。以上所述仅为本专利技术的较佳实施例而已，并不用以限制本专利技术，凡在本专利技术的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本专利技术的保护范围之内。本文档来自技高网...

【技术保护点】
1.一种实现静态隐马尔科夫模型推理的神经电路，其基本构成可以分为隐马尔可夫模型、脉冲WTA电路两部分：(1)隐马尔可夫模型是一种重要的动态贝叶斯网络，它可以用来表示隐变量和观测变量随时间t的变化关系；(2)脉冲WTA电路中每个脉冲神经元都是自连接的，因此神经元zk的输入电流包含两个部分：外部输入电流

【技术特征摘要】
1.一种实现静态隐马尔科夫模型推理的神经电路，其基本构成可以分为隐马尔可夫模型、脉冲WTA电路两部分：(1)隐马尔可夫模型是一种重要的动态贝叶斯网络，它可以用来表示隐变量和观测变量随时间t的变化关系；(2)脉冲WTA电路中每个脉冲神经元都是自连接的，因此神经元zk的输入电流包含两个部分：外部输入电流和自连接产生的内部电流2.根据权利要求书1所述的一种实现静态隐马尔科夫模型推理的神经电路，其隐马尔可夫模型的步骤为：(1)隐变量序列Y＝{y1,y2,...,yt}是一个一阶的马氏链，当前状态的条件概率p(yt|y1,y2,...,yt-1)只取决于前一时刻的状态yt-1，也就是，p(yt|y1,y2,....

【专利技术属性】
技术研发人员：董建武，孙波，房婧，杜雄杰，姚珊，方喆君，余肇飞，刘健，张伟，李胜男，张泽亚，
申请(专利权)人：国家计算机网络与信息安全管理中心，北京大学，
类型：发明
国别省市：北京,11