当前位置: 首页 > 专利查询>史永康专利>正文

并行互补式神经网络算法制造技术

技术编号:31160114 阅读:19 留言:0更新日期:2021-12-04 10:24
人工智能技术在当代的各个领域发挥着越来越重要的作用,神经网络算法在其中是重要的分支,但是神经网络算法也有很多不足,比如在深度学习反向传播的时候会出现梯度消失和梯度爆炸的问题。本发明专利技术的并行互补式神经网络算法,采用两个神经网络进行互补式的学习和输出,一方面可以解决梯度消失和梯度爆炸的问题,另一方面互补式的神经网络可以同时输入不同领域或不同维度的输入向量,例如图片和音频,进行混合式的学习。进行混合式的学习。

【技术实现步骤摘要】
并行互补式神经网络算法


[0001]本专利技术涉及人工智能与机器学习领域,具体涉及一种神经网络架构算法。

技术介绍

[0002]人工智能技术在当代的各个领域发挥着越来越重要的作用,神经网络算法在其中是重要的分支,但是神经网络算法也有很多不足,比如在深度学习反向传播的时候会出现梯度消失和梯度爆炸的问题。本专利技术的并行互补式神经网络算法,采用两个神经网络进行互补式的学习和输出,一方面可以解决梯度消失和梯度爆炸的问题,另一方面互补式的神经网络可以同时输入不同领域或不同维度的输入向量,例如图片和音频,进行混合式的学习。

技术实现思路

[0003]针对神经网络算法出现的梯度消失和梯度爆炸问题,以及本专利技术提出的不同领域或不同维度混合学习的问题。本专利技术采用两个假设的神经网络,神经网络A和神经网络B,神经网络 A的隐藏层正方向连接到中间层结点,神经网络B的隐藏层反方向连接到中间层结点,整个网络的输出Y来自于中间层结点,本专利技术结构见附图1,本专利技术为实现上述目的所采用的具体技术方案如下:
[0004]假设神经网络A,输入为本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.并行互补式神经网络算法,包括神经网络A,中间层结点,神经网络B,输出Y,其特征是神经网络A的隐藏层正方向(1)连接到中间层结点,神经网络B的隐藏层反方向(2)连接到中间层结点,神经网络A和神经网络B通过中间层结点形成对称互补结构,整个网络的输出是从中间层结点输出到Y(3)。2.如权利要求书1所述的(1)神经网络A的隐藏层正方向连接到中间层结点,其特征是神经网络A的第1个隐藏层的所有结点的输出连接到第1个中间层结点的输入,递推至第n个隐藏层的所有结点的输出连接到第n...

【专利技术属性】
技术研发人员:史永康
申请(专利权)人:史永康
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1