当前位置: 首页 > 专利查询>苏州大学专利>正文

复值前向神经网络的二阶混合构建方法及系统技术方案

技术编号:26378645 阅读:31 留言:0更新日期:2020-11-19 23:47
本发明专利技术涉及一种复值前向神经网络的二阶混合构建方法及系统,包括:根据给定的任务对复值神经网络的结构与参数进行初始化;利用复值二阶混合优化算法调整所述复值神经网络中的参数,判断是否满足构建终止条件;验证所述复值神经网络的泛化性能,保存当前隐层神经元的个数以及所述复值神经网络的所有参数值,判断是否满足所述隐层神经元的添加标准,若满足,利用复值增量构建机制,向当前模型添加一个隐层神经元,在当前训练的基础上计算新的隐层输出矩阵和误差函数,返回至上一步;若不满足,直接返回至上一步;利用所述复值二阶混合优化算法进一步微调所述参数,得到最优的复值神经网络模型。本发明专利技术有利于自动构建结构合理的复值神经网络模型。

【技术实现步骤摘要】
复值前向神经网络的二阶混合构建方法及系统
本专利技术涉及人工智能与模式识别的
,尤其是指一种复值前向神经网络的二阶混合构建方法及系统。
技术介绍
人工神经网络具有强大的自学习、自组织、自适应及非线性函数逼近能力,能够从看似杂乱无章的海量数据中学习规则与知识。近年来,实值神经网络的研究已经取得了十分丰硕的成果。然而,在一些工程领域中,往往需要对复信号进行分析与处理。复值神经网络凭借其强大的计算能力与良好的泛化性能,已经受到了越来越多的关注,并在各种工业领域中得到了广泛的应用,如雷达信号处理、医学图像处理、信道状态预测、模式识别等。复值神经网络的学习主要包括两个方面:搜索最优参数和确定最优网络结构。前向神经网络学习算法的研究一直是一个非常热门的研究课题,只有设计了合适的学习算法才能使神经网络既高效又准确地解决实际问题。研究发现,复值神经网络有着与实值神经网络相似的结构,其学习算法也大都是从实数域中推广而来的。比如,最常见的学习算法便是复值梯度下降算法。然而,一阶复值优化算法存在收敛速度慢、易陷入局部极小值等缺点。<br>复值神经网络的本文档来自技高网...

【技术保护点】
1.一种复值前向神经网络的二阶混合构建方法,其特征在于,包括如下步骤:/n步骤S1:根据给定的任务对复值神经网络的结构与参数进行初始化;/n步骤S2:利用复值二阶混合优化算法调整所述复值神经网络的参数,判断是否满足构建终止条件,若不满足,进入步骤S3,若满足,则进入步骤S4;/n步骤S3:验证所述复值神经网络的泛化性能,保存当前隐层神经元的个数以及所述复值神经网络的所有参数值,判断是否满足所述隐层神经元的添加标准,若满足,利用复值增量构建机制,向当前模型添加一个隐层神经元,在当前训练的基础上计算新的隐层输出矩阵和误差函数,返回步骤S2;若不满足,直接返回步骤S2;/n步骤S4:利用所述复值二阶...

【技术特征摘要】
1.一种复值前向神经网络的二阶混合构建方法,其特征在于,包括如下步骤:
步骤S1:根据给定的任务对复值神经网络的结构与参数进行初始化;
步骤S2:利用复值二阶混合优化算法调整所述复值神经网络的参数,判断是否满足构建终止条件,若不满足,进入步骤S3,若满足,则进入步骤S4;
步骤S3:验证所述复值神经网络的泛化性能,保存当前隐层神经元的个数以及所述复值神经网络的所有参数值,判断是否满足所述隐层神经元的添加标准,若满足,利用复值增量构建机制,向当前模型添加一个隐层神经元,在当前训练的基础上计算新的隐层输出矩阵和误差函数,返回步骤S2;若不满足,直接返回步骤S2;
步骤S4:利用所述复值二阶混合优化算法进一步微调所述参数,得到最优的复值神经网络模型。


2.根据权利要求1所述的复值前向神经网络的二阶混合构建方法,其特征在于:所述复值神经网络是初始的三层复值前向神经网络模型。


3.根据权利要求1所述的复值前向神经网络的二阶混合构建方法,其特征在于:利用复值二阶混合优化算法调整所述复值神经网络中的参数的方法为:利用复值二阶混合优化算法在训练集上对所述复值神经网络进行训练。


4.根据权利要求3所述的复值前向神经网络的二阶混合构建方法,其特征在于:对所述复值神经网络进行训练时,先计算隐层输出矩阵和模型的实际输出,运用复值最小二乘算法计算得到输出层与隐层神经元之间的权值调整量;再经计算得到稀疏矩阵,计算当前的代价函数值,并对其进行更新,利用复值LM算法得到输入层与隐层神经元之间权值的修正量,并对其进行更新。


5.根据权利要求1或3所述的复值前向神经网络的二阶混合构建方法,其特征在于:所述复值二阶混合优化算法包括复值LM算法与复值最小二乘算法。...

【专利技术属性】
技术研发人员:黄鹤张书芳
申请(专利权)人:苏州大学
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1