基于TWO-GRSA-HGSO的神经网络训练方法技术

本发明专利技术公开了基于TWO‑GRSA‑HGSO的神经网络训练方法，该方法将TWO、GRSA和HGSO混合在一起形成了基于TWO‑GRSA‑HGSO的神经网络训练方法，使得该方法在一定程度上继承了TWO的寻优机制、GRSA的寻优机制和HGSO的寻优机制，由于该方法混合了TWO的寻优机制、GRSA的寻优机制和HGSO的寻优机制并按一定概率执行相应的更新公式，所以，在一定条件下，使得该方法获得了一定的程度的全局寻优能力和局部寻优能力。

Neural network training method based on two-grsa-hgso

【技术实现步骤摘要】
基于TWO-GRSA-HGSO的神经网络训练方法
本专利技术涉及基于TWO-GRSA-HGSO的神经网络训练方法。
技术介绍
时至今日，在人工智能领域中，神经网络仍然是应用于图像识别等实际应用问题的重要工具，并且仍然兴盛不衰。神经网络到目前为止仍然是工业界的主流识别模型，但如何训练神经网络从而更好地提高预测精度仍然是个常见问题。目前对神经网络的训练方法所获得的神经网络的预测精度仍不够高，并且在一定程度上仍容易陷入局部最优解从而无法获得较好的预测精度。由文献(KavehA,ZolghadrA.Anovelmeta-heuristicalgorithm:tugofwaroptimization[J].IranUniversityofScience&Technology,2016,6(4):469-492.)可知，A.Kaveh和A.Zolghadr提出了拔河优化算法(TugofWarOptimization，简称TWO)。文献(KavehA.OptimumDesignofCastellatedBeamsUsingtheTugofWa本文档来自技高网...

【技术保护点】
1.基于TWO-GRSA-HGSO的神经网络训练方法，其特征在于，具体步骤如下：/n步骤1：初始化各种待定参数,设个体X

【技术特征摘要】
1.基于TWO-GRSA-HGSO的神经网络训练方法，其特征在于，具体步骤如下：
步骤1：初始化各种待定参数,设个体Xi按照基于GWO的MLP训练方法的公式(29)确定个体Xi的内容和结构，设目标函数值f(Xi)是使用基于GWO的MLP训练方法的公式(30)所计算出的值；






步骤2：如果大于最大迭代次数则跳到最后一步，否则进行下一步；
步骤3：判断是否遍历完所有分组，如果没有遍历完则fzi赋值为第fz分组的个体的最小标号，遍历下一分组，如果遍历完则跳到步骤8；
步骤4：判断是否遍历完当前分组的所有个体，如果没有遍历完则遍历下一个个体，否则跳到步骤7；
步骤5：执行公式(31)至公式(43)，使用GRSA中的公式(21)处理ΔTGH7Aij过大或过小的问题，执行公式(44)，使用GRSA中的公式(22)处理越出边界的个体；
TWO的公式(1)至公式(6)如下所示：


















其中：fit(i)、fitbest和fitworst分别是第i个个体的目标函数值、最优个体的目标函数值和最差个体的目标函数值，和Δt分别为max{Wiμs,Wjμs}和1，Xmax、Xmin和randn(1,two_n)分别表示上界、下界和two_n维的正太分布随机向量，α和β均为待定参数。
GRSA的个体位置更新公式如公式(8)至公式(18)所示：



γ0,i(t)←1+ξi(t)(9)
γi(t)←γ0,i(t)+(1-γ0,i(t))Kg(10)






λij(t)←wtVij(t)(13)
δtl,i(t)←sign(Ti(t)-Ti(t-1))(14)
δsl,i(t)←sign(Ti(t)-TG)(15)
δnull,i(t)←sign(Ti(t)-TBi)(16)
δij(t)←-sign(δtl,ij(t)+Kf,jδsl,ij(t)+(1-Kf,j)δnull,ij(t))(17)
Tij(t+1)←Tij(t)+λij(t)δij(t)(18)
其中：n、Kf,i和Kg分别表示种群的个体总数、0或1的随机数和d维随机向量，i和wt分别表示1至n的正整数和根据迭代次数从0.9线性下降至0.1的数，GM1和GM2分别等于0.999和0.011。
ΔGRSA0_Xi,j←A1×s(A13×θ1,l1)×ΔGRSA_Xi,j(31)
其中：A1和A13均为待定参数，s(A13×θ1,l1)是使用公式(28)、A13×θ1和l1所获得的数值，ΔTWO_Xi和ΔTWO_Xi,j分别表示的是参考TW...

【专利技术属性】
技术研发人员：余俊毅，陈平华，
申请(专利权)人：广东工业大学，
类型：发明
国别省市：广东;44