一种改进型连续投影算法制造技术

本发明专利技术公开了一种改进型连续投影算法，涉及极限学习算法技术领域，在改进的连续投影算法中，候选向量不再简单地与当前向量进行投影，而是与已有所有特征向量的加权向量进行投影，使得整体预测效果比连续投影算法有了略微的提高,并且新算法更稳定，不容易受到待选择的权重向量集的影响,这使得它在某些特殊情况下，会使得预测精度比连续投影算法形成的极限学习机有大幅的提高。

【技术实现步骤摘要】
一种改进型连续投影算法
本专利技术涉及极限学习算法
，尤其是一种改进型连续投影算法。
技术介绍
极限学习机中随机选取权重的机制能够极大地提高训练算法的效率。但是，如果随机权重选取不当，则会严重降低极限学习机的拟合能力，甚至可以出现完全线性关系的情况，不能拟合非线性的关系。出现这类问题的根本原因是：随机给定的权重构成的若干个向量可能出现线性相关的情况，使得隐含层节点退化，实质起作用的隐含层节点数量减少。上述计算的过程中会涉及到连续投影算法，但是目前的连续投影算法存在如下缺陷：一方面连续投影算法并不是全局最优算法，而是典型的贪心算法，也就是说，算法在执行过程之中，并没有从全局和整体考虑不相关性的最大化，而只是考虑局部性质，即让当前节点和待选的节点之间的无关性最大化，这种局部最优的特征使得选择的特征向量集的质量某些情况下可能较差。另一方面，连续投影算法在从特殊的向量集选取向量的时候会出现很严重的问题，即所选取的向量会集中在高维空间的两条相互垂直的直线上，多个隐含节点退化为两个节点，使极限学习机丧失了学习能力。问题的根本原因在于其连续投影本文档来自技高网...

【技术保护点】
1.一种改进型连续投影算法，其特征在于：设定Q为最初的节点数量，h为中间层最终节点的数量,包括如下步骤：/n步骤(1)从原始变量集合{v1,v2,…vQ}中任意选择任一个向量v，其在1～Q的序号为ξ(1)，记作第一个特征向量V

【技术特征摘要】
1.一种改进型连续投影算法，其特征在于：设定Q为最初的节点数量，h为中间层最终节点的数量,包括如下步骤：
步骤(1)从原始变量集合{v1,v2,…vQ}中任意选择任一个向量v，其在1～Q的序号为ξ(1)，记作第一个特征向量Vξ(1)，以该向量v为基础逐渐增加特征向量的数量，直至所述特征向量的总数达到h个；
步骤(2)设定步骤(1)中已选择的向量共有τ个，则定义S为未选入特征向量的向量构成的集合，如下式：
S＝{Vt丨1≤t≤Q，t≠ξ(1)，ξ(1)，……，ξ(τ)}，其中Vt为未选入特征向量，t为未选入向量；
则法线向量u(τ)计算公式如下：
u(τ)＝Vξ(τ)+γu(τ-1)；其中γ为根据经验设定的系数，范围在(0，1)之中；
通过所述法线向量u(τ)计算获取u(τ)的垂平面，并分别计算S中的向量在向量ξ(τ)的垂面上的正交投影向量P(V)，公式如下：
P(V)＝V-(VTu(τ))u(τ)VTu(τ))T；
所述正交...

【专利技术属性】
技术研发人员：刘毅，王俊宇，郑立荣，王健俊，
申请(专利权)人：复旦大学，
类型：发明
国别省市：上海;31