当前位置: 首页 > 专利查询>温州大学专利>正文

基于量子旋转门及退火飞蛾优化算法构建预测模型的方法技术

技术编号:22884805 阅读:50 留言:0更新日期:2019-12-21 07:36
本发明专利技术提供一种基于量子旋转门及退火飞蛾优化算法构建预测模型的方法,包括获取样本数据并对所获取到的样本数据进行归一化处理;利用基于量子旋转门及退火飞蛾优化支持向量机的惩罚因子C和核宽γ;基于所获得的惩罚因子C和核宽γ,利用所归一化处理后的数据来构建预测模型,并基于所构建的预测模型对待分类样本进行分类和预测。实施本发明专利技术,通过基于量子旋转门及退火机制增强的飞蛾优化算法来优化SVM的惩罚因子和核宽,可有效提升算法的收敛速度和收敛精度,提升算法逃脱局部最优解的能力,找到更优的全局近似最优解。

The method of building prediction model based on quantum revolving door and annealing moth optimization algorithm

【技术实现步骤摘要】
基于量子旋转门及退火飞蛾优化算法构建预测模型的方法
本专利技术涉及计算机
,尤其涉及一种基于量子旋转门及退火飞蛾优化算法构建预测模型的方法。
技术介绍
支持向量机(SVM)常用于构建预测模型来对数据进行分析,该支持向量机(SVM)最常用的两种参数优化方法包括网格搜索和梯度下降。在第一种参数优化方法中,网格搜索是一种穷举搜索方法,它一般是通过设置合理的区间上下限和间隔步长对指定参数空间进行划分,然后对每个网格节点代表的参数组合进行训练和预测,将这些预测结果中取值最高的一组参数作为最终SVM模型的最佳参数。该方法虽然在一定程度上能保证得到给定参数空间内最优的参数组合,然而随着参数空间增大,其搜索效率会大大降低,特别是设置合理的区间和间隔步长值往往非常困难,从而大大降低了其可行性,而且模型也非常容易陷入局部最优值;在第二种参数优化方法中,梯度下降方法虽然能克服网格搜索方法的缺陷,但是它对初始值非常敏感,特别是初始参数设置离最优解非常远的时候,模型很容易收敛到局部最优解。近年来,由于元启发式的搜索算法凭借其独特的全局寻优能力而受到了学术和工业界的广泛关注,它们被普遍认为比传统寻优方法具有更大的机会找到全局最优解,因此提出多种基于元启发式算法的SVM训练算法来处理参数优化问题。SVM在具体应用时,其性能主要受包括线性核函数、多项式核函数、径向基(RBF)核函数和sigmoid核函数等核函数影响,一般情况下选择基于RBF核函数的SVM。RBF核SVM主要涉及两个重要的参数C和γ。C是惩罚因子,它用于控制对错分样本惩罚的程度,起到控制训练误差和模型复杂度之间平衡的作用;C值越小,则对数据中误判样本的惩罚也越小,使得训练误差变大,因此结构风险也变大。相反,C值越大,对错分样本的约束程度就越大,这样会导致模型虽然对训练数据的误判率很低,但整体的泛化能力却很差,容易出现“过拟合”现象。参数γ代表RBF核函数中的核宽,它决定了核函数的宽度,直接影响SVM的性能。如果γ取得不恰当,SVM很难获得预期的学习效果。γ值太小会导致过拟合,γ值太大会使SVM的判别函数过于平缓。所以惩罚因子C和核宽γ从不同的角度影响着SVM的分类超平面。在实际应用中,它们取值过大或过小都会使SVM的泛化性能变差。但是,采用现有的元启发式的搜索算法来处理SVM参数优化问题,还有待进一步提升算法的收敛速度和收敛精度,提升算法逃脱局部最优解的能力,从而找到更优的全局近似最优解。
技术实现思路
本专利技术实施例所要解决的技术问题在于,提供一种基于量子旋转门及退火飞蛾优化算法构建预测模型的方法,通过基于量子旋转门及退火机制增强的飞蛾优化算法(QSMFO)来优化SVM的惩罚因子和核宽,可有效提升算法的收敛速度和收敛精度,提升算法逃脱局部最优解的能力,找到更优的全局近似最优解。为了解决上述技术问题,本专利技术实施例提供了一种基于量子旋转门及退火飞蛾优化算法构建预测模型的方法,所述方法包括以下步骤:步骤S1、获取样本数据并对所获取到的样本数据进行归一化处理;步骤S2、利用基于量子旋转门及退火飞蛾优化算法优化支持向量机的惩罚因子C和核宽γ,具体为:步骤S2.1、定义最大迭代次数T、飞蛾优化算法种群个数n、搜索空间维度dim、惩罚因子C的搜索空间[Cmin,Cmax]和核宽γ的搜索空间[γmin,γmax];步骤S2.2、初始化n个搜索个体位置:采用公式(1)-(2),将每一个个体的位置映射到设定的搜索范围内,得到n个个体的位置Xi=(Xi,1,Xi,2)(i=1...n);Xi,l=(Cmax-Cmin)*r+Cmin,(i=1,2,...,n)(1)Xi,2=(γmax-γmin)*r+γmin,(i=1,2,...,n)(2);其中,Ci表示个体i在当前位置时的C值,γi表示个体i在当前位置时的γ值;r为[0,1]之间的随机小数;步骤S2.3、计算每个个体i的适应度fi,并将计算出的适应度fi由大到小排序,若所有个体中最大的适应度值大于最佳个体的适应度,则将最佳个体替换成当前适应度最高的个体;其中,所计算出的适应度fi基于个体i当前位置的C和γ值,以内部K折交叉验证策略计算支持向量机的准确度ACC来获取的;步骤S2.4、判断是否超过种群数目n;如果是,则跳转到步骤2.8;如果否,则执行下一步骤2.5;步骤S2.5、继续判断是否超过搜索空间维度dim;如果是,则跳转到步骤2.7;如果否,则执行下一步骤2.6;步骤S2.6、围绕最佳个体生成整个种群:根据公式(3)生成n个个体,并计算出根据公式(3)生成的n个个体的适应度,且进一步对比出根据公式(3)生成的n个个体之中最大的适应度大于最佳个体的适应度,则用对比的n个个体之中最大的适应度的个体来替换最佳个体,待最佳个体更新后,跳转到步骤2.8;其中,sorted为排序之后的种群,distance为当前种群与排序后对应种群的距离;步骤S2.7、执行退火策略:针对种群中每个更新后的个体,对其执行退火策略,得到退火策略执行后的新个体;步骤S2.8、执行量子旋转门策略:针对种群中每个更新后的个体,再对其执行量子旋转门策略,得到量子旋转门策略执行后的新个体;步骤S2.9、判断是否达到最大迭代次数T;如果是,则执行下一步骤2.10;如果否,则返回步骤2.3,继续迭代;步骤S2.10、输出最佳个体位置,即最优的惩罚因子C和核宽γ值;步骤S3、基于所获得的惩罚因子C和核宽γ,利用所归一化处理后的数据来构建下述公式(4)所示的预测模型,并基于所构建的预测模型对待分类样本进行分类和预测;其中,K(·)采用公式(5)所示;xj表示第j个归一化处理后的样本数据;xi(i=1...l)表示训练样本;yi(i=1...l)表示训练样本对应的标签,yi=1代表正类样本,yi=-1代表负类样本;b为阈值;αi是拉格朗日系数;K(xi,xj)=exp(-r||xi-xj||2)(5)。实施本专利技术实施例,具有如下有益效果:本专利技术通过基于量子旋转门及退火飞蛾优化算法将SVM的惩罚因子C和核宽γ编码进行优化,并在优化过程中采用K折交叉验证,不仅增强算法的搜索能力,还能防止算法陷入局部最优,快速找到全局最优解,从而能得到更准确的预测效果并更有效地辅助决策者进行科学合理的决策。附图说明为了更清楚地说明本专利技术实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,根据这些附图获得其他的附图仍属于本专利技术的范畴。图1为本专利技术实施例提供的基于量子旋转门及退火飞蛾优化算法构建预测模型的方法的流程图。具体实施方式为使本专利技术的目的、技术方案和优点更加清楚,下面将结合附图对本专利技术作进一步地详细描述。如图本文档来自技高网
...

【技术保护点】
1.一种基于量子旋转门及退火飞蛾优化算法构建预测模型的方法,其特征在于,所述方法包括以下步骤:/n步骤S1、获取样本数据并对所获取到的样本数据进行归一化处理;/n步骤S2、利用基于量子旋转门及退火飞蛾优化算法优化支持向量机的惩罚因子C和核宽γ,具体为:/n步骤S2.1、定义最大迭代次数T、飞蛾优化算法种群个数n、搜索空间维度dim、惩罚因子C的搜索空间[C

【技术特征摘要】
1.一种基于量子旋转门及退火飞蛾优化算法构建预测模型的方法,其特征在于,所述方法包括以下步骤:
步骤S1、获取样本数据并对所获取到的样本数据进行归一化处理;
步骤S2、利用基于量子旋转门及退火飞蛾优化算法优化支持向量机的惩罚因子C和核宽γ,具体为:
步骤S2.1、定义最大迭代次数T、飞蛾优化算法种群个数n、搜索空间维度dim、惩罚因子C的搜索空间[Cmin,Cmax]和核宽γ的搜索空间[γmin,γmax];;
步骤S2.2、初始化n个搜索个体位置:采用公式(1)-(2),将每一个个体的位置映射到设定的搜索范围内,得到n个个体的位置Xi=(Xi,1,Xi,2)(i=1...n);
Xi,1=(Cmax-Cmin)*r+Cmin,(i=1,2,...,n)(1)
Xi,2=(γmax-γmin)*r+γmin,(i=1,2,...,n)(2);
其中,Ci表示个体i在当前位置时的C值,γi表示个体i在当前位置时的γ值;r为[0,1]之间的随机小数;
步骤S2.3、计算每个个体i的适应度fi,并将计算出的适应度fi由大到小排序,若所有个体中最大的适应度值大于最佳个体的适应度,则将最佳个体替换成当前适应度最高的个体;其中,所计算出的适应度fi基于个体i当前位置的C和γ值,以内部K折交叉验证策略计算支持向量机的准确度ACC来获取的;
步骤S2.4、判断是否超过种群数目n;如果是,则跳转到步骤2.8;如果否,则执行下一步骤2.5;
步骤S2.5、继续判断是否超过搜索空间维度dim;如果是,则跳转...

【专利技术属性】
技术研发人员:陈慧灵俞蔡阳赵学华汪鹏君李成业陈一鹏
申请(专利权)人:温州大学
类型:发明
国别省市:浙江;33

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1