【技术实现步骤摘要】
参数调整方法和装置
本申请实施例涉及信息处理领域,尤指一种参数调整方法和装置。
技术介绍
机器学习算法往往是为了解决某一问题而针对收集到的样本数据进行建模,发现数据中的规律。需要解决的问题往往没有精确解,一般需要转为最优化问题,不断逼近最优解。模型的性能往往是跟模型的参数紧密相关的,即是否能更好地解决提出的问题需要高效、准确地调整模型的参数。其中,参数是机器学习中的算法参数一般分为模型参数和模型超参数,是算法的关键。模型参数是根据数据来学习得到,不需要手动设置,比如支持向量机模型里的支持向量或者逻辑回归中的系数等。而模型超参数是需要模型使用者的手动配置的,比如决策树中每个节点需要使用的特征的比例。针对模型的超参数,在相关技术中,参数调整的方法主要是手动调整和自动调整。手动调整参数主要是根据模型的使用经验来决定参数如何变化以使得模型评估指标更高或者更低,需要模型使用者有较好的相关专业知识和较多的实践经验,否则效率会很低,耗费的时间成本会随着模型超参数的个数增多而升高。为了解决手动调参的以上缺点,自动调参算法被提出了,主 ...
【技术保护点】
1.一种参数调整方法,其特征在于,包括:/n获取需要调整的m个参数对应的初始化种群,其中所述初始化种群包括λ个个体,每个个体包括m个参数对应的初始值,其中m为正整数;/n重复执行如下步骤,直到获得λ个最优个体或者迭代次数达到预设的最大迭代次数T,所述步骤包括:/n从所述初始化种群中的λ个个体中,选择λ对父母个体;/n确定所述λ对父母个体对应的λ个后代个体;从λ对父母个体中的个体和λ个后代个体,选择λ个最优个体;/n在获得λ个最优个体或者迭代次数达到所述最大迭代次数T后,从所述λ个最优个体中,选择一个符合预设的最优化判断策略的个体,确定m个参数对应的参数值。/n
【技术特征摘要】
1.一种参数调整方法,其特征在于,包括:
获取需要调整的m个参数对应的初始化种群,其中所述初始化种群包括λ个个体,每个个体包括m个参数对应的初始值,其中m为正整数;
重复执行如下步骤,直到获得λ个最优个体或者迭代次数达到预设的最大迭代次数T,所述步骤包括:
从所述初始化种群中的λ个个体中,选择λ对父母个体;
确定所述λ对父母个体对应的λ个后代个体;从λ对父母个体中的个体和λ个后代个体,选择λ个最优个体;
在获得λ个最优个体或者迭代次数达到所述最大迭代次数T后,从所述λ个最优个体中,选择一个符合预设的最优化判断策略的个体,确定m个参数对应的参数值。
2.根据权利要求1所述的方法,其特征在于,通过如下方式获取一个个体中m个参数对应的初始值,包括:
获取参数pi的取值空间[ai,bi],其中i为大于等于1,且小于等于m的整数,ai,bi为实数;
对取值空间[ai,bi]等宽划分,得到个初始的取值区间,其中为
从参数pi的个取值区间中选择一个取值区间,并从该取值区间选择一个数值作为该参数pi对应的初始值。
3.根据权利要求1所述的方法,其特征在于,从所述初始化种群中的λ个个体中,选择λ对父母个体,包括:
根据预先设置的适应度计算策略,计算每个个体的适应度信息;
从所述λ个个体中选择n个个体,从所述n个个体中选择适应度信息符合预先设置的最优选择策略的2个个体作为1对父母个体,以此类推,直到选取出λ对父母个体,其中n为大于2的整数。
4.根据权利要求1所述的方法,其特征在于,一个后代个体是通过如下方式得到的,包括:
其中,分别表示第t代种群中父母个体,1≤i,j≤λ;ωi、ωj分别为第t代种群中父母个体的适应度归一化后的值,其中t为正整数,小于等于最大迭代次数T。
5.根据权利要求1所述的方法,其特征在于,所述从λ对父母个体中的个体和λ个后代个...
【专利技术属性】
技术研发人员:范慧婷,卢亿雷,
申请(专利权)人:恩亿科北京数据科技有限公司,
类型:发明
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。