一种超参数的优化确定方法和装置制造方法及图纸

技术编号:41839062 阅读:23 留言:0更新日期:2024-06-27 18:20
本申请提供了一种超参数的优化确定方法和装置,涉及人工智能技术领域,其中,该方法包括:获取目标模型的超参数样本数据,其中,超参数样本数据中携带有:多个超参数、各个超参数的参数值个数和每个参数值的取值;根据超参数样本数据中各超参数的参数值和个数和每个参数值的取值进行迭代搜索,以确定出曲线下面积最大时对应的各超参数的取值;将曲线下面积最大时对应的各超参数的取值,作为优化的各超参数取值;将优化后的各超参数取值作为目标模型的超参数取值,以对目标模型进行训练。通过上述方案解决了现有的通过网格搜索进行超参数优化所存在的运行时间过长、搜索效率低下的技术问题,达到了快速高效进行超参数优化的技术效果。

【技术实现步骤摘要】

本申请属于人工智能,尤其涉及一种超参数的优化确定方法和装置


技术介绍

1、目前,在对神经网络模型进行参数优化的时候,一般采用网格搜索的方法,网格搜索是一种穷举搜索方法,通过遍历超参数的所有组合来寻找最优超参数。具体的,网格搜索先为每个超参数设定一组候选值,然后生成这些候选值的笛卡尔积,形成超参数的组合网格,网格搜索对每个超参数组合进行模型训练和评估,从而找到性能最佳的超参数组合。

2、然而,网格搜索由于需要对所有参数进行排列组合,势必会导致计算量过大,且随着超参数数量的增加,搜索空间也必然会快速增大,导致运行时间较长、搜索效率低下等问题的发生。

3、针对上述问题,目前尚未提出有效的解决方案。


技术实现思路

1、本申请目的在于提供一种超参数的优化确定方法和装置,可以提高超参数的优化效率,从而提高模型的训练效率。

2、本申请提供一种超参数的优化确定方法和装置是这样实现的:

3、一种超参数的优化确定方法,所述方法包括:

4、获取目标模型的超参数样本数据,本文档来自技高网...

【技术保护点】

1.一种超参数的优化确定方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述多个超参数至少包括以下一个或多个:估计量、最大深度和学习率。

3.根据权利要求1所述的方法,其特征在于,根据所述超参数样本数据中各超参数的参数值和个数和每个参数值的取值进行迭代搜索,以确定出曲线下面积最大时对应的各超参数的取值,包括:

4.根据权利要求3所述的方法,其特征在于,以所述数组中的多个值相等时,所述数组中的取值所对应的超参数组合中各超参数的取值,作为曲线下面积最大时对应的各超参数的取值,包括:

5.根据权利要求1至4中任一项所述...

【技术特征摘要】

1.一种超参数的优化确定方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述多个超参数至少包括以下一个或多个:估计量、最大深度和学习率。

3.根据权利要求1所述的方法,其特征在于,根据所述超参数样本数据中各超参数的参数值和个数和每个参数值的取值进行迭代搜索,以确定出曲线下面积最大时对应的各超参数的取值,包括:

4.根据权利要求3所述的方法,其特征在于,以所述数组中的多个值相等时,所述数组中的取值所对应的超参数组合中各超参数的取值,作为曲线下面积最大时对应的各超参数的取值,包括:

5.根据权利要求1至4中任一项所述的方法,其特征在于,所述目标模...

【专利技术属性】
技术研发人员:王松松郭相林徐琳玲
申请(专利权)人:中国工商银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1