【技术实现步骤摘要】
一种超参数确定方法、装置、计算机设备和存储介质
本申请涉及计算机
,具体涉及一种超参数确定方法、装置、计算机设备和存储介质。
技术介绍
在机器学习的上下文中,超参数是在开始学习过程之前设置值的参数,而不是通过训练得到的参数数据。通常情况下,需要对超参数进行优化,给学习机选择一组最优超参数,以提高学习的性能和效果。不少机器学习模型训练前需预先设定超参数值,且超参数取值对提升模型学习性能及效果有重要作用。尤其当超参数个数较多时,如何确定各超参数取值给建模人员提出了不小挑战。本申请的专利技术人发现,目前通常采用经验法直接确定,这使得超参数的调优效率十分低下,且确定超参数的方法也十分有限,亟需改善。
技术实现思路
本申请实施例提供一种超参数确定方法、装置、计算机设备和存储介质,可以通过提高超参数调优的效率来高效地确定超参数。本申请实施例提供一种超参数确定方法,包括:获取至少一个待训练模型的超参数组,其中,所述待训练模型属于目标模型类型,所述超参数组包括至少一个维度的超参数,每个维度的 ...
【技术保护点】
1.一种超参数确定方法,其特征在于,包括:/n获取至少一个待训练模型的超参数组,其中,所述待训练模型属于目标模型类型,所述超参数组包括至少一个维度的超参数,每个维度的超参数指示所述待训练模型在每个维度下的模型结构特征;/n将目标超参数组分配给分布式集群中的目标超参数评估节点;/n通过所述目标超参数评估节点,采用所述目标超参数组对目标待训练模型进行模型训练,其中,所述目标待训练模型为所述目标超参数组对应的待训练模型;/n对训练后模型进行模型评估,以确定所述目标超参数组的目标超参数评估结果,得到每个超参数组的超参数评估结果;/n基于所述超参数评估结果,从所述超参数组中选取所述目 ...
【技术特征摘要】
1.一种超参数确定方法,其特征在于,包括:
获取至少一个待训练模型的超参数组,其中,所述待训练模型属于目标模型类型,所述超参数组包括至少一个维度的超参数,每个维度的超参数指示所述待训练模型在每个维度下的模型结构特征;
将目标超参数组分配给分布式集群中的目标超参数评估节点;
通过所述目标超参数评估节点,采用所述目标超参数组对目标待训练模型进行模型训练,其中,所述目标待训练模型为所述目标超参数组对应的待训练模型;
对训练后模型进行模型评估,以确定所述目标超参数组的目标超参数评估结果,得到每个超参数组的超参数评估结果;
基于所述超参数评估结果,从所述超参数组中选取所述目标模型类型的最优超参数组。
2.根据权利要求1所述的超参数确定方法,其特征在于,通过所述目标超参数评估节点,采用所述目标超参数组对目标待训练模型进行模型训练,其中,所述目标待训练模型为所述目标超参数组对应的待训练模型,包括:
将进行模型训练所需的数据集同步至所述目标超参数评估节点;
采用所述目标超参数组调整目标待训练模型的模型结构;
基于所述数据集,通过所述目标超参数评估节点对调整后的目标待训练模型进行模型训练,得到训练后模型。
3.根据权利要求2所述的超参数确定方法,其特征在于,将进行模型训练所需的数据集同步至所述目标超参数评估节点,包括:
获取进行模型训练所需的原始数据集;
利用分布式集群对所述原始数据集进行数据预处理,得到进行模型训练所需的数据集;
将所述数据集同步至所述目标超参数评估节点。
4.根据权利要求3所述的超参数确定方法,其特征在于,利用分布式集群对所述原始数据集进行数据预处理,得到进行模型训练所需的数据集,包括:
对所述原始数据集进行划分,得到至少一个子原始数据集;
将目标子原始数据集分配给所述分布式集群中的目标数据处理节点,其中,所述分布式集群包括至少一个数据处理节点;
通过所述目标数据处理节点对所述目标子原始数据集进行数据预处理,以对所述原始数据集进行数据预处理,得到进行模型训练所需的数据集。
5.根据权利要求1所述的超参数确定方法,其特征在于,对训练后模型进行模型评估,以确定所述目标超参数组的目标超参数评估结果,得到每个超参数组的超参数评估结果,包括:
获取进行模型评估所需的验证集,其中,所述验证集包括样本数据、以及所述样本数据的目标标签;
通过所述训练后模型对所述样本数据进行预测,得到所述样本数据的预测标签;
基于所述目标标签与所述预测标签,对所述训练后模型进行模型评估,以确定目标超参数组的目标超参数评估结果,得到每个超参数组的超参数评估结果。
6.根据权利要求5所述的超参数确定方法,其特征在于,基于所述目标标签与所述预测标签,对所述训练后模型进行模型评估,以确定目标超参数组的目标超参数评估结果,包括:
确定评估所述训练后模型的至少一项评估指标;
基于所述预测标签与所述目标标签,计算所述训练后模型的各项评估指标值;
将所述评估指标值进行融合,得到融合后的评估指标值,以对所...
【专利技术属性】
技术研发人员:刘紫薇,宋辉,董井然,陈守志,
申请(专利权)人:腾讯科技深圳有限公司,
类型:发明
国别省市:广东;44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。