机器学习模型的超参数配置方法、装置以及可读存储介质制造方法及图纸

本申请实施例公开了一种机器学习模型的超参数配置方法、装置以及可读存储介质，方法包括：获取机器学习模型基于训练样本数据和初始超参数配置进行机器学习得到的多个第一奖励参量。获取超参数配置采样器基于初始超参数配置、第一奖励参量与超参数搜索空间得到的多个候选超参数配置。通过多个奖励参量预测模型基于初始超参数配置、第一奖励参量与多个候选超参数配置获取各候选超参数配置的多个奖励参量预测值。基于多个候选超参数配置、奖励参量预测值、训练样本数据与机器学习模型，从多个候选超参数配置中确定出机器学习模型的目标超参数配置。采用本申请，可以提高机器学习模型的超参数配置的选取效率，超参数配置选取的有效率高，适用性强。适用性强。适用性强。

【技术实现步骤摘要】
机器学习模型的超参数配置方法、装置以及可读存储介质


[0001]本申请涉及人工智能
，尤其涉及一种机器学习模型的超参数配置方法、装置以及可读存储介质。

技术介绍

[0002]机器学习作为人工智能(Artificial Intelligence，AI)的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域。在机器学习过程中，需要在开始学习之前为机器学习模型配置超参数，便于机器学习模型基于配置的超参数进行学习。超参数是一种需要预先配置的参数，不能通过模型训练得到，通常是基于人工的现有经验进行人工赋值来为机器学习模型配置超参数。超参数定义了关于机器学习模型的更高层次的概念，如模型复杂性或学习能力，因此为机器学习模型选择一组最优超参数对提高模型学习的性能和效果至关重要，机器学习模型中配置的该组最优超参数也称为机器学习模型的超参数配置。
[0003]本申请的专利技术人在研究和实践过程中发现，现有技术中，通常是基于人工经验来配置机器学习模型的超参数，然而基于人工经验调优得到的超参数往往是次优解，并非最优超参数，超参数优化效果差，并且超参数调优过程耗时长，适用性差。

技术实现思路

[0004]本申请实施例提供一种机器学习模型的超参数配置方法、装置以及可读存储介质，可以提高机器学习模型的超参数生成效率，减少了超参数调优耗时，超参数配置选取的有效率高，适用性强。
[0005]第一方面，本申请实施例提供了一种机器学习模型的超参数配置方法，该方法包括：
[0006]获取机器学习模型基于训练样本数据和多个初始超参数配置进行机器学习得到的多个第一奖励参量；
[0007]获取超参数配置采样器基于上述多个初始超参数配置、上述多个初始超参数配置中各初始超参数配置对应的第一奖励参量，以及超参数搜索空间得到的多个候选超参数配置；
[0008]通过多个奖励参量预测模型基于上述多个初始超参数配置、上述各初始超参数配置对应的第一奖励参量，以及上述多个候选超参数配置，获取上述多个候选超参数配置中各候选超参数配置对应的多个奖励参量预测值；
[0009]基于上述多个候选超参数配置、上述各候选超参数配置对应的多个奖励参量预测值、上述训练样本数据以及上述机器学习模型，从上述多个候选超参数配置中确定出上述机器学习模型的目标超参数配置。
[0010]在一种可能的实现方式中，上述超参数配置采样器包括随机采样器和超参数优化采样器；
[0011]上述获取超参数配置采样器基于上述多个初始超参数配置、上述多个初始超参数配置中各初始超参数配置对应的第一奖励参量，以及超参数搜索空间得到的多个候选超参数配置包括：
[0012]通过上述超参数优化采样器基于上述多个初始超参数配置、上述多个初始超参数配置中各初始超参数配置对应的第一奖励参量，以及上述超参数搜索空间获取多个第一候选超参数配置；
[0013]通过上述随机采样器基于上述超参数搜索空间获取多个第二候选超参数配置；
[0014]将上述多个第一候选超参数配置和上述多个第二候选超参数配置确定为上述多个候选超参数配置。
[0015]在一种可能的实现方式中，上述基于上述多个候选超参数配置、上述各候选超参数配置对应的多个奖励参量预测值、上述训练样本数据以及上述机器学习模型，从上述多个候选超参数配置中确定出上述机器学习模型的目标超参数配置包括：
[0016]获取上述多个奖励参量预测模型中，任一奖励参量预测模型获取的上述多个第一候选超参数配置对应的奖励参量预测值，并将数值较大的前n个奖励参量预测值对应的n个第一候选超参数配置确定为一组目标第一候选超参数配置，以得到基于上述多个奖励参量预测模型获取的多组目标第一候选超参数配置；
[0017]获取上述多个奖励参量预测模型中，任一奖励参量预测模型获取的上述多个第二候选超参数配置对应的奖励参量预测值，并将数值较大的前m个奖励参量预测值对应的n个第二候选超参数配置确定为一组目标第二候选超参数配置，以得到基于上述多个奖励参量预测模型获取的多组目标第二候选超参数配置；
[0018]从上述多组目标第一候选超参数配置中确定出出现次数大于阈值的n个目标第一候选超参数配置，并从上述多组目标第二候选超参数配置中确定出出现次数大于上述阈值的m个目标第二候选超参数配置，上述阈值基于上述多个奖励参量预测模型的数量得到；
[0019]基于上述n个目标第一候选超参数配置、上述m个目标第二候选超参数配置、上述训练样本数据以及上述机器学习模型确定出上述机器学习模型的目标超参数配置。
[0020]在一种可能的实现方式中，上述方法还包括：
[0021]若从上述多组目标第一候选超参数配置中确定出的出现次数大于阈值的目标第一候选超参数配置的数量n1不等于n，则基于各组目标第一候选超参数配置中各第一候选超参数配置对应的奖励参量预测值的平均值，从上述多组目标第一候选超参数配置中确定出n个目标第一候选超参数配置，n1为正整数；
[0022]若从上述多组目标第二候选超参数配置中确定出的出现次数大于阈值的目标第二候选超参数配置的数量m1不等于m，则基于各组目标第二候选超参数配置中各第二候选超参数配置对应的奖励参量预测值的平均值，从上述多组目标第二候选超参数配置中确定出m个目标第二候选超参数配置，m1为正整数。
[0023]在一种可能的实现方式中，上述基于上述n个目标第一候选超参数配置以及上述m个目标第二候选超参数配置、上述训练样本数据以及上述机器学习模型确定出上述机器学习模型的目标超参数配置包括：
[0024]获取上述机器学习模型基于上述训练样本数据、上述n个目标第一候选超参数配置以及上述m个目标第二候选超参数配置进行机器学习得到的各目标第一候选超参数配置
对应的第二奖励参量以及各目标第二候选超参数配置对应的第二奖励参量；
[0025]从上述n个目标第一候选超参数配置和上述m个目标第二候选超参数配置中确定出第二奖励参量最大的目标第一候选超参数配置或者目标第二候选超参数配置作为上述机器学习模型的目标超参数配置。
[0026]在一种可能的实现方式中，上述获取上述机器学习模型基于上述训练样本数据、上述n个目标第一候选超参数配置以及上述m个目标第二候选超参数配置进行机器学习得到的各目标第一候选超参数配置对应的第二奖励参量以及各目标第二候选超参数配置对应的第二奖励参量包括：
[0027]根据上述机器学习模型基于上述训练样本数据和各目标第一候选超参数配置进行第i次机器学习得到的候选奖励参量确定第一候选奖励参量参考值，若上述第一候选奖励参量参考值小于奖励参量均值，则获取上述机器学习模型基于上述训练样本数据和上述各目标第一候选超参数配置进行第i
‑
1次机器学习得到的候选奖励参量作为上述各目标第一候选超参数配置对应的第二奖励参量，其中i为正整数，上述奖励参量均值由上述机器学习模型获得上述第一奖励参量之前，基于上述训练样本数据和历史超参数配置进行机器学习获得的历史本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种机器学习模型的超参数配置方法，其特征在于，所述方法包括：获取机器学习模型基于训练样本数据和多个初始超参数配置进行机器学习得到的多个第一奖励参量；获取超参数配置采样器基于所述多个初始超参数配置、所述多个初始超参数配置中各初始超参数配置对应的第一奖励参量，以及超参数搜索空间得到的多个候选超参数配置；通过多个奖励参量预测模型基于所述多个初始超参数配置、所述各初始超参数配置对应的第一奖励参量，以及所述多个候选超参数配置，获取所述多个候选超参数配置中各候选超参数配置对应的多个奖励参量预测值；基于所述多个候选超参数配置、所述各候选超参数配置对应的多个奖励参量预测值、所述训练样本数据以及所述机器学习模型，从所述多个候选超参数配置中确定出所述机器学习模型的目标超参数配置。2.根据权利要求1所述的方法，其特征在于，所述超参数配置采样器包括随机采样器和超参数优化采样器；所述获取超参数配置采样器基于所述多个初始超参数配置、所述多个初始超参数配置中各初始超参数配置对应的第一奖励参量，以及超参数搜索空间得到的多个候选超参数配置包括：通过所述超参数优化采样器基于所述多个初始超参数配置、所述多个初始超参数配置中各初始超参数配置对应的第一奖励参量，以及所述超参数搜索空间获取多个第一候选超参数配置；通过所述随机采样器基于所述超参数搜索空间获取多个第二候选超参数配置；将所述多个第一候选超参数配置和所述多个第二候选超参数配置确定为所述多个候选超参数配置。3.根据权利要求2所述的方法，其特征在于，所述基于所述多个候选超参数配置、所述各候选超参数配置对应的多个奖励参量预测值、所述训练样本数据以及所述机器学习模型，从所述多个候选超参数配置中确定出所述机器学习模型的目标超参数配置包括：获取所述多个奖励参量预测模型中，任一奖励参量预测模型获取的所述多个第一候选超参数配置对应的奖励参量预测值，并将数值较大的前n个奖励参量预测值对应的n个第一候选超参数配置确定为一组目标第一候选超参数配置，以得到基于所述多个奖励参量预测模型获取的多组目标第一候选超参数配置；获取所述多个奖励参量预测模型中，任一奖励参量预测模型获取的所述多个第二候选超参数配置对应的奖励参量预测值，并将数值较大的前m个奖励参量预测值对应的m个第二候选超参数配置确定为一组目标第二候选超参数配置，以得到基于所述多个奖励参量预测模型获取的多组目标第二候选超参数配置；从所述多组目标第一候选超参数配置中确定出出现次数大于阈值的n个目标第一候选超参数配置，并从所述多组目标第二候选超参数配置中确定出出现次数大于所述阈值的m个目标第二候选超参数配置，所述阈值基于所述多个奖励参量预测模型的数量得到；基于所述n个目标第一候选超参数配置、所述m个目标第二候选超参数配置、所述训练样本数据以及所述机器学习模型确定出所述机器学习模型的目标超参数配置。4.根据权利要求3所述的方法，其特征在于，所述方法还包括：
若从所述多组目标第一候选超参数配置中确定出的出现次数大于阈值的目标第一候选超参数配置的数量n1不等于n，则基于各组目标第一候选超参数配置中各第一候选超参数配置对应的奖励参量预测值的平均值，从所述多组目标第一候选超参数配置中确定出n个目标第一候选超参数配置，n1为正整数；若从所述多组目标第二候选超参数配置中确定出的出现次数大于阈值的目标第二候选超参数配置的数量m1不等于m，则基于各组目标第二候选超参数配置中各第二候选超参数配置对应的奖励参量预测值的平均值，从所述多组目标第二候选超参数配置中确定出m个目标第二候选超参数配置，m1为正整数。5.根据权利要求4所述的方法，其特征在于，所述基于所述n个目标第一候选超参数配置以及所述m个目标第二候选超参数配置、所述训练样本数据以及所述机器学习模型确定出所述机器学习模型的目标超参数配置包括：获取所述机器学习模型基于所述训练样本数据、所述n个目标第一候选超参数配置以及所述m个目标第二候选超参数配置进行机器学习得到的各目标第一候选超参数配置对应的第二奖励参量以及各目标第二候选超参数配置对应的第二奖励参量；从所述n个目标第一候选...

【专利技术属性】
技术研发人员：史仪男，王晓利，赵明军，鲁舢，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：