基于超参数智能寻优的感知模型自推荐方法及装置制造方法及图纸

基于超参数智能寻优的感知模型自推荐方法及装置，大大提升了超参数优化过程中的计算效率与吞吐量，允许模型在大规模数据集和复杂任务中快速迭代，降低了对计算资源的依赖，从而满足了现代AI系统对于高效能和快速响应的需求，显著加速了超参数搜索进程，减少了实际训练开销，使得优化过程更加灵活经济，有助于在有限的时间和资源下探索更广阔的超参数空间。方法包括：(1)设计基于Transformer编码器的策略网络；(2)构建目标性能预测模型；(3)采用近端策略优化算法进行超参数优化。

【技术实现步骤摘要】

本专利技术涉及人工智能的，尤其涉及一种基于超参数智能寻优的感知模型自推荐方法，以及基于超参数智能寻优的感知模型自推荐装置。

技术介绍

1、在当今的ai
，深度学习模型已广泛应用于图像识别、语音处理、自然语言理解等多个方面，其中感知模型作为核心组件，在目标检测、语义分割、场景理解等任务中发挥着至关重要的作用。随着数据规模的增长和应用场景的多样化，如何高效地优化这些模型的超参数，以达到最佳性能表现，成为了一个亟待解决的关键问题。超参数优化是一个资源密集型过程，传统方法如网格搜索、随机搜索不仅耗时长，而且效率低下，难以应对大规模模型和复杂任务的需求。

2、近年来，强化学习作为一种自适应策略搜索方法，在超参数优化领域展现出巨大潜力。尤其是深度强化学习(drl)技术，通过构建智能体与环境交互的学习框架，能够自动探索优化空间，寻找最优配置。proximal policy optimization(ppo)算法作为drl中的代表，因其稳健性和高效性，被广泛应用于超参数调优任务中。例如，陈森朋等人在《基于强化学习的超参数优化方法》中通过设计lstm的策略本文档来自技高网...

【技术保护点】

1.基于超参数智能寻优的感知模型自推荐方法，其特征在于：该方法包括以下步骤：

2.根据权利要求1所述的基于超参数智能寻优的感知模型自推荐方法，其特征在于：所述步骤(1)中，多头自注意力机制包括：首先，输入序列经过线性变换生成查询向量Query、键向量Key和值向量Value；然后，计算查询向量与键向量的点积，并通过Softmax函数归一化，得到注意力权重；最后，将注意力权重与值向量相乘，得到加权后的输出表示。

3.根据权利要求2所述的基于超参数智能寻优的感知模型自推荐方法，其特征在于：所述步骤(1)中，在每个编码器层中，自注意力机制的输出通过一个位置独立的前馈神经...

【技术特征摘要】

1.基于超参数智能寻优的感知模型自推荐方法，其特征在于：该方法包括以下步骤：

2.根据权利要求1所述的基于超参数智能寻优的感知模型自推荐方法，其特征在于：所述步骤(1)中，多头自注意力机制包括：首先，输入序列经过线性变换生成查询向量query、键向量key和值向量value；然后，计算查询向量与键向量的点积，并通过softmax函数归一化，得到注意力权重；最后，将注意力权重与值向量相乘，得到加权后的输出表示。

3.根据权利要求2所述的基于超参数智能寻优的感知模型自推荐方法，其特征在于：所述步骤(1)中，在每个编码器层中，自注意力机制的输出通过一个位置独立的前馈神经网络进行处理，该网络由两个线性变换和一个relu激活函数组成。

4.根据权利要求3所述的基于超参数智能寻优的感知模型自推荐方法，其特征在于：所述步骤(1)中，残差连接通过将子层输入直接添加到输出，形成短连接路径，层归一化对每个子层的输出进行标准化处理。

5.根据权利要求4所述的基于超参数智能寻优的感知模型自推荐方法，其特征在于：所述步骤(2)中，输入表示方面，采用基于特征工程的编码方式，将超参数空间中的候选点转化为向量表示，对于每个超参数，首先定义其取值范围和步长，然后将取值进行归一化处理...

【专利技术属性】
技术研发人员：张彤，李帅衡，白洋，郝创博，王宏君，梁瀚戈，王宇浩，薛铸鑫，姚帅，
申请(专利权)人：北京京航计算通讯研究所，
类型：发明
国别省市：