基于服务器的数据处理方法、系统、装置、介质及产品制造方法及图纸

技术编号:42103364 阅读:31 留言:0更新日期:2024-07-25 00:28
本发明专利技术公开了一种基于服务器的数据处理方法、系统、装置、介质及产品,涉及数据处理的领域,解决确定模型时忽略服务器的指标参数的问题。预先构建第一神经网络模型并运行在不同指标参数的服务器上得到第一性能评估参数;根据第一性能评估参数、服务器的指标参数对第二神经网络模型进行训练得到硬件算力评估模型;根据预测到的当前服务器的第二性能评估参数和第三神经网络模型的模型参数构建目标函数,对第三神经网络模型进行优化得到目标神经网络模型。本发明专利技术考虑了服务器的指标参数对第三神经网络模型的影响,使得确定的目标神经网络模型更适合应用于具体的服务器,提高了神经网络模型在不同服务器上运行时的最佳性能。

【技术实现步骤摘要】

本专利技术涉及数据处理领域,特别涉及一种基于服务器的数据处理方法、系统、装置、介质及产品


技术介绍

1、神经架构搜索(neural architecture search,nas)是一种自动化的模型设计方法,旨在替代传统的手动网络设计。神经架构搜索使用机器学习算法来寻找最优的神经网络结构,其核心思想是在预先定义的搜索空间内,搜索性能最优的神经网络结构。这种方法可以帮助人们更快速地设计和优化神经网络,从而提高模型的性能和效率。

2、目前,随着不同类型的硬件设备被用于运行神经网络,学术界和工业界都迫切需要研究更具挑战性的硬件感知的神经架构搜索问题。这意味着需要考虑硬件特性对神经网络结构的影响,并寻求在不同硬件上运行时的最佳性能。

3、然而,现有研究大多采用硬件无关的度量标准,这种做法忽略了硬件无关的度量标准和在真实硬件上测量出的实际效率之间的不一致,可能导致搜索到的神经网络结构与其应用的硬件的匹配度较低。


技术实现思路

1、本专利技术的目的是提供一种基于服务器的数据处理方法、系统、装置、本文档来自技高网...

【技术保护点】

1.一种基于服务器的数据处理方法,其特征在于,包括:

2.如权利要求1所述的基于服务器的数据处理方法,其特征在于,分别将若干个所述第一神经网络模型运行在不同指标参数的服务器上,得到若干个第一性能评估参数,包括:

3.如权利要求2所述的基于服务器的数据处理方法,其特征在于,对各个服务器的指标参数进行编码,并使用编码后的服务器的指标参数、通道数与所述第一延迟时间对所述第二神经网络模型进行训练,得到所述硬件算力评估模型,包括:

4.如权利要求3所述的基于服务器的数据处理方法,其特征在于,根据所述中间权重与所述第三向量确定所述硬件算力评估模型输出的预测参数,包...

【技术特征摘要】

1.一种基于服务器的数据处理方法,其特征在于,包括:

2.如权利要求1所述的基于服务器的数据处理方法,其特征在于,分别将若干个所述第一神经网络模型运行在不同指标参数的服务器上,得到若干个第一性能评估参数,包括:

3.如权利要求2所述的基于服务器的数据处理方法,其特征在于,对各个服务器的指标参数进行编码,并使用编码后的服务器的指标参数、通道数与所述第一延迟时间对所述第二神经网络模型进行训练,得到所述硬件算力评估模型,包括:

4.如权利要求3所述的基于服务器的数据处理方法,其特征在于,根据所述中间权重与所述第三向量确定所述硬件算力评估模型输出的预测参数,包括:

5.如权利要求3所述的基于服务器的数据处理方法,其特征在于,利用注意力机制计算所述第一向量和所述第二向量的相似度,得到注意力权重,包括:

6.如权利要求3所述的基于服务器的数据处理方法,其特征在于,对各个服务器的指标参数进行编码,并使用编码后的服务器的指标参数、通道数与所述第一延迟时间对所述第二神经网络模型进行训练,得到所述硬件算力评估模型,包括:

7.如权利要求1所述的基于服务器的数据处理方法,其特征在于,预先构建若干个第一神经网络模型,包括:

8.如权利要求7所述的基于服务器的数据处理方法,其特征在于,预先设定目标搜索空间,包括:

9.如权利要求7所述的基于服务器的数据处理方法,其特征在于,所述目标搜索空间中网络层与网络层之间的连接关系至少包括并行连接,和/或,交换连接,和/或,融合连接;

10.如权利要求1-9任一项所述的基于服务器的数据处理方法,其特征在于,将当前服务器的...

【专利技术属性】
技术研发人员:张英杰史宏志温东超赵健
申请(专利权)人:苏州元脑智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1