一种性能预测方法技术

本申请提供一种性能预测方法

【技术实现步骤摘要】
一种性能预测方法、装置及设备


[0001]本申请涉及图像处理
，尤其是一种性能预测方法
、
装置及设备
。

技术介绍

[0002]随着人工智能技术的快速发展，
AI(Artificial Intelligence
，人工智能
)
开放平台作为一种新型技术服务模式，逐渐受到各行各业的关注和应用
。AI
开放平台是指提供人工智能技术服务的平台，可以让开发者或者企业方便地调用
AI
能力，实现智能化的应用或者解决方案
。AI
开放平台有很多种类，如基于语音
、
图像
、
自然语言处理等不同领域的
AI
开放平台，也有基于不同行业或者场景的
AI
开放平台
。AI
开放平台可以帮助用户快速构建和部署网络模型，从而提高网络模型的开发效率，降低网络模型的开发难度，提高网络模型的准确度
。
[0003]AI
开放平台可以基于用户需求构建网络模型，并本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种性能预测方法，其特征在于，所述方法包括：获取目标业务对应的目标编排方案对应的全局特征；其中，所述目标编排方案包括所述目标业务关联的多个目标功能节点
、
所述目标业务关联的目标帧率
、
所述目标业务关联的硬件平台类型；对所述全局特征和已获取的本地特征进行特征拼接得到输入特征；其中，所述本地特征包括所有功能节点的所述硬件平台类型对应的性能特征；获取所述输入特征对应的目标特征，基于所述目标特征进行性能预测得到性能预测结果，并基于所述性能预测结果确定所述目标业务对应的目标网络模型的性能指标，所述性能指标用于控制所述目标网络模型的图像处理过程
。2.
根据权利要求1所述的方法，其特征在于，所述对所述全局特征和已获取的本地特征进行特征拼接得到输入特征之前，所述方法还包括：针对特征库中每个功能节点，在第一硬件平台运行该功能节点对应的功能子模型，收集运行过程中的性能数据，所述第一硬件平台是任一硬件平台；基于运行过程中的性能数据确定该功能节点的与所述第一硬件平台的硬件平台类型对应的性能特征，并在所述特征库中记录该功能节点
、
所述第一硬件平台的硬件平台类型与该性能特征之间的对应关系
。3.
根据权利要求1所述的方法，其特征在于，所述获取所述输入特征对应的目标特征，基于所述目标特征进行性能预测得到性能预测结果，包括：若已训练的性能预测模型包括特征提取子网络
、
权重学习子网络和耗时预测子网络，则将所述输入特征输入给所述特征提取子网络得到编码特征向量；将所述编码特征向量输入给所述权重学习子网络得到所述编码特征向量对应的加权系数，并基于所述编码特征向量和所述加权系数生成所述目标特征；将所述目标特征输入给所述耗时预测子网络，由所述耗时预测子网络基于所述目标特征进行性能预测，得到所述输入特征对应的性能预测结果
。4.
根据权利要求3所述的方法，其特征在于，所述方法还包括：在得到已训练的性能预测模型之后，获取
N
组样本编排方案和每组样本编排方案的标签信息，所述
N
为正整数；其中，所述标签信息包括该样本编排方案对应的样本功能节点处理一帧图像的真实耗时；针对每组样本编排方案，对该样本编排方案对应的全局特征和本地特征进行特征拼接得到输入特征，将输入特征输入给性能预测模型得到性能预测结果，所述性能预测结果包括样本功能节点处理一帧图像的
M
个样本耗时；对所述
M
个样本耗时进行排序，并基于排序结果选取样本耗时大的
K
个样本耗时，
M
为正整数，
K
为正整数，且
K
小于或者等于
M
；基于每组样本编排方案对应的比较结果确定预测命中率和预测平均精确率；其中，比较结果是
K
个样本耗时与
K
个样本耗时对应的真实耗时的比较结果；若所述预测命中率大于第一阈值，所述预测平均精确率大于第二阈值，则部署所述性能预测模型，否则，重新训练性能预测模型
。5.
根据权利要求1所述的方法，其特征在于，所述基于所述性能预测结果确定所述目标业务对应的目标网络模型的性能指标，包括：
若所述性能预测结果为目标功能节点处理一帧图像的
M
个目标耗时，
M
为正整数，所述性能指标为目标网络模型的最大并行路数，则基于所述目标帧率和所述
M
个目标耗时确定所述最大并行路数，所述最大并行路数用于控制所述目标网络模型采用未超出所述最大并行路数的并行路数进行图像处理；或，若所述性能预测结果为目标功能节点处理一帧图像的
M
个目标耗时，所述性能指标为目标网络模型的最大帧率，则基于所述目标网络模型的已配置的最大并行路数和所述
M
个目标耗时确定所述最大帧率，所述最大帧率用于控制所述目标网络模型采用未超出所述最大帧率的帧率进行图像处理
。6.
根据权利要求5所述的方法，其特征在于，所述基于所述目标帧率和所述
M
个目标耗时确定所述最大并行路数，包括：从并行路数集合中遍历一个候选并行路数作为当前并行路数，所述并行路数集合包括按照从大到小的顺序排列的多个候选并行路数；基于所述当前并行路数和所述目标帧率确定参考耗时；统计目标功能节点对应的
M
个目标耗时中大于所述参考耗时的数量；若基于所述数量确定该目标功能节点满足收敛条件，则将所述当前并行路数确定为该目标功能节点的最大并行路数；否则，从所述并行路数集合中遍历所述当前并行路数的后一个候选并行路数作为当前并行路数，并返回执行基于所述当前并行路数和所述目标帧率确定参考耗时的操作；基于每个目标功能节点的最大并行路数，将所有目标功能节点的最大并行路数的最小值确定为所述目标网络模型的最大并行路数
。7.
根据权利要求5所述的方法，其特征在于，所述基于所述目标网络模型的已配置的最大并行路数和所述
M
个目标耗时确定所述最大帧率，包括：从帧率集合中遍历一个候选帧率作为当前帧率，帧率集合包括按照从大到小顺序排列的多个候选帧率，基于最大并行路数和当前帧率确定参考耗时；统计目标功能节点对应的
M
个目标耗时中大于所述参考耗时的数量；若基于所述数量确定该目标功能节点满足收敛条件，将当前帧率确定为该目标功能节点的最大帧率；否则，从帧率集合中遍历当前帧率的后一个候选帧率作为当前帧率，返回执行基于最大并行路数和当前帧率确定参考耗时的操作；基于每个目标功能节点的最大帧率，将所有目标功能节点的最大帧率的最小值确定为所述目标网络模型对应...

【专利技术属性】
技术研发人员：朱海瑞，郭金康，陈晓，
申请(专利权)人：杭州海康威视数字技术股份有限公司，
类型：发明
国别省市：