【技术实现步骤摘要】
一种非标准场景下的任务复杂度评估方法及终端
[0001]本专利技术涉及AI模型评估
,尤其是涉及一种非标准场景下的任务复杂度评估方法及终端。
技术介绍
[0002]常规AI任务(如人、车等常规目标检测)全流程可以概括为数据收集和预处理、模型选择和设计、模型训练和优化以及模型评估和验证这几个步骤。
[0003]其中,模型的选择需要根据任务的性质和需求选择合适的AI模型,后续还需要对选择的模型进行评估,现有对任务以及产出模型的评估手段主要分为:试验参数以及实际工程表现,但在一些细分场景或特定目标对象任务中(如:环保、水利等颗粒度较高的非标准场景环境下),现有任务收到区域、样本、外界环境等多方因素影响,仅靠上述手段评估出任务的工程量以及产出模型能力的实际参考意义并不大,缺乏具有说服力的量化标准。现有非标准场景下基于AI模型的评估体系存在的缺点可概括如下:
[0004]缺点1:素材多样性和复杂性,非标准样本集通常包含了各种不同的物体、场景和环境条件,相比于传统的人、车检测样本集,非标准样本集更具有多样性和复杂性,包括各种形状、尺寸、颜色、纹理等。
[0005]缺点2:数据样本不均衡,相对于传统标准场景下的样本集,非标准样本集的数据通常更加稀缺和有限。
[0006]缺点2:任务工程复杂度模糊,缺乏相应的量化指标对其算法和工程复杂度进行描述。
[0007]缺点3:模型交付质量缺乏量化评价标准。
技术实现思路
[0008]本专利技术所要解决的技术问题是:提供一种非标准场 ...
【技术保护点】
【技术特征摘要】
1.一种非标准场景下的任务复杂度评估方法,其特征在于,包括步骤:S1、预先采用量化参数构建一个线性任务复杂度评估指标函数的回归模型;S2、接收现有任务,选取所述现有任务中的图像对比度、目标占比和图像分辨率作为三个聚类指标,拟合所述回归模型,得到所述量化参数的回归系数预测值;S3、根据多次拟合结果不断细化所述回归系数预测值,得到最佳回归系数,并更新所述回归模型;S4、采用更新后的所述回归模型进行任务复杂度评估。2.根据权利要求1所述的一种非标准场景下的任务复杂度评估方法,其特征在于,所述量化参数包括实验参数、环境参数和工程参数三类参数;所述实验参数包括准确性Accuracy、精确度Precision、召回率Recall和F1分数F1Score,所述准确性用于衡量模型在所有预测样本中的正确率,所述精确度用于衡量模型在所有预测为正类样本中的正确率,所述召回率用于衡量模型在所有实际为正类样本中预测正确的比例,所述F1分数用于平衡精确度和召回率之间的关系;所述环境参数包括场景Scene和任务类型TaskType;所述工程参数包括样本data、样本均衡度balance、人工标注耗时time和模型迭代周期cycle。3.根据权利要求2所述的一种非标准场景下的任务复杂度评估方法,其特征在于,所述回归模型如下公式(1):Y=β0+β1
×
Accuracy+β2
×
Precision+β3
×
Recall+β4
×
F1Score+β5
×
Scene+β6
×
TaskType+β7
×
data+β8
×
balance+β9
×
time+β10
×
cycle(1);其中Y为任务复杂度,β0~β10分别为各所述量化参数的回归系数。4.根据权利要求3所述的一种非标准场景下的任务复杂度评估方法,其特征在于,所述步骤S2具体为:S21、接收现有任务,将所述现有任务的图像对比度、目标占比和图像分辨率的数值归一化到0~100的范围内;S22、使用聚类算法对所述现有任务进行聚类分析,根据所述图像对比度、所述目标占比和所述图像分辨率的数值进行聚类,并为各所述现有任务分配一个聚类标签;S23、将每个聚类对应的所述现有任务中的所述图像对比度、所述目标占比和所述图像分辨率作为自变量,将每个聚类对应的所述现有任务中的实际所述量化参数作为因变量,输入到所述回归模型中,拟合得到各聚类对应的所述回归模型中各所述量化参数的回归系数预测值。5.根据权利要求4所述的一种非标准场景下的任务复杂度评估方法,其特征在于,所述步骤S21中将所述现有任务的图像对比度、目标占比和图像分辨率的数值归一化到0~100的范围内,具体为:所述图像对比度的归一化如下公式(2):其中,|Color|为图像对比度,m为类别,RGB
bbox_mean
为图像边界框上的所有像素点的像
素平均值,RGB
img_mean
为图像边界框内的所有像素点的像素平均值;所述目标占比的归一化如下公式(3):其中,|Shape|为目标占比,bbox_size为目标图像边界框的图上面积(长
×
宽),img_size为目标图像整张图的图上面积(长
×
宽),n为bbox的...
【专利技术属性】
技术研发人员:任飞,谢晓刚,杜康,
申请(专利权)人:福建万福信息技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。