【技术实现步骤摘要】
本申请涉及人工智能,尤其涉及一种图像处理方法、装置和存储介质。
技术介绍
1、随着人工智能(artificial intelligence,ai)技术的不断发展,基于自注意力变换模型(transformer)等的视觉模型在各种计算机视觉任务中显示出了越来越强大的能力,例如可用于图像分类、目标检测、语义分割等多项任务中。然而,这些视觉模型通常具有较大的参数量和计算量,在推理过程中需要大量内存以及算力支持,难以部署于资源有限的平台上。
2、因此,在实际应用中迫切需要对这些模型进行压缩。当前对模型进行量化(quantization)时,通常是针对卷积神经网络(convolutional neural networks,cnn)进行量化,或者,对transformer模型进行量化,但得到的量化模型的精度不高。因此,亟需新型的方法以得到更高压缩比且性能更优的量化模型,以降低对部署模型的平台的要求,便于对图像数据等进行处理。
技术实现思路
1、有鉴于此,提出了一种图像处理方法、装置和存储介
2本文档来自技高网...
【技术保护点】
1.一种图像处理方法,其特征在于,所述方法用于第一神经网络模型,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述根据所述量化后的第一特征数据、所述量化后的第二特征数据和所述量化后的第三特征数据,确定所述图像数据的预测结果,包括:
3.根据权利要求1或2所述的方法,其特征在于,所述第一参数包括第一子参数和第二子参数,所述第二参数包括第三子参数和第四子参数,所述利用第一参数和第二参数,分别对所述第一特征数据和所述第二特征数据进行调整,得到调整后的第一特征数据和调整后的第二特征数据,包括:
4.根据权利要求1-3任一项所述的
...【技术特征摘要】
1.一种图像处理方法,其特征在于,所述方法用于第一神经网络模型,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述根据所述量化后的第一特征数据、所述量化后的第二特征数据和所述量化后的第三特征数据,确定所述图像数据的预测结果,包括:
3.根据权利要求1或2所述的方法,其特征在于,所述第一参数包括第一子参数和第二子参数,所述第二参数包括第三子参数和第四子参数,所述利用第一参数和第二参数,分别对所述第一特征数据和所述第二特征数据进行调整,得到调整后的第一特征数据和调整后的第二特征数据,包括:
4.根据权利要求1-3任一项所述的方法,其特征在于,所述第二参数为更新后的第二参数,所述方法还包括:
5.根据权利要求4所述的方法,其特征在于,所述第一优化目标包括使所述第五特征数据和所述第六特征数据对应的信息熵最大化。
6.根据权利要求4或5所述的方法,其特征在于,所述第一参数为优化后的第一参数,所述第二参数为优化后的第二参数,所述第一神经网络模型为量化后的第一神经网络模型,所述方法还包括:
7.根据权利要求6所述的方法,其特征在于,所述根据所述第二神经网络模型和初始的第一神经网络模型,确定所述初始的第一神经网络模型对应的第二优化目标和第三优化目标,包括:
8.根据权利要求6或7所述的方法,其特征在于,所述根据所述第二神经网络模型和初始的第一神经网络模型,确定所述初始的第一神经网络模型对应的第二优化目标和第三优化目标,包括:
9.根据权利要求1-8任一项所述的方法,其特征在于,所述第一神经网络模型为自注意力变换transformer模型。
10.一种图像处理装置,其特征...
【专利技术属性】
技术研发人员:刘传建,韩凯,王云鹤,李炎静,张宝昌,
申请(专利权)人:华为技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。