图像处理及模型蒸馏训练方法、装置、设备及存储介质制造方法及图纸

本公开提供了图像处理及模型蒸馏训练方法、装置、设备及存储介质，涉及计算机视觉、深度学习以及大模型等人工智能领域。其中的图像处理方法可包括：获取待处理图像；将待处理图像输入任务处理模型，得到输出的任务处理结果；其中，任务处理模型为通过蒸馏训练得到的，训练过程中，任务处理模型作为学生模型，利用确定出的综合损失函数进行参数更新，所述综合损失函数为根据图像特征、文本特征以及预先训练得到的扩散模型中的去噪函数确定出的，所述图像特征为将训练图像输入学生模型后得到的训练图像对应的图像特征，所述文本特征为训练图像对应的文本的文本特征，所述文本用于描述训练图像的图像内容。

【技术实现步骤摘要】

本公开涉及人工智能，特别涉及计算机视觉、深度学习以及大模型等领域的图像处理及模型蒸馏训练方法、装置、设备及存储介质。

技术介绍

1、蒸馏训练是一种模型压缩技术，旨在将一个复杂的大模型的知识转移到一个相对简单的小模型中，从而使得小模型能够以较小的规模进行推理，并尽可能地保持与大模型相似的性能。其中，大模型通常称为教师(teacher)模型，小模型通常称为学生(student)模型。

技术实现思路

1、本公开提供了图像处理及模型蒸馏训练方法、装置、设备及存储介质。

2、一种图像处理方法，包括：

3、获取待处理图像；

4、将所述待处理图像输入任务处理模型，得到输出的任务处理结果；其中，所述任务处理模型为通过蒸馏训练得到的，训练过程中，所述任务处理模型作为学生模型，利用确定出的综合损失函数进行参数更新，所述综合损失函数为根据图像特征、文本特征以及预先训练得到的扩散模型中的去噪函数确定出的，所述图像特征为将训练图像输入所述学生模型后得到的所述训练图像对应的图像特征，所述文本特征为所述本文档来自技高网...

【技术保护点】

1.一种图像处理方法，包括：

2.根据权利要求1所述的方法，还包括：

3.根据权利要求2所述的方法，其中，

4.根据权利要求3所述的方法，其中，

5.一种模型蒸馏训练方法，包括：

6.根据权利要求5所述的方法，其中，

7.根据权利要求5或6所述的方法，其中，

8.根据权利要求7所述的方法，其中，

9.根据权利要求8所述的方法，其中，

10.根据权利要求7所述的方法，其中，

11.一种图像处理装置，包括：图像获取模块以及图像处理模块；

12.根据权利要求11所...

【技术特征摘要】

1.一种图像处理方法，包括：

2.根据权利要求1所述的方法，还包括：

3.根据权利要求2所述的方法，其中，

4.根据权利要求3所述的方法，其中，

5.一种模型蒸馏训练方法，包括：

6.根据权利要求5所述的方法，其中，

7.根据权利要求5或6所述的方法，其中，

8.根据权利要求7所述的方法，其中，

9.根据权利要求8所述的方法，其中，

10.根据权利要求7所述的方法，其中，

11.一种图像处理装置，包括：图像获取模块以及图像处理模块；

12.根据权利要求11所述的装置，还包括：

13.根据权利要求12所述的装置，其中，

14.根据权利要求13所述的装...

【专利技术属性】
技术研发人员：杨馥魁，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：