【技术实现步骤摘要】
本专利技术涉及的是一种神经网络应用领域的技术,具体是一种面向小样本学习基于预训练的贝叶斯集成图像分类方法及系统。
技术介绍
1、小样本图像分类是计算机视觉领域的一个基本任务,近些年来,使用视觉预训练模型已经逐渐成为解决小样本图像分类问题的主流范式。然而,现有的基于视觉预训练模型的方法通常无法灵活地集成其他可能包含互补先验信息的预训练模型,并且不能提供准确的不确定性估计。
技术实现思路
1、本专利技术针对现有技术需要消耗大量的时间和计算资源的不足,提出一种基于预训练的贝叶斯集成图像分类方法及系统,在多个小样本图像分类任务中取得非常理想的分类性能提升的同时,具有更好的的鲁棒性和泛化性,能够在预测图像类别的同时给出预测的不确定性估计。
2、本专利技术是通过以下技术方案实现的:
3、本专利技术涉及一种基于预训练的贝叶斯集成图像分类方法,以高斯过程回归模型作为建模框架,将预训练的clip模型与用于小样本图像分类的预训练模型相结合并进行模型训练,用零样本clip分类器指定高斯过
...【技术保护点】
1.一种基于预训练的贝叶斯集成图像分类方法,其特征在于,基于预训练的贝叶斯集成图像分类方法,以高斯过程回归模型作为建模框架,将预训练的CLIP模型与用于小样本图像分类的预训练模型相结合并进行模型训练,用零样本CLIP分类器指定高斯过程的先验均值函数模块,通过最大化对数边际似然或对数预测似然优化高斯过程中的超参数,完成模型的训练;最后把训练得到的高斯过程用于图像分类以完成小样本图像分类任务,并获得对预测的结果的不确定性估计。
2.根据权利要求1所述的基于预训练的贝叶斯集成图像分类方法,其特征是,所述的结合是指:将基于高斯过程回归模型的建模框架的核函数定义为多
...【技术特征摘要】
1.一种基于预训练的贝叶斯集成图像分类方法,其特征在于,基于预训练的贝叶斯集成图像分类方法,以高斯过程回归模型作为建模框架,将预训练的clip模型与用于小样本图像分类的预训练模型相结合并进行模型训练,用零样本clip分类器指定高斯过程的先验均值函数模块,通过最大化对数边际似然或对数预测似然优化高斯过程中的超参数,完成模型的训练;最后把训练得到的高斯过程用于图像分类以完成小样本图像分类任务,并获得对预测的结果的不确定性估计。
2.根据权利要求1所述的基于预训练的贝叶斯集成图像分类方法,其特征是,所述的结合是指:将基于高斯过程回归模型的建模框架的核函数定义为多个预训练模型初始化的核函数的加和,从而将多个预训练模型融合。
3.根据权利要求1或2所述的基于预训练的贝叶斯集成图像分类方法,其特征是,所述的高斯过程回归模型具体为:其中:x和x'为不同图像经过预训练模型提取出来的特征,表示高斯过程,m(x)为高斯过程的先验均值函数模块,k(x,x')为高斯过程的核函数模块,f(x)表示高斯过程回归模型的预测结果,该模型通过参考训练样本来对新数据做预测,类似于人类处理任务的方式,高斯过程对应的高斯似然为其中:σ2为噪声的方差,i为单位矩阵,y(x)为训练样本的标签,表示高斯分布,用{x,y}表示训练数据集,x为样本,y为样本标签,函数f*对新的待预测数据点x*的预测分布为其中:表示预测分布的期望,即均值,表示预测分布的协方差,即核函数,和分别表示对训练数据x和待预测数据x*的均值函数的估计,和表示对训练数据x和待预测...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。