一种动态领域自适应方法、设备及计算机可读存储介质技术

本发明专利技术公开了一种动态领域自适应方法、设备及计算机可读存储介质，包括以下步骤：基于原始图像数据获取源域数据集和目标域数据集；基于源域数据集定义用于图像识别的卷积神经网络的各层级参数，并在卷积神经网络中全连接层中的输出层之前加入自适应层；计算卷积神经网络的自适应损失LMMD；基于自适应损失LMMD修改卷积神经网络的各层级参数，得到调整后的卷积神经网络；将目标域数据集代入调整后的卷积神经网络，获取图像数据识别的输出结果。本发明专利技术还同时公开了一种动态领域自适应设备及计算机可读存储介质。

A Dynamic Domain Adaptive Method, Equipment and Computer Readable Storage Media

【技术实现步骤摘要】
一种动态领域自适应方法、设备及计算机可读存储介质
本专利技术涉及卷积神经网络
，尤其涉及一种动态领域自适应方法、设备及计算机可读存储介质。
技术介绍
卷积神经网络(ConvolutionalNeuralNetworks，CNN)是一类包含卷积计算且具有深度结构的前馈神经网络(Feed-forwardNeuralNetworks)，是深度学习(deeplearning)领域的核心算法之一。卷积神经网络主要包含以下几个部分：(1)局部感知。以图像为例，图像的空间联系中局部的像素相关性较强，而距离较远的像素相关性则较弱；因此，每个神经元其实只需对局部区域进行感知，而不需要对全局图像进行感知。(2)权值共享。卷积神经网络中相同的卷积核的权值和偏置值是一样的。同一种卷积核按照某种顺序对图像进行卷积操作，卷积后得到的所有神经元都是使用同一个卷积核区卷积图像的，都是共享连接参数。因此，权值共享减少了卷积神经网络的参数数量。(3)卷积，利用卷积核对图像进行特征提取。卷积过程就是一个减少参数数量的过程，其中最重要的参数就是卷积核的大小、步长设计和输入数量选取，输入量越多提取的特征越多，但网络的复杂度也增加，容易出现过拟合的问题。卷积核的大小影响网络结构的识别能力，步长决定了提取的特征图像大小和特征个数。(4)池化。在卷积神经网络中，池化层一般在卷积层后，通过池化来降低卷积层输出的特征向量维数。池化过程最大程度的降低了图像的分辨率，同时降低了图像的处理维度，但又保留了图像的有效信息，降低了后面卷积层处理复杂度，大大降低了网络对图像旋转和平移的敏感性。一般采用的池化方法有两种：平均池化(meanpooling)和最大池化(maxpooling)。迁移学习(Transferlearning)，是指利用数据、任务、模型之间的相似性，将在旧领域学习过的模型，应用于新领域的一种学习过程。在传统分类学习中，为了保证训练得到的分类模型具有准确性和高可靠性，都有两个基本的假设：(1)用于学习的训练样本与新的测试样本满足独立同分布；(2)必须有足够可用的训练样本才能学习得到一个好的分类模型。然而，在实际应用中这两个条件往往难以满足。如何利用少量的有标签训练样本(或称为源领域数据)建立一个可靠的模型，对具有不同数据分布的目标领域进行预测，是现有的迁移学习领域需要解决的主要问题。
技术实现思路
本专利技术的目的在于提供一种应用于深度卷积神经网络中进行迁移学习的动态领域自适应方法，该方法能够动态变化损失函数中网络自适应损失部分的权重参数，从而提升迁移学习的速度和准确度。为了实现上述目的，本专利技术采用以下技术方案：第一方面，本专利技术公开一种动态领域自适应方法，包括以下步骤：基于原始图像数据获取源域数据集和目标域数据集；基于源域数据集定义用于图像识别的卷积神经网络的各层级参数，并在卷积神经网络的全连接层中的输出层之前加入自适应层；计算卷积神经网络的自适应损失LMMD；基于自适应损失LMMD修改卷积神经网络的各层级参数，得到调整后的卷积神经网络；将目标域数据集代入调整后的卷积神经网络，获取图像数据识别的输出结果。进一步地，卷积神经网络的各层级参数，具体包括：卷积神经网络的模型类别和总层数；卷积神经网络的卷积层参数、激活函数和池化层参数；卷积神经网络的全连接层参数和随机失活层参数。进一步地，卷积神经网络的模型类别，包括：AlexNet网络或VGGNet网络。进一步地，自适应损失LMMD的计算过程，包括：基于源域数据集与目标域数据集之间的最大均值差MMD计算自适应损失LMMD。进一步地，基于自适应损失LMMD调节卷积神经网络的各层级参数，包括：基于预设的常数C和神经网络的训练轮数epochi获取动态权重值λ；基于动态权重值λ、卷积神经网络在源域上的常用损失Lclassification和自适应损失LMMD获取卷积神经网络的最终损失L；当最终损失L大于预设期望值时，采用反向传播算法对卷积神经网络进行迭代训练，同时调整卷积神经网络的各层级参数；当卷积神经网络中隐含层和输出层的响应误差loss为不变的定值时，停止迭代训练；采用持久化方式将调整后的卷积神经网络存储于目标域数据的调用存储空间。进一步地，动态权重值λ的获取方法，包括：基于公式λ＝C·epochi计算动态权重值λ；其中，C为取值范围为0.01至0.03之间的常数，训练轮数epochi＝i，i为大于等于0的整数。第二方面，本专利技术公开一种动态领域自适应设备，包括：处理器、存储器和通信总线；其中，所述通信总线，用于实现所述处理器和所述存储器之间的通信连接；所述存储器，用于存储能够在所述处理器上运行的动态领域自适应方法程序；所述处理器，用于：基于原始图像数据获取源域数据集和目标域数据集；基于源域数据集定义用于图像识别的卷积神经网络的各层级参数，并在所述卷积神经网络的全连接层中的输出层之前加入自适应层；计算所述卷积神经网络的自适应损失LMMD；基于自适应损失LMMD调节所述卷积神经网络的各层级参数，得到调整后的卷积神经网络；将目标域数据集代入调整后的卷积神经网络，获取图像数据识别的输出结果。第三方面，本专利技术公开一种计算机可读存储介质，所述可读存储介质中存储有一个或者多个程序，所述一个或多个程序可被一个或者多个处理器执行，以实现第一方面中任意一项动态领域自适应方法的步骤。采用上述方案后，本专利技术的有益效果如下：(1)解决了现有技术的图像迁移识别过程中，当训练数据量不足以及训练数据与测试数据不同分布的情况下，迁移执行效果不好的问题。经实验测量，本专利技术实施例方案相较于静态权重参数的方法在准确率上提高了约5％并且收敛速度提高约20％，在迁移学习领域具有显著的提升。(2)解决了现有的深度迁移研究中，因为使用固定迁移权重参数，导致在迁移中求解不同期望时迁移权重参数的应用具有局限性的问题。(3)本专利技术方法使动态领域自适应方法能够在图像识别场景中得到实际应用，扩展了自适应方法的应用场景。附图说明为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本专利技术的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。图1为本专利技术实施例1提供的一种动态领域自适应方法流程示意图；图2为本专利技术实施例2提供的一种反向传播算法训练神经网络示意图；图3为本专利技术实施例3提供的一种动态领域自适应设备的硬件结构示意图。具体实施方式为了使本专利技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本专利技术进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本专利技术，并不用于限定本专利技术，即所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本专利技术实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本专利技术的实施例的详细描述并非旨在限制要求保护的本专利技术的范围，而是仅仅表示本专利技术的选定实施例。基于本专利技术的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本专利技术保护的范围。需要说明的是，术语“第一”和“第二”等之类的关系术语仅仅本文档来自技高网...

【技术保护点】
1.一种动态领域自适应方法，其特征在于，包括以下步骤：基于原始图像数据获取源域数据集和目标域数据集；基于源域数据集定义用于图像识别的卷积神经网络的各层级参数，并在所述卷积神经网络中全连接层的输出层之前加入自适应层；计算所述卷积神经网络的自适应损失LMMD；基于自适应损失LMMD调节所述卷积神经网络的各层级参数，得到调整后的卷积神经网络；将目标域数据集代入调整后的卷积神经网络，获取图像数据识别的输出结果。

【技术特征摘要】
1.一种动态领域自适应方法，其特征在于，包括以下步骤：基于原始图像数据获取源域数据集和目标域数据集；基于源域数据集定义用于图像识别的卷积神经网络的各层级参数，并在所述卷积神经网络中全连接层的输出层之前加入自适应层；计算所述卷积神经网络的自适应损失LMMD；基于自适应损失LMMD调节所述卷积神经网络的各层级参数，得到调整后的卷积神经网络；将目标域数据集代入调整后的卷积神经网络，获取图像数据识别的输出结果。2.根据权利要求1所述的动态领域自适应方法，其特征在于，所述卷积神经网络的各层级参数，包括：卷积神经网络的模型类别和总层数；卷积神经网络的卷积层参数、激活函数和池化层参数；卷积神经网络的全连接层参数和随机失活层参数。3.根据权利要求2所述的动态领域自适应方法，其特征在于，所述卷积神经网络的模型类别，包括：AlexNet网络或VGGNet网络。4.根据权利要求1所述的动态领域自适应方法，其特征在于，所述自适应损失LMMD的计算过程，包括：基于源域数据集与目标域数据集之间的最大均值差MMD计算自适应损失LMMD。5.根据权利要求1所述的动态领域自适应方法，其特征在于，所述基于自适应损失LMMD调节卷积神经网络的各层级参数，包括：基于预设的常数C和神经网络的训练轮数epochi获取动态权重值λ；基于动态权重值λ、卷积神经网络在源域上的常用损失Lclassification和自适应损失LMMD获取卷积神经网络的最终损失L；当最终损失L...

【专利技术属性】
技术研发人员：刘贵松，解修蕊，杨泽衡，张绍楷，占求港，
申请(专利权)人：电子科技大学中山学院，
类型：发明
国别省市：广东,44