【技术实现步骤摘要】
本专利技术涉及人工智能和信息检索，具体一种大规模细粒度哈希算法利用自适应放松函数进行优化训练的方法。
技术介绍
1、细粒度检索图像的主要任务是搜索包含多重语义关系的图像，其相对于同类图像检索，细粒度图像检索更符合用户需求。细粒度级别检索图像需要提取和表示图像(对象)内部的细微差异和复杂细节，这成为一项复杂但实用的任务。
2、细粒度哈希算法，作为细粒度检索图像的一种主要方法，由于其在存储和检索效率方面的性能出色，在解决上述问题发挥了作用。使用细粒度哈希算法的主流涉及到植根于深度学习的端到端模型的构建，主要目标是将图像和对象压缩为紧凑符号的哈希函数，这也被称为深度哈希。深度哈希用于大规模细粒度图像检索的哈希学习的主要目标是发现一个高效有用的函数它将输入图像映射为{-1,+1}k中长度为k的二进制代码。深度哈希的目的是保证来自同一细粒度类别的图像以最小的汉明距离被分配不同的哈希码。初步建立了为哈希函数生成而设计的典型深度神经网络的基本定义和符号，如图1所示，为一般的哈希算法模型结构，由3部分组成：一个基于卷积神经网络的特征提取器θcnn(i|θ)，用于对输入图像提取相应的深度特征图m；一个基于神经网络的哈希描述模块φhash(m|φ)，用于将深度特征图投影为哈希特征h；以及符号函数sgn(·),
3、
4、将浮点型的哈希描述转换为二值哈希码u。然而，由于符号函数sgn(·)不连续不可导，因此无法应用于深度神经网络的训练过程。
5、为了得到近似的效果，目前常对符号函数sgn(·)进行放松，
6、如图2所示。
7、由于放松函数tanh(·)是连续且可导的，因此在哈希算法的训练阶段，整个深度神经网络模型可以利用链式法则计算模型各层参数{θ,φ}的偏导，从而实现深度神经网络模型的参数优化。然而，放松函数tanh(·)是梯度饱和函数，在梯度饱和区间的导数值接近于0，不利于哈希算法中深度神经网络的训练，因此需要考虑探索更合适的放松函数。
技术实现思路
1、有鉴于此，本专利技术目的是为了解决上述放松函数饱和区间不利于深度神经网络训练的问题，提供了一种大规模细粒度哈希算法利用自适应放松函数进行优化训练的方法，即在哈希算法训练阶段，可以根据训练参数配置和训练过程发展，动态调整自身的状态的自适应放松函数，促使深度神经网络快速训练和更好地收敛，从而增强深度神经网络模型提取哈希码描述判别能力，提升哈希算法的性能。
2、为了解决上述技术问题，本专利技术的技术方案是：大规模细粒度哈希算法利用自适应放松函数进行优化训练的方法，
3、(1)定义长度为k的哈希码u，将待检索的细粒度图像ⅰ输入到cnn特征提取器中，表示为θcnn(i|θ)，并输出特征m；
4、(2)将特征m输入到哈希描述网络模块中，表示为φhash(m|φ)，并输出哈希特征h；
5、(3)哈希特征h输入到设置的自适应放松函数adaptanh(·)中,
6、
7、其中adaptanh(·)为tanh(·)的变体，λ为一个自适应的可学习的用于调整放松函数梯度饱和区间范围的权重参数，所述权重参数λ的作用是调整放松函数tanh(·)梯度饱和区间的范围，并可输出哈希值u；
8、(4)其中将(3)中的adaptanh(h)根据链式法则，对输入的哈希特征h和权重参数λ进行偏导计算：
9、
10、
11、得到一个可学习的权重参数λ，所述权重参数λ可在训练阶段动态变化，实现动态调整放松函数状态，利于深度神经网络的训练；
12、(5)将一个所述哈希算法模型可定义为其中是cnn特征提取器θcnn(i|θ)的参数和哈希描述网络模块φhash(m|φ)的参数的组合表示；
13、(6)给定训练集其中为图像集合，为图像集合相对应的标签集合；
14、(7)给定训练集的子集查询集可根据查询集标签与训练集的标签计算相似度关系标签矩阵s：
15、
16、(8)设计一个有效的训练目标函数lhash：
17、
18、(9)由(4)和(8)得到针对细粒度哈希算法的优化函数：
19、
20、(10)根据(6)的训练集采样得到多轮(7)的查询集再利用(9)进行优化迭代后，可得到合适的模型参数的集合{θ,φ,λ}*；
21、(11)将模型参数的集合{θ,φ,λ}*输入到(1)-(3)的过程，输出优化后的哈希值u。
22、本专利技术的技术效果为：通过建立可学习权重参数，构建自适应放松函数，继而以自适应的方式动态调整权重参数的值，促使哈希算法中的深度神经网络即cnn特征提取器和哈希描述网络模块中参数共同充分地训练，最终有效增强深度神经网络模型提取哈希码描述判别能力，提升哈希算法的性能。
本文档来自技高网...【技术保护点】
1.一种大规模细粒度哈希算法利用自适应放松函数进行优化训练的方法，其特征在于：
【技术特征摘要】
1.一种大规模细粒度哈希算法利用自适应放...
【专利技术属性】
技术研发人员：曾宪贤，刘舜，周捷，袁君，陈荣军，王磊军，黎嘉文，吕巨建，胡翔磊，
申请(专利权)人：广东技术师范大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。