一种对有效载荷鲁棒的图像隐写分析模型训练方法、分析方法及装置制造方法及图纸

本发明专利技术提供一种对有效载荷鲁棒的图像隐写分析模型训练方法、分析方法及装置，包括：基于不同嵌入率和隐写方法构建训练样本集；获取待训练的学生模型和预训练好的多个教师模型，将图像样本输入各教师模型，通过设有温度的Softmax函数输出第一置信度分数，构建BE损失和CE损失得到总损失，对于各图像样本根据总损失为教师模型分配权重，并根据权重将各教师模型的第一置信度分数加权求和，得到各图像样本的总软目标；对学生模型进行训练，将图像样本输入学生模型，得到第二置信度分数并匹配总软目标，并构建CE损失、距离损失和角度损失，优化学生模型，最终得到图像隐写分析模型。本发明专利技术提供的模型极大地提升了在存在嵌入率失配问题时的检测精度。题时的检测精度。题时的检测精度。

【技术实现步骤摘要】
一种对有效载荷鲁棒的图像隐写分析模型训练方法、分析方法及装置


[0001]本专利技术涉及图像隐写
，尤其涉及一种对有效载荷鲁棒的图像隐写分析模型训练方法、分析方法及装置。

技术介绍

[0002]图像隐写术是一种将秘密数据隐藏到数字图像中以保证嵌入数据安全的技术。图像隐写分析是一种旨在通过某种隐写算法检测隐藏在载体图像中的秘密数据的技术。一般来说，图像隐写分析主要分为两类方法：基于手工特征的隐写分析和基于深度学习的隐写分析。第一类方法旨在提取手工制作的特征，并依赖于获得的特征和分类器，如支持向量机来捕捉载体图像和隐写图像之间的统计差异。然而，这种方法需要分别处理特征提取和分类，因此不能以迭代的方式同时优化它们。相比之下，第二类方法侧重于从图像中自动学习层次表示(特征)并实现分类。由于其试图在统一的框架中优化特征提取和分类，近年来受到了越来越多的关注。
[0003]在第二类方法中，第一个深度隐写分析网络是TanNet，它在预训练期间使用堆叠卷积自动编码器。随后，QianNet在预训练过程中利用KV核，并采用平均池化和高斯激活函数来加快收敛速度。XuNet使用绝对激活层、批量归一化层和1
×
1的卷积核来提高检测精度。YeNet提出截断的线性单元激活函数，并首次将通道选择感知添加到训练过程中，实现了比两种典型的第一类方法更好的检测性能，例如空间丰富模型(SRM)及其变体SRMds。YedroudjNet结合XuNet和YeNet的优势，实现了比两者更好的性能。SRNet是第一个没有任何先验知识的深度隐写分析网络，它在训练前随机初始化所有网络参数，并利用残差结构来避免梯度消失的问题，在空域和JPEG域中都获得了优异的结果。ZhuNet在预处理层使用3
×
3和5
×
5的核来减少参数量，并利用深度可分离卷积和空间金字塔池化来进一步提高检测精度。CovpoolNet是第一个将全局协方差池化引入隐写分析的方法，它在缩短训练时间的同时提高性能。CCNet在噪声提取和噪声分析模块中引入通道注意机制，并在残差块中嵌入Squeeze
‑
and
‑
Excitation结构，以提高模型的泛化性能。
[0004]上述研究均是在隐写分析器已知隐写算法和嵌入率的假设下进行的。然而，在现实的场景中，模型测试期间使用的嵌入率是未知的，并且通常不同于训练期间使用的嵌入率。这种现象被称为嵌入率失配(PM)。一旦发生嵌入率失配，深度隐写分析网络就很难可靠地检测到嵌入数据的存在。特别是，随着失配程度的增加，深度隐写分析网络的检测精度会急剧下降。如今，研究人员已经逐渐意识到嵌入率失配对隐写分析器性能的影响。在第二类方法的一些工作中，如Lin等人、Wu等人和Ren等人都进行了嵌入率失配情况下的实验，以证明其提出网络的优越性，但仍然没有专注于解决嵌入率失配问题的工作。

技术实现思路

[0005]鉴于此，本专利技术实施例提供了一种对有效载荷鲁棒的图像隐写分析模型训练方
法、分析方法及装置，以消除或改善现有技术中存在的一个或更多个缺陷，解决由于嵌入率失配导致现有深度隐写分析网络检测精度低的问题。
[0006]一方面，本专利技术提供了一种对有效载荷鲁棒的图像隐写分析模型训练方法，其特征在于，该方法包括以下步骤：
[0007]获取原始图像，将所述原始图像平均分为第一预设数量份，基于不同嵌入率，采用预设隐写方法为每一份原始图像生成相应的隐写图像，以构建训练样本集，所述训练样本集包含多个图像样本，每个图像样本包含一张原始图像及其对应的隐写图像；为每个图像样本中的图像添加真实标签；
[0008]基于知识蒸馏方法，获取待训练的学生模型和预训练好的所述第一预设数量个教师模型；其中，所述教师模型采用BPDNet模型；每个教师模型对应不同的嵌入率，获取所述原始图像，在相应的嵌入率下采用所述预设隐写方法生成隐写图像，以构建各教师模型的训练集，将所述训练集中的图像样本输入所述教师模型提取特征，通过设有温度参数的Softmax函数输出所述图像样本的第一置信度分数；其中，所述教师模型需同等关注第二预设数量个载荷差信号；构建所述第一置信度分数和所述真实标签的BE损失和第一CE损失，得到所述教师模型的总损失，对于所述图像样本根据所述总损失为每个教师模型分配权重，并根据所述权重将各教师模型的第一置信度分数进行加权求和，得到所述图像样本的总软目标；
[0009]采用所述训练样本集对所述学生模型进行训练，将所述训练样本集中的图像样本输入所述学生模型，以得到所述图像样本的第二置信度分数；将所述第二置信度分数与总软目标进行匹配，以学习所述总软目标中的图像结构信息，所述图像结构信息包含图像之间的距离和角度；通过构建所述第二置信度分数和所述真实标签之间的第二CE损失，以及构建图像之间的距离损失和角度损失，优化所述学生模型；并将最终训练得到的学生模型作为图像隐写分析模型。
[0010]在本专利技术的一些实施例中，构建所述第一置信度分数和所述真实标签的BE损失和第一CE损失，所述BE损失的计算式为：
[0011][0012][0013]其中，表示所述BE损失；表示第k个教师模型在第i个图像样本上输出的属于第g类的第一置信度分数，g∈{1,2,...,G}；表示在整个批次内的第一置信度分数均值；B表示批量大小；G表示总类别数。
[0014]在本专利技术的一些实施例中，构建所述第一置信度分数和所述真实标签的BE损失和第一CE损失，所述第一CE损失的计算式为：
[0015][0016][0017]其中，表示所述第一CE损失；表示含有温度参数τ的Softmax函数；
表示第k个教师模型在第i个图像样本上输出的属于第g类的第一置信度分数，g∈{1,2,...,G}；y
i
表示所述真实标签；G表示总类别数。
[0018]在本专利技术的一些实施例中，根据所述BE损失和所述第一CE损失得到所述教师模型的总损失，所述总损失的计算式为：
[0019][0020]其中，表示所述总损失；表示所述第一CE损失；表示所述BE损失；μ为参数。
[0021]在本专利技术的一些实施例中，根据所述总损失在相应样本上为每个教师模型分配权重；根据所述权重将每个教师模型的第一置信度分数进行加权求和，得到所述原始图像的总软目标，计算过程表示为：
[0022][0023][0024][0025]其中，表示第k个教师模型在第i个图像样本上的权重，k∈{1,2,...,K}；表示所述总损失；j作为索引序号，与k进行区分；t
i
表示所述总软目标；表示第k个教师模型对第i个图像样本输出的第一置信度分数。
[0026]在本专利技术的一些实施例中，构建图像之间的距离损失和角度损失，其中，所述距离损失的计算式为：
[0027][0028][0029][0030]其中，L
D
表述所述距离损失；D2表示第一数据集，所述第一数据集包括图像x...

【技术保护点】

【技术特征摘要】
1.一种对有效载荷鲁棒的图像隐写分析模型训练方法，其特征在于，该方法包括以下步骤：获取原始图像，将所述原始图像平均分为第一预设数量份，基于不同嵌入率，采用预设隐写方法为每一份原始图像生成相应的隐写图像，以构建训练样本集，所述训练样本集包含多个图像样本，每个图像样本包含一张原始图像及其对应的隐写图像；为每个图像样本中的图像添加真实标签；基于知识蒸馏方法，获取待训练的学生模型和预训练好的所述第一预设数量个教师模型；其中，所述教师模型采用BPDNet模型；每个教师模型对应不同的嵌入率，获取所述原始图像，在相应的嵌入率下采用所述预设隐写方法生成隐写图像，以构建各教师模型的训练集，将所述训练集中的图像样本输入所述教师模型提取特征，通过设有温度参数的Softmax函数输出所述图像样本的第一置信度分数；其中，所述教师模型需同等关注第二预设数量个载荷差信号；构建所述第一置信度分数和所述真实标签的BE损失和第一CE损失，得到所述教师模型的总损失，对于所述图像样本根据所述总损失为每个教师模型分配权重，并根据所述权重将各教师模型的第一置信度分数进行加权求和，得到所述图像样本的总软目标；采用所述训练样本集对所述学生模型进行训练，将所述训练样本集中的图像样本输入所述学生模型，以得到所述图像样本的第二置信度分数；将所述第二置信度分数与总软目标进行匹配，以学习所述总软目标中的图像结构信息，所述图像结构信息包含图像之间的距离和角度；通过构建所述第二置信度分数和所述真实标签之间的第二CE损失，以及构建图像之间的距离损失和角度损失，优化所述学生模型；并将最终训练得到的学生模型作为图像隐写分析模型。2.根据权利要求1所述的对有效载荷鲁棒的图像隐写分析模型训练方法，其特征在于，构建所述第一置信度分数和所述真实标签的BE损失和第一CE损失，所述BE损失的计算式为：为：其中，表示所述BE损失；表示第k个教师模型在第i个图像样本上输出的属于第g类的第一置信度分数，g∈{1,2,...,G}；表示在整个批次内的第一置信度分数均值；B表示批量大小；G表示总类别数。3.根据权利要求2所述的对有效载荷鲁棒的图像隐写分析模型训练方法，其特征在于，构建所述第一置信度分数和所述真实标签的BE损失和第一CE损失，所述第一CE损失的计算式为：式为：
其中，表示所述第一CE损失；表示含有温度参数τ的Softmax函数；表示第k个教师模型在第i个图像样本上输出的属于第g类的第一置信度分数，g∈{1,2,...,G}；y
i
表示所述真实标签；G表示总类别数。4.根据权利要求3所述的对有效载荷鲁棒的图像隐写分析模型训练方法，其特征在于，根据所述BE损失和所述第一CE损失得到所述教师模型的总损失，所述总损失的计算式为：其中，表示所述总损失；表示所述第一CE损失；表示所述BE损失；μ为参数。5.根据权利要求4所述的对有效载荷鲁棒的图像隐写分析模型训练方法，其特征在于，根据所述总损失在相应样本上为每个教师模型分配权重；根据所述权重将每个教师模型的第一置信度分数进行加权求和，得到所述原始图像的总软目标，计算过程表示为：第一置信度分数进行加权求和，得到所述原始图像的总软目标，计算过程表示为：第一置信度分数进行加权求和，得到所述原始图像的总软目标，计算过程表示为：其中，表示第k个教师模型在第i个图像样本上的权重，k∈{1,2,...,K}；表示所述总损失；j作为索引序号，与k进行区分；t
i
表示所述总软目标；表示第k个教师模型对第i个图像样本输出的第一置信度分数。6.根据权利要求1所述的对有效载荷鲁棒的图像隐写分析模型训练方法，其特征在于，构建图像之间的距离损失和角度损失，其中，所述距离损失的计算式为：构建图像之间的距离损失和角度损失，其中，所述距离损失的计算式为：构建图像之间的...

【专利技术属性】
技术研发人员：李芸伟，于丽芳，翁韶伟，
申请(专利权)人：北京印刷学院，
类型：发明
国别省市：