基于峰度与范数的后门检测方法、装置、设备及存储介质制造方法及图纸

本发明专利技术属于计算机技术领域，公开了一种基于峰度与范数的后门检测方法、装置、设备及存储介质。本发明专利技术通过获取待检测模型的输出层权重信息，生成待检测模型的输出层对应的噪声数据；获取噪声数据对应的映射数据，并根据噪声数据及映射数据确定互信息损失及峰度损失；根据互信息损失、峰度损失、噪声数据及映射数据对初始数据生成模型进行更新，获得预设数据生成模型；通过预设数据生成模型及噪声数据确定待检测模型的输出层对应的输入数据；根据输入数据及输出层权重信息对待检测模型进行后门检测。由于在进行后门检测之前可根据待检测模型的输出层权重信息生成输入数据，然后根据输入数据及输出层权重信息即可进行后门检测，更符合实际使用需求。符合实际使用需求。符合实际使用需求。

【技术实现步骤摘要】
基于峰度与范数的后门检测方法、装置、设备及存储介质


[0001]本专利技术涉及计算机
，尤其涉及一种基于峰度与范数的后门检测方法、装置、设备及存储介质。

技术介绍

[0002]深度学习模型已经被广泛应用于人脸识别、目标检测和自动驾驶等领域，并在决策过程中起到至关重要的作用，而人工智能系统的安全性问题也随之引起人们的广泛关注，若模型的训练过程是在不可控的条件下进行的，则训练得到的模型就有可能会面临后门攻击的风险。后门攻击，是指攻击者通过向模型中植入后门模式，使得被攻击模型面对干净的样本时可以保持原有的分类功能，但是在面对带有触发器的样本时预测错误。
[0003]而现有技术虽然有针对后门攻击的检测技术，但是在实际应用中存在一些限制因素：需要获取被检测模型的训练数据，用于对触发器进行人工合成或复现；需要指定触发器在样本中的位置；需要提前训练好通用的触发器模式和检测器；检测流程较为复杂，但是模型的检测时间需要几个小时或更多的时间。
[0004]上述内容仅用于辅助理解本专利技术的技术方案，并不代表承认上述内容是现有技术。

技术实现思路

[0005]本专利技术的主要目的在于提供一种基于峰度与范数的后门检测方法、装置、设备及存储介质，旨在解决现有技术在针对模型进行后门检测时实际使用效果不理想的技术问题。
[0006]为实现上述目的，本专利技术提供了一种基于峰度与范数的后门检测方法，所述方法包括以下步骤:
[0007]获取待检测模型的输出层权重信息，生成所述待检测模型的输出层对应的噪声数据；
[0008]获取所述噪声数据对应的映射数据，并根据所述噪声数据及所述映射数据确定互信息损失及峰度损失，所述峰度损失用于表征所述噪声数据的峰度；
[0009]根据所述互信息损失、所述峰度损失、所述噪声数据及所述映射数据对初始数据生成模型进行更新，获得预设数据生成模型；
[0010]通过所述预设数据生成模型及所述噪声数据确定所述待检测模型的输出层对应的输入数据；
[0011]根据所述输入数据及所述输出层权重信息对所述待检测模型进行后门检测。
[0012]可选的，所述初始数据生成模型由数据生成网络及数据统计网络组成；
[0013]所述获取所述噪声数据对应的映射数据，并根据所述噪声数据及所述映射数据确定互信息损失及峰度损失的步骤，包括：
[0014]通过所述数据生成网络确定所述噪声数据确定对应的映射数据；
[0015]通过所述数据统计网络根据所述噪声数据确定峰度损失，并根据所述噪声数据及所述映射数据确定互信息损失。
[0016]可选的，所述根据所述互信息损失、所述峰度损失、所述噪声数据及所述映射数据对初始数据生成模型进行更新，获得预设数据生成模型的步骤，包括：
[0017]根据所述互信息损失、所述峰度损失、所述噪声数据及所述映射数据确定初始数据生成模型对应的模型损失值；
[0018]若所述模型损失值不满足模型收敛条件，则根据所述模型损失值对所述初始数据生成模型中的所述数据生成网络及所述数据统计网络进行参数调整，并返回所述通过所述数据生成网络确定所述噪声数据确定对应的映射数据的步骤。
[0019]可选的，所述根据所述互信息损失、所述峰度损失、所述噪声数据及所述映射数据确定初始数据生成模型对应的模型损失值的步骤，包括：
[0020]获取所述峰度损失对应的峰度权重值；
[0021]根据所述噪声数据及所述映射数据确定交叉熵损失；
[0022]通过预设模型损失公式根据所述互信息损失、所述峰度损失、所述峰度权重值及所述交叉熵损失计算所述初始数据生成模型对应的模型损失值；
[0023]其中，所述预设模型损失公式为：
[0024]Loss
gen
＝
‑
loss
ce
‑
loss
entopy
+λ
kurt
*loss
kurt
.
[0025]式中，Loss
gen
为模型损失值，loss
ce
为上述交叉熵损失值，loss
kurt
为上述峰度损失，loss
entopy
为互信息损失，λ
kurt
为峰度权重值。
[0026]可选的，所述根据所述互信息损失、所述噪声数据及所述映射数据确定初始数据生成模型对应的模型损失值的步骤之后，还包括：
[0027]若所述模型损失值满足模型收敛条件，则将所述初始数据生成模型作为预设数据生成模型。
[0028]可选的，所述根据所述输入数据及所述输出层权重信息对所述待检测模型进行后门检测的步骤，包括：
[0029]获取所述待检测模型的输出层的分类类别；
[0030]根据所述输入数据及所述输出层权重信息确定各分类类别对应的峰度范数分值；
[0031]根据所述峰度范数分值检测所述待检测模型中是否存在具有后门的分类类别。
[0032]可选的，所述根据所述输入数据及所述输出层权重信息确定各分类类别对应的峰度范数分值的步骤，包括：
[0033]遍历所述分类类别，并将遍历到的分类类别作为当前分类类别；
[0034]确定所述当前分类类别中潜在触发器在模型输出层对应的初始潜在权重分布；
[0035]根据所述输入数据确定所述当前分类类别对应的类别输入数据；
[0036]根据所述类别输入数据及所述潜在权重分布确定权重损失值；
[0037]基于所述权重损失值对所述初始潜在权重分布进行优化，获得最终潜在权重分布；
[0038]根据所述最终潜在权重分布及所述类别输入数据确定所述当前分类类别对应的峰度范数分值；
[0039]在遍历结束时，获得各分类类别对应的峰度范数分值。
[0040]可选的，所述根据所述类别输入数据及所述潜在权重分布确定权重损失值的步骤，包括：
[0041]将所述类别输入数据及所述潜在权重分布进行叠加运算，获得叠加输入数据；
[0042]将所述叠加输入数据输入至所述模型输出层中，获得输出结果；
[0043]根据类别输入数据对应的输出结果及所述输出结果确定权重损失值。
[0044]可选的，所述根据所述峰度范数分值检测所述待检测模型中是否存在具有后门的分类类别的步骤，包括：
[0045]根据各分类类别对应的峰度范数分值构建箱型图；
[0046]根据所述箱型图确定上四分位数及四分位距，并根据所述上四分位数及所述四分位距确定判定阈值；
[0047]将所述待检测模型中对应的峰度范数分值大于所述判定阈值的分类类别作为具有后门的分类类别。
[0048]可选的，所述根据所述箱型图确定上四分位数及四分位距，并根据所述上四分位数及所述四分位距确定判定阈值的步骤，包括：
[0049]根据所述箱型图确定上四分位数及四分位距；
[005本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于峰度与范数的后门检测方法，其特征在于，所述基于峰度与范数的后门检测方法包括以下步骤：获取待检测模型的输出层权重信息，生成所述待检测模型的输出层对应的噪声数据；获取所述噪声数据对应的映射数据，并根据所述噪声数据及所述映射数据确定互信息损失及峰度损失，所述峰度损失用于表征所述噪声数据的峰度；根据所述互信息损失、所述峰度损失、所述噪声数据及所述映射数据对初始数据生成模型进行更新，获得预设数据生成模型；通过所述预设数据生成模型及所述噪声数据确定所述待检测模型的输出层对应的输入数据；根据所述输入数据及所述输出层权重信息对所述待检测模型进行后门检测。2.如权利要求1所述的基于峰度与范数的后门检测方法，其特征在于，所述初始数据生成模型由数据生成网络及数据统计网络组成；所述获取所述噪声数据对应的映射数据，并根据所述噪声数据及所述映射数据确定互信息损失及峰度损失的步骤，包括：通过所述数据生成网络确定所述噪声数据确定对应的映射数据；通过所述数据统计网络根据所述噪声数据确定峰度损失，并根据所述噪声数据及所述映射数据确定互信息损失。3.如权利要求2所述的基于峰度与范数的后门检测方法，其特征在于，所述根据所述互信息损失、所述峰度损失、所述噪声数据及所述映射数据对初始数据生成模型进行更新，获得预设数据生成模型的步骤，包括：根据所述互信息损失、所述峰度损失、所述噪声数据及所述映射数据确定初始数据生成模型对应的模型损失值；若所述模型损失值不满足模型收敛条件，则根据所述模型损失值对所述初始数据生成模型中的所述数据生成网络及所述数据统计网络进行参数调整，并返回所述通过所述数据生成网络确定所述噪声数据确定对应的映射数据的步骤。4.如权利要求3所述的基于峰度与范数的后门检测方法，其特征在于，所述根据所述互信息损失、所述峰度损失、所述噪声数据及所述映射数据确定初始数据生成模型对应的模型损失值的步骤，包括：获取所述峰度损失对应的峰度权重值；根据所述噪声数据及所述映射数据确定交叉熵损失；通过预设模型损失公式根据所述互信息损失、所述峰度损失、所述峰度权重值及所述交叉熵损失计算所述初始数据生成模型对应的模型损失值；其中，所述预设模型损失公式为：Loss
gen
＝
‑
loss
ce
‑
loss
entopy
+λ
kurt
*loss
kurt
式中，Loss
gen
为模型损失值，loss
ce
为上述交叉熵损失，loss
kurt
为上述峰度损失，loss
entopy
为互信息损失，λ

【专利技术属性】
技术研发人员：邹权臣，蔡静轩，张德岳，于泓凯，刘昭，王旋，于恬，
申请(专利权)人：北京奇虎科技有限公司，
类型：发明
国别省市：