【技术实现步骤摘要】
模型处理方法、装置、设备及存储介质
本申请涉及人工智能领域，尤其涉及一种模型处理方法、装置、设备及存储介质。
技术介绍
模型投毒是指对神经网络模型进行特殊处理，使得投毒后的神经网络模型准确度下降或者被安插后门。所述安插后门是指投毒后的神经网络模型将指定数据或者带有特殊标记的数据识别为特定数据，例如将携带特殊标签的手写数字均识别为特定数字2。现有的模型投毒方法通常是数据投毒，其原理为通过散布经过污染的样本，诱导模型训练者进行爬取、采集、添加到模型的训练集中。这样一来，模型同时学习干净样本和被污染样本，以达到模型投毒的目的。但是经实践研究发现，该种投毒方法实现速度慢，并且效果难以保证。因此，在机器学习领域中，如何实现模型投毒成为当今研究的热点问题。
技术实现思路
本专利技术实施例提供了一种模型处理方法、装置、设备及存储介质，可以提高对模型处理的效率。一方面，本专利技术实施例提供了一种模型处理方法，包括：获取神经网络模型，所述神经网络模型用于对目标类型的数据识别处理，所述神经网络模型由多...
【技术保护点】
1.一种模型处理方法，其特征在于，包括：/n获取神经网络模型，所述神经网络模型用于对目标类型的数据进行识别处理，所述神经网络模型由多个神经元组成，每个神经元对应一个第一参数值；/n根据模型更新目标从所述多个神经元中获取目标数量个待修改的神经元，所述模型更新目标用于指示更新后的神经网络模型能够将携带触发标签的目标类型的数据识别为目标数据，所述目标数量小于所述多个神经元的总数量；/n获取所述目标数量个待修改的神经元中每个神经元对应的第二参数值，并采用所述目标数量个待修改的神经元中每个神经元对应的第二参数值对相应的神经元对应的第一参数值进行修改。/n
【技术特征摘要】
1.一种模型处理方法，其特征在于，包括：
获取神经网络模型，所述神经网络模型用于对目标类型的数据进行识别处理，所述神经网络模型由多个神经元组成，每个神经元对应一个第一参数值；
根据模型更新目标从所述多个神经元中获取目标数量个待修改的神经元，所述模型更新目标用于指示更新后的神经网络模型能够将携带触发标签的目标类型的数据识别为目标数据，所述目标数量小于所述多个神经元的总数量；
获取所述目标数量个待修改的神经元中每个神经元对应的第二参数值，并采用所述目标数量个待修改的神经元中每个神经元对应的第二参数值对相应的神经元对应的第一参数值进行修改。
2.如权利要求1所述的方法，其特征在于，所述根据模型更新目标从所述多个神经元中获取目标数量个待修改的神经元，包括：
获取正样本数据集，所述正样本数据集包括属于目标类型的多个正样本数据，以及所述多个正样本数据中每个正样本数据对应的第一监督标签；
为所述多个正样本数据中每个正样本数据添加所述触发标签，得到多个触发样本数据；
获取所述多个触发样本数据中每个触发样本数据对应的第二监督标签，并根据所述多个触发样本数据以及每个触发样本数据对应的第二监督标签得到触发样本数据集，所述每个触发样本数据对应的第二监督标签用于指示相应的触发样本数据为所述目标数据；
基于所述正样本数据集和所述触发样本数据集对所述神经网络模型进行训练，并在训练过程中从所述多个神经元中选取目标数量个待修改的神经元。
3.如权利要求2所述的方法，其特征在于，所述为所述多个正样本数据中每个正样本数据添加触发标签，得到多个触发样本数据，包括：
获取所述触发标签，以及在所述目标正样本数据包括的每个正样本数据中确定一个目标位置；
在所述每个正样本数据对应的目标位置处添加所述触发标签，得到多个触发样本数据。
4.如权利要求2所述的方法，其特征在于，所述基于所述正样本数据集和所述触发样本数据集对所述神经网络模型进行训练，并在训练过程中从所述多个神经元中选取目标数量个待修改的神经元，包括：
调用所述神经网络模型对所述正样本数据集中每个正样本数据进行识别处理，得到所述每个正样本数据对应的第一预测标签，并调用所述神经网络模型对所述触发样本数据集中每个触发样本数据进行识别处理，得到所述每个触发样本数据对应的第二预测标签；
基于所述每个正样本数据对应的第一预测标签和相应的正样本数据对应的第一监督标签得到第一损失函数，以及基于所述每个触发样本数据对应的第二预测标签和相应的触发样本数据对应的第二监督标签得到第二损失函数；
根据第一损失函数和第二损失函数确定目标损失函数，并基于目标损失函数的值确定目标数量个待修改的神经元。
5.如权利要求4所述的方法，其特征在于，所述基于目标损失函数的值确定所述目标数量个待修改的神经元...
【专利技术属性】
技术研发人员：陈思哲，杨勇，朱季峰，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：广东;44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。