一种数据处理方法、系统及装置制造方法及图纸

本说明书实施例公开了一种数据处理方法，该方法包括：获取待处理数据，所述待处理数据可以以以下中的一种形式表示：向量、数组或矩阵。可以对所述待处理数据中的元素进行调整，确定所述元素的调整值。可以基于所述调整值更新所述待处理数据。将更新完毕后的待处理数据输入至机器学习模型，获取处理结果。该方法通过对待处理数据中的元素进行调整，可以破坏样本中所包含的后门的后门值，进而实现对后门攻击的有效防御。

A data processing method, system and device

【技术实现步骤摘要】
一种数据处理方法、系统及装置
本说明书涉及计算机
，特别涉及一种数据处理方法、系统以及装置。
技术介绍
机器学习由于其出色的性能表现，目前已经广泛应用于各种场景，例如，计算机视觉（CV）、自然语言处理（NLP）等，在各行各业发挥着至关重要的作用。也正因为如此，关于机器学习的安全问题就非常值得重视。因此，有必要提供一种数据处理方法，以提高机器学习模型的安全可靠性。
技术实现思路
本说明书实施例的一个方面提供一种数据处理方法。所述数据处理方法包括：可以获取待处理数据，所述待处理数据以以下中的一种形式表示：向量、数组、或矩阵。可以对所述待处理数据中的元素进行调整，确定该元素的调整值。可以基于所述调整值更新所述待处理数据。可以将更新完毕后的待处理数据输入至机器学习模型，获取处理结果。本说明书实施例的另一个方面提供一种数据处理系统。所述数据处理系统包括：第一获取模块，可以用于获取待处理数据，所述待处理数据以以下中的一种形式表示：向量、数组、或矩阵。调整模块，可以用于对所述待处理数据中的元素进行调整，确定该本文档来自技高网...

【技术保护点】
1.一种数据处理方法，其中，所述方法包括：/n获取待处理数据，所述待处理数据以以下中的一种形式表示：向量、数组或矩阵；/n确定所述待处理数据中的元素的调整值；/n基于所述调整值更新所述待处理数据；/n将更新后的待处理数据输入至机器学习模型，获取处理结果并将其作为所述机器学习模型对所述待处理数据的处理结果。/n

【技术特征摘要】
1.一种数据处理方法，其中，所述方法包括：
获取待处理数据，所述待处理数据以以下中的一种形式表示：向量、数组或矩阵；
确定所述待处理数据中的元素的调整值；
基于所述调整值更新所述待处理数据；
将更新后的待处理数据输入至机器学习模型，获取处理结果并将其作为所述机器学习模型对所述待处理数据的处理结果。


2.根据权利要求1所述的方法，其中，所述确定所述待处理数据中的元素的调整值，包括：
将该元素的元素值与其至少一个相邻元素的元素值进行运算，确定运算结果；
将所述运算结果确定为该元素的调整值。


3.根据权利要求2所述的方法，其中，所述运算结果为统计值，其包括以下中的至少一种：和值、平均值、方差值或中位值。


4.根据权利要求1所述的方法，其中，所述待处理数据为以矩阵形式表示的图像，所述机器学习模型为分类模型。


5.一种数据处理系统，其中，所述系统包括：
获取模块，用于获取待处理数据，所述待处理数据以以下中的一种形式表示：向量、数组...

【专利技术属性】
技术研发人员：林建滨，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：浙江;33