一种基于隐私保护的模型训练方法及装置制造方法及图纸

本说明书实施例提供一种基于隐私保护的模型训练方法及装置，获得用于训练目标业务模型的初始事件序列集合；针对所述初始事件序列集合中的各初始事件序列，根据第一增强策略的策略信息，基于预设的用于进行数据扰动修改的多个数据增强单元，对该初始事件序列进行第一数目的数据增强操作，得到对应的增强事件序列，其中，一次数据增强操作利用一个数据增强单元执行；策略信息至少指示所述第一数目；利用各增强事件序列形成的第一增强序列集合进行模型训练，得到隐私保护的第一业务模型。得到隐私保护的第一业务模型。得到隐私保护的第一业务模型。

【技术实现步骤摘要】
一种基于隐私保护的模型训练方法及装置


[0001]本说明书涉及隐私安全
，尤其涉及一种基于隐私保护的模型训练方法及装置。

技术介绍

[0002]针对成员推理的黑盒攻击指的是，在获得特定数据和目标业务模型API接口(即获得目标业务模型的黑盒访问权限)的情况下，来确定特定数据是否属于目标业务模型的训练数据集的攻击。训练数据集中的训练数据一般包括用户真实的数据，其中会包括用户隐私数据，若确定出特定数据属于训练数据，则获得了用户隐私数据，进而造成用户隐私泄露的问题。
[0003]例如目标业务模型为反欺诈场景中的反欺诈模型，其训练数据集的训练数据均包括用户的真实的转账消费信息，如果目标业务模型黑盒被攻击成功，则容易造成用户隐私如用户真实的转账消费信息的泄露。

技术实现思路

[0004]本说明书一个或多个实施例提供了一种基于隐私保护的模型训练方法及装置，以训练得到隐私保护的业务模型。
[0005]根据第一方面，提供一种基于隐私保护的模型训练方法，包括：
[0006]获得用于训练目标业务模型的初始事件序列集合；<本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于隐私保护的模型训练方法，包括：获得用于训练目标业务模型的初始事件序列集合；针对所述初始事件序列集合中的各初始事件序列，根据第一增强策略的策略信息，基于预设的用于进行数据扰动修改的多个数据增强单元，对该初始事件序列进行第一数目的数据增强操作，得到对应的增强事件序列，其中，一次数据增强操作利用一个数据增强单元执行；所述策略信息至少指示所述第一数目；利用各增强事件序列形成的第一增强序列集合进行模型训练，得到隐私保护的第一业务模型。2.根据权利要求1所述的方法，其中，所述数据增强单元，用于扰动修改以下中的一项或多项：事件序列中事件的顺序、数量、属性。3.根据权利要求1所述的方法，还包括：获得所述第一业务模型对应的第一效能结果；根据所述第一效能结果和所述第一增强策略，确定用于下一轮次的第二增强策略。4.根据权利要求1所述的方法，还包括：获得所述第一业务模型对应的第一效能结果；至少根据所述第一效能结果和所述第一业务模型，确定所述目标业务模型对应的目标隐私保护模型，或其备选模型。5.根据权利要求4所述的方法，其中，所述确定所述目标业务模型对应的目标隐私保护模型，或其备选模型，包括：获得所述初始事件序列集合对应的若干第二增强序列集合，其中，各第二增强序列集合，根据对应增强策略的策略信息，基于所述多个数据增强单元，对所述初始事件序列集合进行数据增强操作而得到；分别利用各第二增强序列集合进行模型训练，得到对应的若干第二业务模型；获得若干第二业务模型对应的若干第二效能结果；基于所述第一效能结果和所述第二效能结果，从所述第一业务模型和若干第二业务模型中，确定出所述目标隐私保护模型，或所述备选模型。6.根据权利要求5所述的方法，还包括：获得所述目标业务模型对应的目标效能结果，所述目标业务模型利用所述初始事件序列集合训练得到；所述从所述第一业务模型和若干第二业务模型中，确定出所述目标隐私保护模型，或所述备选模型，包括：分别确定所述第一效能结果和若干第二效能结果，相对于所述目标效能结果的效能变化情况；基于各效能变化情况，从所述第一业务模型和所述若干第二业务模型中，确定出效能变化情况表征效能较优的业务模型，作为所述目标隐私保护模型。7.根据权利要求3所述的方法，其中，所述第一效能结果包括如下结果的至少一个：业务预测准确性，被黑盒攻击成功的概率。8.根据权利要求1
‑
7任一项所述的方法，其中，所述策略信息还包括：扰动强度值，所述第一数目的数据增强操作包括第一增强操作，所述...

【专利技术属性】
技术研发人员：王宁涛，周璟，吕乐，杨阳，范东云，傅幸，王维强，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：