本说明书公开了一种模型风险检测的方法、装置、存储介质及电子设备，所述方法包括：确定待检测模型，以及确定使用待检测模型的调用方。再根据调用方的类型，确定待检测模型对应的检测策略。根据检测策略，对待检测模型进行风险检测，得到待检测模型的初始结果，并确定对待检测模型进行风险检测所需的计算成本。根据初始结果和计算成本，确定待检测模型的检测结果。通过确定待检测模型的模型隐私泄露的可能性以及对待检测模型进行风险检测所需的计算成本，并根据初始结果和计算成本，可以更好地确定待检测模型的模型隐私是否泄漏，提高待检测模型的检测结果的准确性，以保证待检测模型的安全。
【技术实现步骤摘要】
本说明书涉及计算机，尤其涉及一种模型风险检测的方法、装置、存储介质及电子设备。
技术介绍
1、随着人工智能和大数据产业的快速发展，数据受到越来越广泛的关注。同时，数据中的隐私数据也受到了大众的关注。
2、目前，数据持有者可以采集大量数据，再利用采集到的数据训练模型，并提供给调用方，以使调用方可以利用模型执行业务，无需收集数据以及训练模型。例如，公司a可以采集用户执行业务过程中产生的业务数据，基于业务数据，训练风险识别模型，并提供给公司b。公司b可以根据用户的信息，采用风险识别模型，确定用户是否存在风险，无需收集用户的信息以及训练模型。
3、但是，数据持有者训练的模型是根据输入数据，确定输出结果，模型在给出输出结果时输入数据对输出结果的影响属于模型的隐私数据，需要防止调用方在使用模型的过程中，获知模型的隐私数据，以降低泄露风险。因此，如何对模型进行风险检测以避免隐私泄露是一个亟待解决的问题。
4、基于此，本说明书中提供一种模型风险检测的方法。
技术实现思路
>1、本说明书提供一本文档来自技高网...
【技术保护点】
1.一种模型风险检测的方法，包括：
2.如权利要求1所述的方法，所述调用方的类型为第一类型，所述检测策略为第一策略；
3.如权利要求2所述的方法，根据各输出结果，确定所述待检测模型的初始结果，具体包括：
4.如权利要求2所述的方法，确定所述业务数据对应的各第一取值，具体包括：
5.如权利要求2所述的方法，确定所述业务数据对应的各第一取值，具体包括：
6.如权利要求1所述的方法，所述调用方的类型为第一类型；
7.如权利要求1所述的方法，根据所述初始结果和所述计算成本，确定所述待检测模型的检测结果，具体包括：
...
【技术特征摘要】
1.一种模型风险检测的方法，包括：
2.如权利要求1所述的方法，所述调用方的类型为第一类型，所述检测策略为第一策略；
3.如权利要求2所述的方法，根据各输出结果，确定所述待检测模型的初始结果，具体包括：
4.如权利要求2所述的方法，确定所述业务数据对应的各第一取值，具体包括：
5.如权利要求2所述的方法，确定所述业务数据对应的各第一取值，具体包括：
6.如权利要求1所述的方法，所述调用方的类型为第一类型；
7.如权利要求1所述的方法，根据所述初始结果和所述计算成本，确定所述待检测模型的检测结果，具体包括：
8.如权利要求1所述的方法，所述方法还包括：
9.一种模型风险检测的装置，包括：
10.如权利要求9所述的装置，所述调用方的类型为第一类型，所述检测策略为第一策略；
11.如权利要求10所述的装置，所述检测模块具体用于，根据所述各输出结果，确定第一基准值；针对每个输出结果，确定该输出结果与所述第一基准值之间的差值；当所述差值大于预设阈值时，将该输出结果标记为指定类型；确定所述各输出结果中标记为指定类型的输出结果的数量，并作为第一指定数量；根据所述各输出结果的数量以及所述第一指定数量，确定所述待检测...
【专利技术属性】
技术研发人员：穆家明，李丰廷，郝新，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。