【技术实现步骤摘要】
本说明书一个或多个实施例涉及安全计算，尤其涉及图像识别模型的隐私泄露风险测评方法及装置。
技术介绍
1、图像识别是人工智能的一个重要领域，通常是利用计算机对图像进行处理、分析和理解，以识别各种不同模式的目标和对象。其中，关于人脸识别、指纹识别等图像识别技术中，涉及人脸图像、指纹图像等隐私信息。近些年来，关于人脸、指纹等隐私信息识别技术被广泛应用到各个领域中，这同时也造成一定隐私泄露的风险。这里，隐私泄露风险不仅仅是待识别图像的隐私，还可能是图像识别模型的训练样本的隐私泄露。举例而言：对于一家医院和所患疾病有关的信息识别模型中，如果攻击者通过攻击线上图像识别模型，确定某个用户的人脸图像被用于该图像识别模型的训练，则可以确定该用户患有或患过某种疾病，从而泄露用户隐私；对于小区门禁的图像识别系统，如果攻击者通过攻击线上图像识别模型，确定某个用户的人脸图像被用于该图像识别模型的训练，则可以确定该用户的住所范围；等等。因此，对于图像识别模型而言，隐私泄露风险的测评是一个重要技术问题。
技术实现思路
...
【技术保护点】
1.一种图像识别模型的隐私泄露风险测评方法，所述图像识别模型预先和分类器一起经由多个样本图像训练得到，所述多个样本图像包括多个样本成员的隐私图像，所述分类器用于利用所述图像识别模型处理样本图像得到的表征向量将样本图像向各个图像类别分类，单个图像类别对应单个样本成员；所述方法包括：
2.如权利要求1所述的方法，其中，针对当前图像，所述单个网络层的输入特征为c×H×W维，c为通道数、H为特征图在高度维度的维数、W为特征图在宽度维度的维数，所述第一均值为c维张量，所述第一均值的单个维度上的元素为相应通道上的H×W个特征点分别对应的各个特征值的均值。
...
【技术特征摘要】
1.一种图像识别模型的隐私泄露风险测评方法，所述图像识别模型预先和分类器一起经由多个样本图像训练得到，所述多个样本图像包括多个样本成员的隐私图像，所述分类器用于利用所述图像识别模型处理样本图像得到的表征向量将样本图像向各个图像类别分类，单个图像类别对应单个样本成员；所述方法包括：
2.如权利要求1所述的方法，其中，针对当前图像，所述单个网络层的输入特征为c×h×w维，c为通道数、h为特征图在高度维度的维数、w为特征图在宽度维度的维数，所述第一均值为c维张量，所述第一均值的单个维度上的元素为相应通道上的h×w个特征点分别对应的各个特征值的均值。
3.如权利要求1所述的方法，其中，针对当前图像，所述第一均值通过以下方式确定：
4.如权利要求3所述的方法，其中，所述预定规则为：
5.如权利要求1所述的方法，其中，所述批量规则化层为batchnorm层，所述第二均值为所述图像识别模型训练过程中经调整确定的张量参数，且维数与相应网络层的输入特征通道数一致。
6.如权利要求1所述的方法，其中，单个距离信息通过相应的第一均值与第二均值的欧式距离、曼哈顿距离、切比雪夫距离之一的向量距离确定，或者余弦相似度、协方差、余弦相似度之一的向量相似度确定。
7.如权利要求1所述的方法，其中，所述判别模型以多个样本成员的隐私图像作为正样本，以其他隐私图像作为负...
【专利技术属性】
技术研发人员：黄源清，王莹桂，王磊，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。