一种端云协同执行业务的方法、装置、介质及设备制造方法及图纸

本说明书公开了一种端云协同执行业务的方法、装置、介质及设备，响应于用户操作，确定业务请求，并根据业务请求获取用户数据，确定用户数据中的敏感数据以及非敏感数据。对敏感数据进行特征提取，确定第一特征，将非敏感数据发送到服务器，使服务器对非敏感数据进行特征提取，确定第二特征，接收服务器返回的第二特征。将第一特征与第二特征输入输出层，确定输出结果。对输出结果进行加噪，确定业务请求的加噪输出结果，并将加噪输出结果发送给服务器，使服务器根据加噪输出结果执行业务。使得即使攻击者获取到业务模型以及输出结果，也不能反推出各输出结果对应的用户数据，实现了对用户隐私数据的保护。用户隐私数据的保护。用户隐私数据的保护。

【技术实现步骤摘要】
一种端云协同执行业务的方法、装置、介质及设备


[0001]本申请涉及计算机
，尤其涉及一种端云协同执行业务的方法、装置、介质及设备。

技术介绍

[0002]随着科技的发展，隐私数据日益受到大众的重视，各地区出台相关法律以对用户的隐私数据进行保护，各行业也有相关规定以对用户的隐私数据进行保护。
[0003]目前，随着机器学习的发展，通过模型执行业务已经逐渐成为常态。例如，服务提供方将用户数据输入模型，根据模型输出结果执行业务。或者，将业务数据输入模型，进行风险控制等等。但是，由于通常模型需要输入的是用户执行业务时的业务数据，因此使用模型执行业务时涉及到用户隐私数据安全的问题。如何在给用户提供高质量服务的同时做到对用户隐私数据的保护是难点问题。
[0004]基于此，本申请说明书提供了一种端云协同执行业务的方法。

技术实现思路

[0005]本说明书提供一种端云协同执行业务的方法及装置、存储介质及设备，以至少部分的解决现有技术存在的上述问题。
[0006]本说明书采用下述技术方案：本说明书提供了一种端云协同执行业务的方法，所述方法应用于终端，所述终端中部署有业务模型的第一特征提取层以及输出层，服务器中部署有所述业务模型的第二特征提取层，所述方法包括：响应于用户操作，确定业务请求；根据所述业务请求，获取用户数据，并确定所述用户数据中的敏感数据以及非敏感数据；将所述敏感数据输入所述第一特征提取层，确定所述敏感数据的特征，作为第一特征，以及将所述非敏感数据发送至所述服务器，使所述服务器根据所述第二特征提取层，确定所述非敏感数据的特征，作为第二特征；接收所述服务器返回的所述第二特征；将所述第一特征与所述第二特征作为输入，输入所述输出层，确定输出结果；对所述输出结果添加噪声，确定所述业务请求的加噪输出结果，并将所述加噪输出结果发送至所述服务器，使所述服务器根据所述加噪输出结果执行业务。
[0007]本说明书提供了一种端云协同执行业务的装置，包括：请求确定模块，用于响应于用户操作，确定业务请求；数据获取模块，用于根据所述业务请求，获取用户数据，并确定所述用户数据中的敏感数据以及非敏感数据；特征提取模块，用于将所述敏感数据输入所述第一特征提取层，确定所述敏感数
据的特征，作为第一特征；以及将所述非敏感数据发送至所述服务器，使所述服务器根据所述第二特征提取层，确定所述非敏感数据的特征，作为第二特征；特征接收模块，用于接收所述服务器返回的所述第二特征；结果输出模块，用于将所述第一特征与所述第二特征作为输入，输入所述输出层，确定输出结果；结果加噪模块，用于对所述输出结果添加噪声，确定所述业务请求的加噪输出结果，并将所述加噪输出结果发送至所述服务器，使所述服务器根据所述加噪输出结果执行业务。
[0008]本说明书提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述端云协同执行业务的方法。
[0009]本说明书提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述端云协同执行业务的方法。
[0010]本说明书采用的上述至少一个技术方案能够达到以下有益效果：在本说明书提供的端云协同执行业务的方法中，首先，终端可响应于用户的操作，确定业务请求，并根据业务请求，获取用户数据，进而确定用户数据中的敏感数据以及非敏感数据。其次，对敏感数据进行特征提取，确定第一特征，以及将非敏感数据发送到服务器，使服务器对非敏感数据进行特征提取，确定第二特征，并接收服务器返回的第二特征。然后，将第一特征与第二特征作为输入，输入输出层，确定输出结果。最后，对输出结果添加噪声，确定业务请求的加噪输出结果，并将加噪输出结果发送给服务器，使服务器根据加噪输出结果执行业务。
[0011]从上述方法中可以看出，通过对用户数据进行特征拆分，使得敏感数据留在终端中，非敏感数据上传至服务器，并且，在终端中对敏感数据进行特征提取，在服务器中对非敏感数据进行特征提取，在兼顾终端中的业务模型(端模型)的实时性和服务器中的业务模型(云模型)的泛化性的同时保护了用户隐私数据。并且，通过对模型输出结果进行加噪，即使攻击者获取到业务模型以及推理结果，也不能反推出各推理结果对应的用户数据，更大力度地实现了对用户隐私数据的保护。
附图说明
[0012]此处所说明的附图用来提供对本说明书的进一步理解，构成本说明书的一部分，本说明书的示意性实施例及其说明用于解释本说明书，并不构成对本说明书的不当限定。在附图中：图1为本说明书中一种端云协同执行业务的方法的流程示意图；图2为本说明书提供的端云协同执行业务的模型结构示意图；图3为本说明书提供的端云协同执行业务的模型结构示意图；图4为本说明书提供的基于差分隐私的端云协同执行业务的模型结构示意图；图5为本说明书提供的一种端云协同执行业务的装置示意图；图6为本说明书提供的对应于图1的电子设备示意图。
具体实施方式
[0013]为使本说明书的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
[0014]以下结合附图，详细说明本申请各实施例提供的技术方案。
[0015]图1为本说明书提供的一种端云协同执行业务的方法的流程示意图，所述方法应用于终端，所述终端中部署有业务模型的第一特征提取层以及输出层，服务器中部署有所述业务模型的第二特征提取层，具体可包括以下步骤：S100：响应于用户操作，确定业务请求。
[0016]S102：根据所述业务请求，获取用户数据，并确定所述用户数据中的敏感数据以及非敏感数据。
[0017]目前，端模型与云模型协同执行业务的方式极为广泛，但是，将用户数据输入端、云模型得到输出结果，以根据输出结果执行业务的过程中，涉及到大量的用户隐私数据。因此在使用模型执行业务时必然要考虑用户隐私数据安全的问题。基于此，在本说明书一个或多个实施例提供的端云协同执行业务的方法中，可以实现对用户隐私数据的保护。
[0018]具体的，首先，终端可响应于用户操作，确定业务请求，并根据业务请求，获取用户数据。其中，该业务请求为该终端根据用户操作确定的。例如，当用户执行搜索业务时，用户可输入搜索关键词，并点击用户图形界面中的搜索按键，则该终端可响应于用户点击该搜索案件，确定搜索业务请求。并根据预设的业务逻辑，获取终端中存储的该用户的用户数据以及该搜索关键词，以便后续步骤执行该搜索业务。在本说明书一个或多个实施例中，该终端可响应于该业务请求，确定执行该业务请求对应的业务需要获取的数据，即，本说明书中所述的用户数据。该用户数据是指在该终端中存储的与发起业务请求的用户相关的数据，可包含用户的敏感数据以及非敏感数据。...

【技术保护点】

【技术特征摘要】
1.一种端云协同执行业务的方法，所述方法应用于终端，所述终端中部署有业务模型的第一特征提取层以及输出层，服务器中部署有所述业务模型的第二特征提取层，所述方法包括：响应于用户操作，确定业务请求；根据所述业务请求，获取用户数据，并确定所述用户数据中的敏感数据以及非敏感数据；将所述敏感数据输入所述第一特征提取层，确定所述敏感数据的特征，作为第一特征，以及将所述非敏感数据发送至所述服务器，使所述服务器根据所述第二特征提取层，确定所述非敏感数据的特征，作为第二特征；接收所述服务器返回的所述第二特征；将所述第一特征与所述第二特征作为输入，输入所述输出层，确定输出结果；对所述输出结果添加噪声，确定所述业务请求的加噪输出结果，并将所述加噪输出结果发送至所述服务器，使所述服务器根据所述加噪输出结果执行业务。2.如权利要求1所述的方法，所述输出层包括：融合子网、分类子网以及激活子网；将所述第一特征与所述第二特征作为输入，输入所述输出层，确定输出结果，具体包括：将所述第一特征与所述第二特征作为输入，输入所述融合子网，确定所述第一特征与所述第二特征的融合特征；将所述融合特征输入所述分类子网，确定预设的各业务分类分别对应的第一概率；将所述各业务分类对应的第一概率输入激活子网，确定所述各业务分类对应的第二概率，作为输出结果，其中，所述各业务分类对应的第二概率为归一化的。3.如权利要求2所述的方法，对所述输出结果添加噪声，确定所述业务请求的加噪输出结果，具体包括：针对每个业务分类对应的第二概率，采用预设的差分隐私算法，确定该第二概率的加噪输出概率；根据确定出的各业务分类的加噪输出概率，确定最终分类结果，作为加噪输出结果；其中，所述差分隐私算法采用：指数机制、拉普拉斯机制或高斯机制中的一种。4.如权利要求3所述的方法，针对每个业务分类对应的第二概率，采用预设的差分隐私算法，确定该第二概率的加噪输出概率，具体包括：根据预设的隐私预算，确定超参数；针对每个业务分类对应的第二概率，将该第二概率作为效用函数的函数输出结果；根据确定出的各函数输出结果，确定相差最大的两个所述函数输出结果的差值，作为隐私敏感度；针对每个业务分类对应的第二概率，根据所述超参数、所述隐私敏感度以及所述效用函数的函数输出结果，确定该业务分类对应的第二概率的加噪输出概率。5.如权利要求1所述的方法，采用下述方式验证所述业务模型，具体包括：根据历史业务数据，确定验证样本，以及根据所述历史业务数据的执行结果，确定所述验证样本的标注；将所述验证样本中的敏感数据输入所述第一特征提取层，确定所述敏感数据的特征，
作为第一特征，以及将所述验证样本中的非敏感数据发送至所述服务器，接收所述服务器返回的所述第二特征，所述第二特征为所述服务器通过所述第二特征提取层确定的所述非敏感数据的特征；将所述第一特征与所述第二特征作为输入，输入所述输出层，确定所述验证样本的输出结果；对所述输出结果进行加噪，确定所述验证样本的加噪输出结果；将所述验证样本的加噪输出结果和所述验证样本的标注，发送至所述服务器，使所述服务器根据接收到的所述验证样本的加噪输出结果和所述验证样本的标注，确定所述业务模型的准确率。6.如权利要求5所述的方法，所述终端有多个，所述方法还包括：针对每个参与验证所述业务模型的终端，该终端根据验证样本的加噪输出结果和验证样本的标注，确定验证样本的加噪输出结果和验证样本的标注相同的验证样本数量，作为预测正确样本数量；将所述预测正确样本数量和验证样本总数量，发送给所述服务器，使所述服务器根据各终端发送的所述预测正确样本数量以及各终端发送的所述验证样本总数量，确定所述业务模型的准确率。7.如权利要求2所述的方法，所述业务模型为风控模型，所述业务分类包括：业务正常以及业务异常；将所述加噪输出结果发送至所述服务器，使所述服务器根据所述加噪输出结果执行业务，具体包括：将所述加噪输出结果发送至所述服务器，使当所述服务器确定所述加噪输出结果对应的业务分类为业务异常时，对所述业务请求对应的业务进行风险控制。8.一种端云协同执行业务的装置，所述装置应用于终端，所述终端中部署有业务模型的第一特征提取层以及输出层，服务器中部署有所述...

【专利技术属性】
技术研发人员：赵闻飙，申书恒，张长浩，傅欣艺，王维强，徐恪，李琦，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：