神经网络模型的控制方法、控制管理平台、设备、介质及程序产品技术

本申请提供了一种神经网络模型的控制方法，该方法应用于控制管理平台，接收来自用户访问该神经网络模型的访问请求，当该用户获得授权时，获取与该用户的访问请求对应的控制参数的控制信息，其中控制参数包括该神经网络模型的权重参数、偏置参数和激活参数中的至少一个，然后根据控制参数的控制信息对该神经网络模型进行控制。如此，避免非授权用户通过神经网络模型的输出结果，推断神经网络模型，进而攻击该神经网络模型，从而提高了神经网络模型的安全性，保护了用户的隐私数据。保护了用户的隐私数据。保护了用户的隐私数据。

【技术实现步骤摘要】
神经网络模型的控制方法、控制管理平台、设备、介质及程序产品


[0001]本申请涉及人工智能(artificial intelligence，AI)
，尤其涉及一种神经网络模型的控制方法、控制管理平台、设备、计算机可读存储介质以及计算机程序产品。

技术介绍

[0002]云计算(cloud computing)的发展为AI应用的开发与部署提供了算力支持，因此，越来越多的开发者选择利用云计算平台(即云平台)训练神经网络模型，从而构建AI应用，并将AI应用部署在云平台上。
[0003]在云服务模式下，AI应用的开发者或运营者可以将由训练好的神经网络模型，例如是卷积神经网络模型、循环神经网络模型等深度神经网络模型构建的AI引用部署到云平台，以供授权的云用户使用。
[0004]然而，由于云平台的系统级防护存在漏洞，非授权用户可能绕过防御机制非法使用神经网络模型。例如非授权用户可以通过多次访问云平台中的神经网络模型，采用暴力手段，如等式求解攻击，剽窃出一个与原有神经网络模型相同的模型。该非授权用户可以使用剽窃的模型进行数据预测，或者对云本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种神经网络模型的控制方法，其特征在于，应用于控制管理平台，所述方法包括：接收来自于用户的访问请求，所述访问请求用于访问所述神经网络模型；当所述用户获得授权时，获取与所述用户的访问请求对应的控制参数的控制信息，所述控制参数包括所述神经网络模型的权重参数、偏置参数和激活函数中的至少一个；根据所述控制参数的控制信息对所述神经网络模型进行控制。2.根据权利要求1所述的方法，其特征在于，所述接收来自于用户的访问请求，包括：接收来自于所述用户的第一访问请求和第二访问请求；所述第一访问请求对应的控制参数的控制信息和第二访问请求对应的控制参数的控制信息不同。3.根据权利要求1所述的方法，其特征在于，所述控制信息包括所述控制参数的演化因子和所述控制参数的位置信息中的至少一个，所述控制参数的位置信息用于表征所述控制参数在所述神经网络模型的位置。4.根据权利要求3所述的方法，其特征在于，所述方法还包括：针对所述用户生成随机数；所述控制参数的位置信息由所述随机数确定。5.根据权利要求4所述的方法，其特征在于，所述随机数为二进制随时数；所述方法还包括：通过滑动窗口与所述二进制随机数确定所述神经网络模型中控制参数的个数。6.根据权利要求1至5任一项所述的方法，其特征在于，所述根据所述控制参数的控制信息...

【专利技术属性】
技术研发人员：孙磊，戴乐育，毛秀青，王粤晗，郭松，郭松辉，胡翠云，李作辉，窦睿彧，
申请(专利权)人：中国人民解放军战略支援部队信息工程大学，
类型：发明
国别省市：