一种AI模型加密部署方法、系统、电子设备及存储介质技术方案

本申请提供一种AI模型加密部署方法、系统、电子设备及存储介质，该方法包括：模型授权、模型部署以及模型运行与自迭代。使用该方法使得在客户端本地就可以实现AI模型的训练和推理，客户不需要上传数据，保证了数据的隐私安全，同时被下载的AI模型是经过了加密的，只有获得模型供应商的授权才能运行，保护了AI模型的源代码不被泄露，同时基于虚拟化容器实现了AI模型在客户端的部署，便于管理和版本控制。本申请具有灵活的模型授权方式，支持权限控制；保护了客户的数据安全，防止了泄露；容器化部署，提供环境的一致性和标准化；客户可以本地训练，实现模型自迭代。实现模型自迭代。实现模型自迭代。

【技术实现步骤摘要】
一种AI模型加密部署方法、系统、电子设备及存储介质


[0001]本申请涉及人工智能
，尤其涉及一种AI模型加密部署方法、系统、电子设备及存储介质。

技术介绍

[0002]当前，AI人工智能技术在交通、医疗、金融、安防、家居等领域广泛应用，呈现出落地场景丰富多元、应用推广速度加快的特点，同时也为中小企业降本增效、提质增速、转型升级提供新的增长模块。工信部调查数据显示，中小企业推广人工智能技术的潜力巨大，超过50%的中小企业表示人工智能技术为其带来了盈利，很多企业通过优化管理、生产销售等流程，切实享受到了智能化带来的好处，人工智能正在成为中小企业实现高质量发展的强大动力和有效途径。越来越多的中小企业通过加速人工智能技术应用，创新业务模式，应对数字化时代的机遇和挑战，推动和加速企业走上智能化转型之路。
[0003]然而，目前为中小企业提供的AI模型部署主流方法如图1所示，模型供应商提供AI模型，并在本地完成AI模型的训练，将训练好的AI模型部署到云端服务器。客户根据自身的需求，向模型供应商发起请求。模型供应商收集客户的需求，从已经训练好的模型仓库中匹配合适的AI模型。这样客户就可以通过网页访问或者API接口调用等形式，将自己需要处理的数据上传至模型供应商的云端服务器，AI模型将数据处理后的结果返回给客户。
[0004]目前的AI模型部署主流方法存在以下问题：（1）客户数据隐私难以得到保障。用于为了获得模型推理的结果，需要先将数据上传到模型供应商，这会导致存在数据泄露的风险，对于许多重视数据安全的企业而言，是不可接受的。
[0005]（2）如果将AI模型直接给客户，模型供应商又担心泄露源代码。
[0006]（3）模型更新依赖模型供应商，客户无法根据自己的数据进行优化。AI模型只有通过与应用场景最接近的数据集训练后，才能在实践中获得最好的训练效果。由于AI模型对客户是保密的，无法实现AI模型的自迭代。
[0007]（4）依赖于网络环境。当客户数据较大时，网络环境会严重制约训练和推理速度。

技术实现思路

[0008]针对上述问题，本申请的目的在于提供一种AI模型加密部署方法、系统、电子设备及存储介质，实现让客户在本地就可以实现AI模型的训练和推理，客户不需要上传数据，保证了数据的隐私安全。同时被下载的AI模型是经过加密，只有获得模型供应商的授权才能运行，保护了AI模型的源代码不被泄露。同时基于虚拟化容器实现了AI模型在客户端的部署，便于管理和版本控制。
[0009]本申请的目的采用以下技术方案实现：第一方面，本申请提供了一种AI模型加密部署方法，包括以下步骤：步骤一、模型授权；
客户端获取模型供应商的授权码，运行下载到客户端本地的AI模型；步骤二、模型部署；模型供应商利用镜像仓库来分发AI模型，客户端基于虚拟化容器快速部署AI模型；步骤三、模型运行与自迭代；使用模型供应商的授权码，解密虚拟化容器中的AI模型，完成AI模型的训练和推理。
[0010]在一些可选的实施例中，下载到客户端本地的AI模型为经过加密，加密的AI模型获得模型供应商授权码后加载进入虚拟容器并运行。
[0011]在一些可选的实施例中，所述授权码为模型供应商生成的授权文件，用于导入到要授权使用的AI模型中，模型供应商基于授权码控制AI模型。
[0012]在一些可选的实施例中，模型供应商在生成授权码的同时创建一份记录文件，在客户端遗失授权码之后，根据记录文件重新向模型供应商申请新的授权码。
[0013]在一些可选的实施例中，模型部署为在客户端部署一套AI模型运行的环境，将AI模型从模型供应商的服务器迁移到客户端，基于容器调度运行。
[0014]在一些可选的实施例中，所述模型供应商利用镜像仓库来分发AI模型，采用联合文件系统UnionFS构建模型镜像，模型镜像使用分层的存储结构，由多层文件系统联合组成。
[0015]在一些可选的实施例中，客户端基于虚拟化容器快速部署AI模型，AI模型加载进虚拟化容器后，使用授权码认证，认证包括：1）启动AI模型，将程序加载进虚拟容器；2）检查是否存在授权码，若不存在授权码则给出提示，阻塞等待，若存在授权码则进入步骤3）；3）判断授权码是否合法，若不合法，返回步骤2），若合法则进入步骤4）；4）判断授权码是否在授权期限内，若已过期，返回步骤2），若在授权期限内则进入步骤5）；5）使用获得的授权码解密AI模型；6）通过授权码确定模型能力集；7）运行AI模型。
[0016]在一些可选的实施例中，模型自迭代，包括：采集训练AI模型所需的数据，其中，所需的数据自于客户业务系统；对采集的所述数据进行预处理和预训练，得到权重参数后送入AI模型中训练、评估和调参，完成AI模型的构建工作；对比训练前后的运行效果，保存最优的权重参数；将自迭代的AI模型应用到客户业务系统中，形成一个回路，在客户端本地进行AI模型的自迭代。
[0017]在一些可选的实施例中，所需的数据存放在客户本地的数据仓库，且不需上传至模型供应商的云服务器。
[0018]第二方面，在本申请提供的另一个实施例中，提供了一种AI模型加密部署系统，所
述AI模型加密部署系统包括：授权模块，用于在客户端向模型供应商申请授权码后正常的使用AI模型；部署模块，用于在客户端通过模型供应商授权后，请求供应商将AI模型基于虚拟化容器部署到客户端本地；以及运行与自迭代模块，用于在完成AI模型本地部署后，在客户端本地训练AI模型，更新权重参数，完成AI模型的训练和推理。
[0019]第三方面，在本申请提供的又一个实施例中，提供了一种电子设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行如上述第一方面所述的AI模型加密部署方法对应的步骤。
[0020]第四方面，在本申请提供的再一个实施例中，提供了一种存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如上述第一方面所述的AI模型加密部署方法对应的步骤。
[0021]本申请提供的技术方案，具有如下有益效果：一、支持模型供应商提供的AI模型被下载到客户端，客户不需要上传数据就可以在本地完成AI模型的推理，有效降低了客户数据泄露的风险。
[0022]二、将模型加密，AI模型被下载到客户端后，只有获得供应商的授权，客户才能在本地运行AI模型，完成训练和推理，保证了AI模型源代码不被泄露。
[0023]三、AI模型被下载到了客户端后，客户可以根据自身需求，使用自己的数据集，完成AI模型的训练，实现AI模型的自迭代。
[0024]四、使用虚拟化容器部署。将客户的项目和依赖包(基础镜像)打成模型镜像，客户只需要在本地实例化一个容器，让镜像在容器内运行，从而实现AI模型的快速部署，并且有利于AI模型的版本控制。
[0025]因此，本申请的AI模型加密部署方法、系统、电子设备及存储介质，具有灵活的AI模型授权方式，支持权限控制；保护了客户的数据安全，防止了泄露本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种AI模型加密部署方法，其特征在于，所述AI模型加密部署方法包括以下步骤：步骤一、模型授权；客户端获取模型供应商的授权码，运行下载到客户端本地的AI模型；步骤二、模型部署；模型供应商利用镜像仓库来分发AI模型，客户端基于虚拟化容器快速部署AI模型；步骤三、模型运行与自迭代；使用模型供应商的授权码，解密虚拟化容器中的AI模型，完成AI模型的训练和推理。2.根据权利要求1所述的AI模型加密部署方法，其特征在于，下载到客户端本地的AI模型为经过加密，加密的AI模型获得模型供应商授权码后加载进入虚拟容器并运行。3.根据权利要求2所述的AI模型加密部署方法，其特征在于，所述授权码为模型供应商生成的授权文件，用于导入到要授权使用的AI模型中，模型供应商基于授权码控制AI模型。4.根据权利要求3所述的AI模型加密部署方法，其特征在于，模型供应商在生成授权码的同时创建一份记录文件，在客户端遗失授权码之后，根据记录文件重新向模型供应商申请新的授权码。5.根据权利要求1所述的AI模型加密部署方法，其特征在于，模型部署为在客户端部署一套AI模型运行的环境，将AI模型从模型供应商的服务器迁移到客户端，基于容器调度运行。6.根据权利要求1或5所述的AI模型加密部署方法，其特征在于，所述模型供应商利用镜像仓库来分发AI模型，采用联合文件系统UnionFS构建模型镜像，模型镜像使用分层的存储结构，由多层文件系统联合组成。7.根...

【专利技术属性】
技术研发人员：丁华，刘冬，张杰，于兴林，康竞然，吴嵩波，张慧云，
申请(专利权)人：浙江西图盟数字科技有限公司，
类型：发明
国别省市：