一种基于数字签名和GRPC的深度学习管理方法及系统技术方案

本发明专利技术公开了一种基于数字签名和GRPC的深度学习管理方法及系统，所述方法包括：对配置文件进行加密以获取加密文件，所述配置文件为深度学习过程中所需服务的配置项集合；获取所述加密文件的第一特征码，并根据所述第一特征码生成第一报文串；获取所述主服务器的硬件信息并对所述硬件信息加密后生成第二报文串；将所述第一报文串以及第二报文串进行加密以形成数字签名文件；将所述数字签名文件发送至目标服务器以实现分布式部署管理。本发明专利技术将深度学习推理过程和其他的业务模块实现分离部署，推理过程部署的服务所需要的计算硬件成本比较大，而不同业务的硬件成本较小，可以因应不同的应用场景提供性价比更高的部署方案。不同的应用场景提供性价比更高的部署方案。不同的应用场景提供性价比更高的部署方案。

A deep learning management method and system based on digital signature and grpc

【技术实现步骤摘要】
一种基于数字签名和GRPC的深度学习管理方法及系统


[0001]本专利技术是关于深度学习领域，特别是关于一种基于数字签名和GRPC的深度学习管理方法及系统。

技术介绍

[0002]人工智能应用核心功能是由深度学习方法实现的。深度学习方法主要有两个阶段，模型训练阶段和模型推理阶段。训练阶段主要用于在人工智能应用研发过程中根据神经网络对一定量的数据的特征进行学习，记录网络节点的权重、偏置等参数作为模型。推理阶段则是将训练过程中记录下来的模型重新作用在新的数据样本中，得到识别出已知的模式或对象。
[0003]在深度学习推理的实际应用过程中，为了满足计算效率的需要，通常会使用分布式的集群系统对模型进行部署，这个过程中需要对部署在不同物理主机上的深度模型推理过程进行有效的管理，包括数据的传输，任务的调度，以及计算资源的管理。但是对于在分布式的集群系统上进行深度学习推理过程中的存储空间、传输速度等调度管理方案一直制约着相关技术的发展，因此存在改进的需求。
[0004]公开于该
技术介绍
部分的信息仅仅旨在增加对本专利技术的总体背景的理解，而不应当被视为承认或以任何形式暗示该信息构成已为本领域一般技术人员所公知的现有技术。

技术实现思路

[0005]本专利技术的目的在于提供一种基于数字签名和GRPC的深度学习管理方法及系统，其能够解决业界人工智能应用在分布式环境下深度学习推理过程的部署问题。
[0006]为实现上述目的，本专利技术提供了一种基于数字签名和GRPC的深度学习管理方法，应用于主服务器，所述方法包括：
[0007]对配置文件进行加密以获取加密文件，所述配置文件为深度学习过程中所需服务的配置项集合；
[0008]获取所述加密文件的第一特征码，并根据所述第一特征码生成第一报文串；
[0009]获取所述主服务器的硬件信息并对所述硬件信息加密后生成第二报文串；
[0010]将所述第一报文串以及第二报文串进行加密以形成数字签名文件；
[0011]将所述数字签名文件发送至目标服务器以实现分布式部署管理。
[0012]优选的，所述方法还包括：
[0013]将所述第一报文串以及第二报文串合成为第三报文串；
[0014]对所述第三报文串进行加密以形成数字签名文件。
[0015]优选的，对配置文件进行加密前，所述方法还包括：
[0016]分别生成多种所需服务的配置项；所述配置项包括：动态库文件的第二特征码，服务的名称、运行时间限制以及运行次数限制；
[0017]将多种所需服务的配置项组合以形成所述配置文件。
[0018]优选的，所述方法还包括：将所述第一报文串以及动态库文件发送至目标服务器。
[0019]优选的，所述方法包括：
[0020]在所述主服务器运行前，对所述数字签名文件进行第一鉴权；所述第一鉴权为验证所述数字签名文件的合法性。
[0021]优选的，对所述数字签名文件进行第一鉴权包括：
[0022]分别生成第四报文串以及第五报文串，所述第四报文串的生成方式与第一报文串的生成方式相同，所述第五报文串的生成方式与第二报文串的生成方式相同；
[0023]读取部署时生成的数字签名文件并对所述数字签名文件进行解密以获取第一报文串以及第二报文串；
[0024]比较所述第一报文串与第四报文串是否相同，以及第二报文串与第五报文串是否相同；
[0025]若均相同，则所述第一鉴权成功。
[0026]优选的，所述第一鉴权成功后，所述方法还包括：
[0027]读取所述加密文件；
[0028]对所述加密文件进行解析以得到所述配置文件；
[0029]遍历所述配置文件以对动态库文件进行加载。
[0030]优选的，对动态库文件进行加载后，所述方法还包括：
[0031]监听客户端发送的调用请求；
[0032]当收到所述调用请求时，对所述动态库文件进行第二鉴权；
[0033]当所述第二鉴权成功后，提供所述动态库文件的调用接口。
[0034]优选的，所述方法还包括：
[0035]创建执行深度学习的子进程以令所述目标服务器执行深度学习；
[0036]接收所述目标服务器返回的学习结果，并结束子进程。
[0037]本专利技术还提供一种基于数字签名和GRPC的深度学习管理系统，所述系统包括：执行如上任一项所述方法的设备。
[0038]与现有技术相比，根据本专利技术管理方法进行深度学习，可以将学习推理过程和其他的业务模块可以实现分离部署。推理过程部署的服务所需要的计算硬件成本比较大，而不同业务的硬件成本较小，可以因应不同的应用场景提供性价比更高的部署方案。
附图说明
[0039]图1是根据本专利技术一实施方式的一种基于数字签名和GRPC的深度学习管理方法流程图；
[0040]图2是根据本专利技术另一实施方式的一种基于数字签名和GRPC的深度学习管理方法流程图；
[0041]图3是根据本专利技术另一实施方式的一种基于数字签名和GRPC的深度学习管理方法流程图。
具体实施方式
[0042]下面结合附图，对本专利技术的具体实施方式进行详细描述，但应当理解本专利技术的保
护范围并不受具体实施方式的限制。
[0043]除非另有其它明确表示，否则在整个说明书和权利要求书中，术语“包括”或其变换如“包含”或“包括有”等等将被理解为包括所陈述的元件或组成部分，而并未排除其它元件或其它组成部分。
[0044]RPC(Remote Procedure Call):远程过程调用，它是一种通过网络从远程计算机程序上请求服务，而不需要了解底层网络技术的思想，RPC框架是基于HTTP协议实现的，底层使用到了Netty框架的支持。而GRPC则是Google公布的开源软件，基于最新的HTTP 2.0协议，并支持常见的众多编程语言，对编程语言的兼容性较好，可以支持桌面应用软件，web应用，或者python脚本等多种形态的客户端进行调用，实用性强。
[0045]由于深度学习及推理过程部署的服务所需要的计算硬件成本比较大，而其他业务的硬件成本较小，因此可根据不同的应用场景提供性价比更高的部署管理方案。在本专利技术下面具体的实施例中，部署管理的思想符合GRPC的理论，将深度学习及后续推理过程和其他的业务模块实现分离部署和运行计算。
[0046]深度学习模型推理框架服务本身以C++动态库文件的形式进行部署，主服务器对外提供基于GRPC框架协议的服务调用API接口，对内包含有授权认证、深度学习管理、通信管理以及日志管理等辅助功能。
[0047]如图1至图3所示，根据本专利技术优选实施方式的一种基于数字签名和GRPC的深度学习管理方法，应用于主服务器，所述方法包括：
[0048]步骤101，对配置文件进行加密以获取加密文件，所述配置文件为深度学习过程中所需服务的配置项集合。具体的，在本步骤中将深度学习所需的服务的配置项本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于数字签名和GRPC的深度学习管理方法，应用于主服务器，其特征在于，所述方法包括：对配置文件进行加密以获取加密文件，所述配置文件为深度学习过程中所需服务的配置项集合；获取所述加密文件的第一特征码，并根据所述第一特征码生成第一报文串；获取所述主服务器的硬件信息并对所述硬件信息加密后生成第二报文串；将所述第一报文串以及第二报文串进行加密以形成数字签名文件；将所述数字签名文件发送至目标服务器以实现分布式部署管理。2.如权利要求1所述的基于数字签名和GRPC的深度学习管理方法，其特征在于，所述方法还包括：将所述第一报文串以及第二报文串合成为第三报文串；对所述第三报文串进行加密以形成数字签名文件。3.如权利要求1所述的基于数字签名和GRPC的深度学习管理方法，其特征在于，对配置文件进行加密前，所述方法还包括：分别生成多种所需服务的配置项；所述配置项包括：动态库文件的第二特征码，服务的名称、运行时间限制以及运行次数限制；将多种所需服务的配置项组合以形成所述配置文件。4.如权利要求3所述的基于数字签名和GRPC的深度学习管理方法，其特征在于，所述方法还包括：将所述第一报文串以及动态库文件发送至目标服务器。5.如权利要求2或3所述的基于数字签名和GRPC的深度学习管理方法，其特征在于，所述方法包括：在所述主服务器运行前，对所述数字签名文件进行第一鉴权；所述第一鉴权为验证所述数字签名文件的合法性。6.如权利要求5所述的基于数字签...

【专利技术属性】
技术研发人员：霍焯亮，魏军，
申请(专利权)人：广州柏视数据科技有限公司，
类型：发明
国别省市：