本申请提供模型部署的方法、装置、系统、节点及存储介质。本申请中的模型服务节点通过接收访问设备发送的模型部署请求；可以基于模型部署请求中包括的框架结构从多个候选执行节点中选择与该框架结构对应的目标执行节点，也就是说，基于该框架结构将模型部署请求交予多个候选执行节点中可以执行该模型部署请求的目标执行节点；进而可以通过目标执行节点，基于模型部署请求中包括的模型配置信息，生成目标模型；通过该目标执行节点部署该目标模型。也就是说，不需要开发工程师基于模型数据(框架结构和模型配置信息)用对应的技术框架进行程序开发来形成目标模型服务，这可以减少开发工程师的工作量，可以快速地部署目标模型。可以快速地部署目标模型。可以快速地部署目标模型。
【技术实现步骤摘要】
模型部署的方法、装置、系统、节点及存储介质
[0001]本申请涉及计算机
，并且更具体地，涉及计算机
中的模型部署的方法、装置、系统、节点及存储介质。
技术介绍
[0002]人工智能模型的种类是多种多样的。例如各种目标检测模型、各种图像识别模型和各种语义分割模型等。不同人工智能模型的框架结构可能也存在差异。
[0003]相关技术中，一般是由算法工程师完成任意人工智能模型的训练，再由开发工程师将训练得到的模型数据用对应的技术框架进行程序开发，最后形成可供第三方调用的模型服务，这种由开发工程师进行程序开发的方式既繁琐又耗时。
技术实现思路
[0004]本申请提供了模型部署的方法、装置、系统、节点及存储介质，该方法能够减少开发工程师的工作量，能够快速地部署目标模型。
[0005]第一方面，提供了一种模型部署的方法，该方法由模型服务节点执行，该方法包括：接收访问设备发送的模型部署请求，该模型部署请求包括用于部署目标模型所需要的框架结构和模型配置信息，该框架结构用于描述部署该目标模型时使用的运行环境，该模型配置信息用于描述部署该目标模型时使用的各种属性信息；基于该框架结构从多个候选执行节点中选择与该框架结构对应的目标执行节点，该候选执行节点用于基于模型配置信息完成模型的生成和部署任务；通过该目标执行节点，基于该模型配置信息，生成该目标模型；通过该目标执行节点部署该目标模型。
[0006]上述技术方案中，模型服务节点通过接收访问设备发送的模型部署请求；可以基于模型部署请求中包括的框架结构从多个候选执行节点中选择与该框架结构对应的目标执行节点，也就是说，基于该框架结构将模型部署请求交予多个候选执行节点中可以执行该模型部署请求的目标执行节点；进而可以通过目标执行节点基于模型部署请求中包括的模型配置信息，生成目标模型；通过该目标执行节点部署该目标模型。也就是说，无需开发工程师基于模型数据(框架结构和模型配置信息)利用对应的技术框架进行程序开发来形成目标模型服务，这可以减少开发工程师的工作量，可以快速地部署目标模型。
[0007]结合第一方面，在某些可能的实现方式中，通过该目标执行节点，基于该模型配置信息，生成该目标模型，包括：通过该目标执行节点，确定与该模型配置信息匹配的程序代码；通过该目标执行节点，基于该模型配置信息和该模型配置信息匹配的程序代码，生成该目标模型。
[0008]上述技术方案中，由于该模型配置信息描述了部署该目标模型时使用的各种属性信息，因此在确定部署该目标模型所需要的程序代码时，可以通过该目标执行节点，确定与该模型配置信息匹配的程序代码；从而再基于该模型配置信息和该模型配置信息匹配的程序代码，生成该目标模型。
[0009]结合第一方面和上述实现方式，在某些可能的实现方式中，该模型配置信息包括模型类型、模型配置参数、模型预处理过程和模型后处理过程，通过该目标执行节点，确定与该模型配置信息匹配的程序代码，包括：通过该目标执行节点，确定与该模型类型匹配的模型程序代码、与该模型预处理过程匹配的预处理程序代码，以及与该模型后处理过程匹配的后处理程序代码；通过该目标执行节点，基于该模型配置信息和该模型配置信息匹配的程序代码，生成该目标模型，包括：通过该目标执行节点，基于该模型配置参数、该模型程序代码、该预处理程序代码和该后处理程序代码，生成该目标模型。
[0010]上述技术方案中，在模型配置信息包括模型类型、模型配置参数、模型预处理过程和模型后处理过程的情况下，可以通过目标执行节点，确定与该模型类型匹配的模型程序代码、与该模型预处理过程匹配的预处理程序代码，以及与该模型后处理过程匹配的后处理程序代码；也就是说，通过目标执行节点，基于模型配置信息中包括的信息对应找到匹配的程序代码；进而通过目标执行节点基于找到的程序代码生成目标模型；也就是说，不需要开发工程师基于模型配置信息中包括的信息逐一地开发程序代码，这可以减少开发工程师的工作量，快速生成目标模型。
[0011]结合第一方面和上述实现方式，在某些可能的实现方式中，通过该目标执行节点，基于该模型配置参数、该模型程序代码、该预处理程序代码和该后处理程序代码，生成该目标模型，包括：通过该目标执行节点，采用该模型配置参数替换该模型程序代码、该预处理程序代码和该后处理程序代码中的对应部分，形成目标模型程序代码、目标预处理程序代码和目标后处理程序代码；将该目标模型程序代码、该目标预处理程序代码和该目标后处理程序代码进行组合，生成该目标模型。
[0012]上述技术方案中，在通过目标执行节点对应确定出模型程序代码、预处理程序代码和后处理程序代码后，可以通过目标执行节点，采用模型配置参数替换各个程序代码(模型程序代码、预处理程序代码和后处理程序代码)中的对应部分，以形成各个目标程序代码；进而通过目标执行节点对各个目标程序代码进行组合，也就是说，将各个目标程序代码之间进行连接，生成该目标模型。
[0013]结合第一方面和上述实现方式，在某些可能的实现方式中，该方法还包括下述中的任一项：在该模型程序代码、该预处理程序代码和该后处理程序代码存在于配置数据库的情况下，通过该目标执行节点从该配置数据库中调用该模型程序代码、该预处理程序代码和该后处理程序代码；在该模型程序代码、该预处理程序代码和该后处理程序代码中的至少一项不存在于该配置数据库的情况下，通过该目标执行节点获取该访问设备上传的自定义程序代码，该自定义程序代码包括不存在于该配置数据库中的程序代码。
[0014]上述技术方案中，在配置数据库中存有该模型程序代码、该预处理程序代码和该后处理程序代码的情况下，可以通过该目标执行节点从该配置数据库中直接调用已有的该模型程序代码、该预处理程序代码和该后处理程序代码；而在该模型程序代码、该预处理程序代码和该后处理程序代码不存于该配置数据库中的情况下，该访问设备可以将自定义的程序代码上传到配置数据库，这样可以通过目标执行节点从配置数据库中获取该访问设备自定义的程序代码，进而可以生成目标模型。这样，在配置数据库中有可以直接调用的程序代码的情况下，可以通过目标执行节点直接调用，这种方式下可以增加程序代码的重用率；而在配置数据中不存在可以通过目标执行节点直接调用的程序代码的情况下，可以通过访
问设备上传自定义的程序代码，这样就可以通过目标执行节点获取自定义的程序代码，进而可以生成目标模型，这种方式下可以避免配置数据库中没有访问设备需要的程序代码，而访问设备还无法自定义上传，进而不能生成目标模型的现象。
[0015]结合第一方面和上述实现方式，在某些可能的实现方式中，该模型部署请求还包括身份认证参数，该方法还包括：基于该身份认证参数验证该模型部署请求是否合法；以及，基于该框架结构从该多个候选执行节点中选择与该框架结构对应的目标执行节点，包括：在该模型部署请求合法的情况下，基于该框架结构从该多个候选执行节点中选择与该框架结构对应的目标执行节点。
[0016]上述技术方案中，在该模型配置信息中包括身份认证参数的情况下本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种模型部署的方法，其特征在于，由模型服务节点执行，所述方法包括：接收访问设备发送的模型部署请求，所述模型部署请求包括用于部署目标模型所需要的框架结构和模型配置信息，所述框架结构用于描述部署所述目标模型时使用的运行环境，所述模型配置信息用于描述部署所述目标模型时使用的各种属性信息；基于所述框架结构从多个候选执行节点中选择与所述框架结构对应的目标执行节点，所述候选执行节点用于基于模型配置信息完成模型的生成和部署任务；通过所述目标执行节点，基于所述模型配置信息，生成所述目标模型；通过所述目标执行节点部署所述目标模型。2.根据权利要求1所述的方法，其特征在于，所述通过所述目标执行节点，基于所述模型配置信息，生成所述目标模型，包括：通过所述目标执行节点，确定与所述模型配置信息匹配的程序代码；通过所述目标执行节点，基于所述模型配置信息和所述模型配置信息匹配的程序代码，生成所述目标模型。3.根据权利要求2所述的方法，其特征在于，所述模型配置信息包括模型类型、模型配置参数、模型预处理过程和模型后处理过程，所述通过所述目标执行节点，确定与所述模型配置信息匹配的程序代码，包括：通过所述目标执行节点，确定与所述模型类型匹配的模型程序代码、与所述模型预处理过程匹配的预处理程序代码，以及与所述模型后处理过程匹配的后处理程序代码；所述通过所述目标执行节点，基于所述模型配置信息和所述模型配置信息匹配的程序代码，生成所述目标模型，包括：通过所述目标执行节点，基于所述模型配置参数、所述模型程序代码、所述预处理程序代码和所述后处理程序代码，生成所述目标模型。4.根据权利要求3所述的方法，其特征在于，所述通过所述目标执行节点，基于所述模型配置参数、所述模型程序代码、所述预处理程序代码和所述后处理程序代码，生成所述目标模型，包括：通过所述目标执行节点，采用所述模型配置参数替换所述模型程序代码、所述预处理程序代码和所述后处理程序代码中的对应部分，形成目标模型程序代码、目标预处理程序代码和目标后处理程序代码；将所述目标模型程序代码、所述目标预处理程序代码和所述目标后处理程序代码进行组合，生成所述目标模型。5.根据权利要求2所述的方法，其特征在于，所述方法还包括下述中的任一项：在所述模型程序代码、所述预处理程序代码和所述后处理程序代码存在于配置数据库的情况下，通过所述目标执行节点从所述配置数据库中调用所述模型程序代码、所述预处理程序代码和所述后处理程序代码；在所述模型程序代码、所述预处理程序代码和所述后处理程序代码中的至少一项不存在于所述配置数据库的情况下，通过所述目标执行节点获取所述访问设备上传的自定义程序代码，所述自定义程序代码包括不存在于所述配置数据库中的程序代码。6.根据权利要求1所述的方法，其特征在于，所述模型部署请求还包括身份认证参数，所述方法还包括：
基于所述身份认证参数验证所述模型部署请求是否合法；以及，基于所述框架结构从所述多个候选执行节点中选择与所述框架...
【专利技术属性】
技术研发人员：计明亮，
申请(专利权)人：长城汽车股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。