一种人脸识别模型的云端部署方法及装置制造方法及图纸

本申请公开了一种人脸识别模型的云端部署方法，用以解决现有的模型上线方法过程繁琐且成本较高的技术问题。方法包括：将人脸识别模型部署在服务器端，并将所述服务器端部署在远端GPU服务器上；开放所述服务器端的grpc端口供客户端进行grpc访问；通过grpc解析所述人脸识别模型的meta数据以及所述人脸识别模型的配置信息；其中，所述客户端包含图片预处理接口、模型输入接口、模型输出接口、模型推理接口以及推理结果后处理接口5个接口。本申请通过上述方法实现了人脸识别模型的云端部署，避免了闲置资源的浪费，节省了人力物力成本。节省了人力物力成本。节省了人力物力成本。

【技术实现步骤摘要】
一种人脸识别模型的云端部署方法及装置


[0001]本申请涉及移动物联网
，尤其涉及一种人脸识别模型的云端部署方法及装置。

技术介绍

[0002]训练完的模型上线部署过程中需要较大的算力，目前模型上线通常采用减小网络规模、使用专用硬件等方式。其中，减小网络模型再移植，过程比较繁琐，还会损失一定的精度，在不同的框架移植过程中由于训练框架的差异导致不可控因素较多，比如，PyTorch训练的模型会比用TensorFlow训练的需要做更多的工作量；而使用专用硬件的方式，使得成本比使用GPU的成本还高，移植过程中还需要编程以适配硬件。
[0003]因此，现亟需一种模型上线部署的实现方法，以解决上述技术问题。

技术实现思路

[0004]本申请实施例提供了一种人脸识别模型的云端部署方法及装置，用以解决现有的模型上线方法过程繁琐且成本较高的技术问题。
[0005]一方面，本申请实施例提供了一种人脸识别模型的云端部署方法，包括：将人脸识别模型部署在服务器端，并将所述服务器端部署在远端GPU服务器上；开放所述服务器端的grpc端本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种人脸识别模型的云端部署方法，其特征在于，所述方法包括：将人脸识别模型部署在服务器端，并将所述服务器端部署在远端GPU服务器上；开放所述服务器端的grpc端口供客户端进行grpc访问；通过grpc解析所述人脸识别模型的meta数据以及所述人脸识别模型的配置信息；其中，所述客户端包含图片预处理接口、模型输入接口、模型输出接口、模型推理接口以及推理结果后处理接口5个接口。2.根据权利要求1所述的一种人脸识别模型的云端部署方法，其特征在于，所述图片预处理接口用于对输入图片进行预设操作；其中，所述预设操作至少包括色彩转换操作、图片缩放操作、数据归一化处理操作以及图片数据提取操作中的任一项或者多项。3.根据权利要求2所述的一种人脸识别模型的云端部署方法，其特征在于，所述色彩转换操作用于将BGR格式的图片转换为RGB格式的图片；所述图片缩放操作用于将所述输入图片按预设要求进行大小缩放；所述数据归一化处理操作用于将所述输入图片的像素点坐标归一化到0到1区间；所述图片数据提取操作用于将读取的图片数据拷入预设缓存变量中。4.根据权利要求3所述的一种人脸识别模型的云端部署方法，其特征在于，所述色彩转换操作采用Opencv中的cvColor函数实现；所述图片缩放操作采用Opencv中的cvsize函数实现；所述数据归一化处理操作采用Opencv中的convertTo函数实现；所述图片数据提取操作采用memcpy函数实现。5.根据权利要求1所述的一种人脸识别模型的云端部署方法，其特征在于，所述模型输入接口用于根据所述人脸识别模型的配置信息，创建triton
‑
client类型的输入作为模型推理接口的输入；其中，所述人脸识别模型的配置信息至少包括以下任一项或者多项：模型名称、数据格式、长、宽以及模型通道数。6.根据权利要求1所述的一种人脸识别模型的云端部署方法，其特征在于，所述模型输出接口用于根据所述人...

【专利技术属性】
技术研发人员：王玉梁，高岩，王建华，高明，
申请(专利权)人：山东新一代信息产业技术研究院有限公司，
类型：发明
国别省市：