一种高效的深度学习模型部署框架制造技术

本发明专利技术涉及人工智能的技术领域，特别是涉及一种高效的深度学习模型部署框架，以当前市面上最优的算法作为基础，以JSON配置文件为纽带，将算法以指定顺序执行，实现了深度学习主干网络在指定设备环境的组建和运行，实现了深度学习模型由python端一键部署至指定设备的功能，同时模型模块实现了实用模型算法的一键迁移检测、识别和系统部署，模型部署采用JSON配置文件，易于维护、管理和更新；包括算法模块、接口模块、组织模块、网络模块和模型模块，算法模块、接口模块、组织模块、网络模块和模型模块的关系呈金字塔结构，算法模块提供基础算法作为整个深度学习框架的基础。

An efficient deployment framework of deep learning model

【技术实现步骤摘要】
一种高效的深度学习模型部署框架
本专利技术涉及人工智能的
，特别是涉及一种高效的深度学习模型部署框架。
技术介绍
众所周知，近几年随着人工智能的飞速发展，智能设备在监控、识别、检测等领域发挥着重要作用，也涌现出许多优秀的方案和产品。而人工智能模型的部署是人工智能产品中繁琐且重要的环节，为了提高模型的部署效率专利技术了一种高效的深度学习模型部署框架，该框架使用C/C++开发，使用JSON文本部署模型。目前在人工智能领域中，存在许多优秀的深度学习模型部署框架，如CMSIS-NN，NCNN等，但该类的深度学习模型部署框架更多的是考虑通用性，因此在指定设备或产品上无法将模型性能发挥至极致，现有的深度学习模型部署框架仍处于开发和优化阶段，如果将其用于产品的开发可能存在隐患且不利于后期维护，支持一键部署的模型较单一，大多数只支持热门的网络结构，如VGG系列、Resnet系列和YOLO系列等，对于用户自己搭建的网络结构支持并不理想，且在跨平台和多系统支持上具有局限性。
技术实现思路
为解决上述技术问题，本专利技术提供一种融合现有深度本文档来自技高网...

【技术保护点】
1.一种高效的深度学习模型部署框架，其特征在于，包括算法模块(1)、接口模块(2)、组织模块(3)、网络模块(4)和模型模块(5)，算法模块(1)、接口模块(2)、组织模块(3)、网络模块(4)和模型模块(5)的关系呈金字塔结构，算法模块(1)提供基础算法作为整个深度学习框架的基础，接口模块(2)对算法模块(1)进行组装或二次封装，为组织模块(3)提供易用、灵活的接口函数，起到桥梁的作用，组织模块(3)为整个深度学习框架的核心，通过解析JSON模型配置文件获取模型的网络信息，并根据模型的网络信息导出模型参数，同时根据模型网络各层间的顺序调用相对应的接口函数，从而实现模型一键部署功能，网络模块(...

【技术特征摘要】
1.一种高效的深度学习模型部署框架，其特征在于，包括算法模块(1)、接口模块(2)、组织模块(3)、网络模块(4)和模型模块(5)，算法模块(1)、接口模块(2)、组织模块(3)、网络模块(4)和模型模块(5)的关系呈金字塔结构，算法模块(1)提供基础算法作为整个深度学习框架的基础，接口模块(2)对算法模块(1)进行组装或二次封装，为组织模块(3)提供易用、灵活的接口函数，起到桥梁的作用，组织模块(3)为整个深度学习框架的核心，通过解析JSON模型配置文件获取模型的网络信息，并根据模型的网络信息导出模型参数，同时根据模型网络各层间的顺序调用相对应的接口函数，从而实现模型一键部署功能，网络模块(4)为组织模块(3)的产物，网络模块(4)提供当下热门且实用的主干网络，开发人员可直接将网络模块(4)的主干网络应用于开发过程中，模型模块(5)为整个深度学习框架的应用实例，由组织模块(3)或网络模块(4)提供主干网络，由接口模块(2)提供算法接口函数，由算法模块(1)提供基础算法，开发人员可直接将该模块中的模型用于开发过程。


2.如权利要求1所述的一种高效的深度学习模型部署框架，其特征在于，算法模块(1)包括卷积、池化，全连接、图像处理等算法，算法模块(1)作为深度学习框架的最底层，使用C语言和汇编语言编写一个个独立的算法，为整个深度学习框架提供算法基础。


3.如权利要求2所述的一种高效的深度学习模型部...

【专利技术属性】
技术研发人员：王亮，廖镜森，杨嘉盛，
申请(专利权)人：深圳市守行智能科技有限公司，
类型：发明
国别省市：广东;44