一种TinyML模型自适应管理应用方法及装置制造方法及图纸

本发明专利技术涉及计算机视觉领域，具体提供了一种TinyML模型自适应管理应用方法，采用CS架构，将不同功能的图像识别和数据处理部署到不同的物联网客户端上，任一客户端均可根据所部署的功能不同，向服务器提出需求后远程下载不同的模型，或者根据运行环境的变化实时下载对应的模型，以适应客户端实现不同的功能或者外部环境的变化。与现有技术相比，本发明专利技术也可以很好地实现设备的随时添加，即插即用，在大规模工业场景应用中起到较好的管理效果。模工业场景应用中起到较好的管理效果。模工业场景应用中起到较好的管理效果。

【技术实现步骤摘要】
一种TinyML模型自适应管理应用方法及装置


[0001]本专利技术涉及计算机视觉领域，具体提供一种TinyML模型自适应管理应用方法及装置。

技术介绍

[0002]随着机器学习的发展，微型机器学习(TinyML)得到广泛普及， TinyML成为一个新兴的发展学科，它能够在资源受限的微控制器上实现低资源消耗、低功耗的机器学习算法，TinyML在无处不在的物联网设备上得到广泛应用，可以实时处理各地的传感器数据。
[0003]然而，物联网设备通常是针对特定任务量身定制的，工业物联网网络涉及数百或数千台设备，往往对模型进行微调后很难处理；嵌入式设备通常根据特定用例进行定制，优化计算和效率的能力各不相同，对同一模型的推理速度以及效果也有区别；它们具有不同的传感器、 RAM和闪存大小、计算能力，并且受到异构性和有限资源的影响，很多复杂模型难以在物联网设备上实现。
[0004]此外，TinyML模型一般也具有不同的结构，从而导致很多模型在实际使用中难以发挥出最好的效果。

技术实现思路

[0005]本专利技术是针对上述现有技术本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种TinyML模型自适应管理应用方法，其特征在于，采用CS架构，将不同功能的图像识别和数据处理部署到不同的物联网客户端上，任一客户端均可根据所部署的功能不同，向服务器提出需求后远程下载不同的模型，或者根据运行环境的变化实时下载对应的模型，以适应客户端实现不同的功能或者外部环境的变化。2.根据权利要求1所述的一种TinyML模型自适应管理应用方法，其特征在于，所述物联网设备中设有光强传感器、湿度传感器和摄像头，所述光强传感器、湿度传感器和摄像头均与ARM连接，所述ARM还与GPU和显示器连接。3.根据权利要求2所述的一种TinyML模型自适应管理应用方法，其特征在于，采用ARM读取摄像头数据，将摄像头数据送入GPU进行推理，通过光强传感器以及湿度传感器确定周围环境信息向服务器发出环境描述信息，由客户选择功能，服务器依据所述客户选择的功能以及环境描述信息、GPU型号在数据库中进行索引，推送对应的模型至ARM处理器中，ARM处理器配合GPU完成推理工作并实现人数统计。4.根据权利要求3所述的一种TinyML模型自适应管理应用方法，其特征在于，物联网终端通过网络即将视频流以及推理结果推送至服务器，客户端通过连接服务器进行网页端查看；物联网终端采用rtmp将视频流推流至服务器，客户端通过在服务器拉流实现远程查看。5.根据权利要求4所述的一种TinyML模型自适应管理应用方法，其特征在于，TinyML模型用标识符用于唯一标识模型的ID，将不同训练框架下的模型转换为统一的中间格式NNEF或者ONNX，然后使用Python下的数据持久化保存方式pickle将模型对象进行序列...

【专利技术属性】
技术研发人员：胡佳，李锐，朱翔宇，张永昊，姜凯，肖雪，
申请(专利权)人：山东浪潮科学研究院有限公司，
类型：发明
国别省市：