【技术实现步骤摘要】
本专利技术涉及视频数据处理，具体涉及一种基于视频边缘ai推理集群的架构方法。
技术介绍
1、随着技术发展，视频边缘ai推理是指在视频处理系统中，将人工智能(ai)推理服务模型直接部署在靠近数据源的边缘设备上，从而通过在边缘设备上运行数据模型，使得系统可以快速响应并减少远程服务器或云端的算力消耗。随着目前ai推理的进程需求多样，当前边缘设备的部署方式容易受到边缘设备的资源限制。然而现有边缘推理主流是采用指定的方式进行任务分配，当边缘设备的负载出现变化时，其系统可能缺乏有效的处理效率，一方面，边缘设备通常计算能力和存储容量有限，难以处理大量并发任务，特别是所有边缘设备将原始数据或处理结果传回中心服务器，会造成网络带宽的浪费；另一方面，针对少量任务，并且连续视频帧中可能包含大量相似信息，使得推理过程中容易产生冗余，导致资源分配不均或浪费；特别是对于数据量较大的视频流时，原布局方式，不利于性能优化措施不足，重新进行设备的配置周期较长，整体灵活性欠佳，使得应用场景服务性能有所欠缺。因此如何使用边缘设备进行视频边缘ai推理，是值得研究的。
<...【技术保护点】
1.一种基于视频边缘AI推理集群的架构方法，其特征在于，包括如下步骤：
2.根据权利要求1所述的基于视频边缘AI推理集群的架构方法，其特征在于：还包括S400，所述从装置将第一图像数据通过推理服务生成图片数据，所述图片数据通过负载均衡接口返回主装置，所述主装置转发图片数据至服务器，由服务器通过通道websocket给前端web页面显示。
3.根据权利要求2所述的基于视频边缘AI推理集群的架构方法，其特征在于：所述从装置进行推理服务时，所述从装置调用推理模型，将第一图像数据通过推理模型生成图片数据；所述推理服务的执行步骤是：
4.根据...
【技术特征摘要】
1.一种基于视频边缘ai推理集群的架构方法，其特征在于，包括如下步骤：
2.根据权利要求1所述的基于视频边缘ai推理集群的架构方法，其特征在于：还包括s400，所述从装置将第一图像数据通过推理服务生成图片数据，所述图片数据通过负载均衡接口返回主装置，所述主装置转发图片数据至服务器，由服务器通过通道websocket给前端web页面显示。
3.根据权利要求2所述的基于视频边缘ai推理集群的架构方法，其特征在于：所述从装置进行推理服务时，所述从装置调用推理模型，将第一图像数据通过推理模型生成图片数据；所述推理服务的执行步骤是：
4.根据权利要求3所述的基于视频边缘ai推理集群的架构方法，其特征在于：执行s410时，所述从装置设定累积数；获取第一图像数据中的所有单帧图片的个数并判断单帧图片的个数是否超过图片累积数；
5.根据权利要求3所述的基于视频边缘ai推理集群的架构方法，其特征在于：执行s440时，所述从装置设置的相似度参数为t，获取第一边缘图片与对应第二边缘图片的相似度；其相似度s的计算公式是：
6.根据权利要求1所述的基于视频边缘ai推理集群的架构方法，其特征在于：在s300中，所述主装置将第一图像数据发送至从装置进行推理时，所述主装置设置监控时间，所述主装置在监控时间内持续监听对应从装置的推...
【专利技术属性】
技术研发人员：陈辉，李佳林，李金忠，
申请(专利权)人：四川瑞霆智汇科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。