基于视觉大模型Token并行化的图像分类方法及设备技术

本申请公开了一种基于视觉大模型Token并行化的图像分类方法及设备，涉及图像分类技术领域，该方法包括：主节点在接收到图像处理请求时，将待处理图像输入到动态分辨率预测器模块确定待处理图像的最优分辨率，并基于最优分辨率对待处理图像进行尺寸调整，得到尺寸调整图像；在最优分辨率大于分辨率预设值时，根据等待队列和图像处理要求，利用动态规划算法确定动态规划结果；将等待队列中第一个请求打包为多个token包；按照动态规划结果，所有token包分别发送至不同边缘设备处理。本申请通过设置图像token数量优化装置和推理服务规划装置，能够提高图像分类时边缘设备集群的响应速度和稳定性。

【技术实现步骤摘要】

本申请涉及图像分类，特别是涉及一种基于视觉大模型token并行化的图像分类方法及设备。

技术介绍

1、随着物联网技术飞速发展，智能设备的互联互通越来越普遍。借助物联网特性，各行业纷纷利用该技术使得行业终端设备通过网络实现无缝连接，并催生了许多实际应用场景，如医疗机器人、智能穿戴设备和智能家居等。根据相关机构预测，到2025年，全球接入网络的物联网设备数量将超过一千亿，同时产生的数据量预计将达到300zb以上。这种海量设备和数据的涌现，对传统的数据处理模式提出了严峻挑战。在传统模式下，边缘终端设备的数据通常需要上传到云端进行集中处理，但这种方式面临诸多问题。例如，随着设备数量的爆发式增长，云端平台可能会受到网络延迟、带宽需求过高和功耗增加等限制，导致整体效率降低。此外，大规模数据传输对网络基础设施也带来了巨大压力，不仅增加了成本，还可能影响实时性需求较高的应用场景。为应对这些挑战，边缘计算技术应运而生。边缘计算将数据处理和服务从中心云端移至靠近数据源的网络边缘，允许边缘终端设备在本地进行数据处理和分析。这种架构通过减少数据传输量，降低了对网络带宽的需求，同时本文档来自技高网...

【技术保护点】

1.一种基于视觉大模型Token并行化的图像分类方法，其特征在于，所述基于视觉大模型Token并行化的图像分类方法应用于一种边缘设备集群；

2.根据权利要求1所述的基于视觉大模型Token并行化的图像分类方法，其特征在于，所述图像处理要求包括开始时间、截止时间和效用。

3.根据权利要求1所述的基于视觉大模型Token并行化的图像分类方法，其特征在于，所述基于视觉大模型Token并行化的图像分类方法还包括：

4.根据权利要求1所述的基于视觉大模型Token并行化的图像分类方法，其特征在于，所述动态分辨率预测器模块为ResNet网络；</p>

5.根据...

【技术特征摘要】

1.一种基于视觉大模型token并行化的图像分类方法，其特征在于，所述基于视觉大模型token并行化的图像分类方法应用于一种边缘设备集群；

2.根据权利要求1所述的基于视觉大模型token并行化的图像分类方法，其特征在于，所述图像处理要求包括开始时间、截止时间和效用。

3.根据权利要求1所述的基于视觉大模型token并行化的图像分类方法，其特征在于，所述基于视觉大模型token并行化的图像分类方法还包括：

4.根据权利要求1所述的基于视觉大模型token并行化的图像分类方法，其特征在于，所述动态分辨率预测器模块为resnet网络；

5.根据权利要求1所述的基于视觉大模型token并行化的图像分类方法，其特征在于，所述视觉大模型包括：依次连接的线性映射层、transformer编码器和分类头网络...

【专利技术属性】
技术研发人员：詹玉峰，冯伟，夏元清，刘蔚清，高润泽，翟弟华，吴楚格，张元，于东东，张书钦，
申请(专利权)人：北京理工大学，
类型：发明
国别省市：