基于端侧多模态大模型的车辆主动服务系统及其动态推理方法技术方案

技术编号:46532938 阅读:9 留言:0更新日期:2025-09-30 18:56
本发明专利技术提出了一种基于端侧多模态大模型的车辆主动服务系统及其动态推理方法,属于车联网领域,包括:多模态数据采集模块,采集车辆的多模态感知数据;多模态大模型处理单元,对多模态感知数据进行特征提取,得到不同模态的特征;跨模态注意力融合模块,将不同模态的特征数据转换为查询、键、值三元组并进行融合,得到融合特征;MCP动态推理控制器,基于融合特征进行车辆场景的初步判断,当需要进一步确认时,采集特定参数数据,并结合用户画像和历史行为数据生成主动服务决策;主动服务执行模块,生成车载设备控制指令并执行主动服务操作。本发明专利技术通过端侧多模态大模型与MCP动态推理协议,实现车载主动服务的实时响应和智能决策。

【技术实现步骤摘要】

本专利技术涉及车联网,尤其涉及一种基于端侧多模态大模型的车辆主动服务系统及其动态推理方法


技术介绍

1、随着汽车智能化的快速发展,车载主动服务系统已成为提升驾乘体验的重要技术方向。现有的车载系统主要基于驾驶员主动操作触发相应功能,在驾乘场景理解和个性化服务方面仍存在诸多不足。

2、传统车载服务系统通常采用云端大模型进行数据处理和决策推理,存在以下技术缺陷:首先,云端依赖导致网络延迟较高,响应时间通常在500-1000毫秒以上,难以满足车载场景的实时性要求;其次,用户数据需要上传至云端处理,存在隐私泄露风险;再次,单一模态的传感器识别准确率有限,特别是在暗光环境下,传统rgb摄像头无法有效识别复杂驾乘场景;最后,现有系统缺乏动态推理机制,无法根据推理过程的中间结果动态获取所需参数,导致推理决策不够精准和灵活。

3、中国公开号为cn115175138b的专利技术专利公开了一种基于用户特征提供车载应用的线上服务的方法及车载系统。该专利通过第一车载设备检测多个第二车载设备当前服务的各用户的特征数据,根据特征数据确定用户的车载应用使用偏好信本文档来自技高网...

【技术保护点】

1.一种基于端侧多模态大模型的车辆主动服务系统,其特征在于:包括:

2.如权利要求1所述的一种基于端侧多模态大模型的车辆主动服务系统,其特征在于:所述图像数据包括RGB图像数据和红外图像数据,多模态数据采集模块还包括:

3.如权利要求1所述的一种基于端侧多模态大模型的车辆主动服务系统,其特征在于:所述多模态大模型处理单元采用教师-学生网络架构进行知识蒸馏,具体包括:

4.如权利要求1所述的一种基于端侧多模态大模型的车辆主动服务系统,其特征在于:所述将不同模态的特征数据转换为查询、键、值三元组,具体包括:

5.如权利要求4所述的一种基于端侧多...

【技术特征摘要】

1.一种基于端侧多模态大模型的车辆主动服务系统,其特征在于:包括:

2.如权利要求1所述的一种基于端侧多模态大模型的车辆主动服务系统,其特征在于:所述图像数据包括rgb图像数据和红外图像数据,多模态数据采集模块还包括:

3.如权利要求1所述的一种基于端侧多模态大模型的车辆主动服务系统,其特征在于:所述多模态大模型处理单元采用教师-学生网络架构进行知识蒸馏,具体包括:

4.如权利要求1所述的一种基于端侧多模态大模型的车辆主动服务系统,其特征在于:所述将不同模态的特征数据转换为查询、键、值三元组,具体包括:

5.如权利要求4所述的一种基于端侧多模态大模型的车辆主动服务系统,其特征在于:所述双向注意力机制的计算方法具体包括:

6.如权利要求1所述的一种基于端侧多模...

【专利技术属性】
技术研发人员:徐宝田赵源潘春赵益红
申请(专利权)人:上海弋途科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1