一种基于多模态大模型与AirSim的无人机具身数据生成方法、系统及装置制造方法及图纸

技术编号:43537458 阅读:83 留言:0更新日期:2024-12-03 12:20
本发明专利技术属于具身智能领域,公开一种基于多模态大模型与AirSim的无人机具身数据生成方法、系统及装置;所述方法包括:基于AirSim模拟器搭建仿真飞行环境;在仿真飞行环境中,构建虚拟无人机、目标电力设备以及障碍模型;通过多模态大模型生成虚拟无人机的控制指令集合;虚拟无人机根据控制指令集合在仿真飞行环境中飞行至目标电力设备处进行巡检,实时获取多视角数据、无人机姿态信息、巡检视频和相应的控制指令,来构建多模态具身数据。上述技术方案在提高数据采集效率的同时,避免了无人机进行数据采集的安全风险,以实现对多模态具身数据的获取,在为自然语言模型提供可靠数据集进行训练测试的同时,实现了根据自然语言模型对无人机飞行路线的智能规划。

【技术实现步骤摘要】

本专利技术涉及具身智能领域,特别涉及一种基于多模态大模型与airsim的无人机具身数据生成方法、系统及装置。


技术介绍

1、随着民用无人飞行器技术的发展与新型电力系统建设的逐步推进,推动无人机与基础作业应用融合,推进输变配电立体巡检,实现远程智能巡检,提升生产作业效率。

2、目前,无人机巡检主要通过人工预设的飞行路线飞行至电力设备处进行巡检,而在实际配网巡检场景下,根据人工预设的飞行路线飞行存在灵活程度欠缺、作业鲁棒性不足的问题,同时也使得巡检质量较差,因此提出通过自然语言模型对无人机的飞行路线进行智能规划。

3、而对于自然语言模型的构建则需要通过大量具身数据进行训练测试,优化自然语言模型,以提高无人机的作业灵活性,改善巡检质量。对于具身数据的获取,目前只能通过人工控制无人机在电力场景飞行巡检进行数据采集,使得具身数据采集缓慢、成本较高,并且在耗费较长采集时间的同时,也难以实现对大量具身数据的获取,导致数据采集效率较低。

4、因此,提出一种基于多模态大模型与airsim的无人机具身数据生成方法、系统及装置。

...

【技术保护点】

1.一种基于多模态大模型与AirSim的无人机具身数据生成方法,其特征在于,包括:

2.根据权利要求1所述的一种基于多模态大模型与AirSim的无人机具身数据生成方法,其特征在于,所述步骤:基于AirSim模拟器搭建仿真飞行环境;包括:

3.根据权利要求1所述的一种基于多模态大模型与AirSim的无人机具身数据生成方法,其特征在于,所述步骤:在仿真飞行环境中,构建虚拟无人机、目标电力设备以及障碍模型;包括:

4.根据权利要求1所述的一种基于多模态大模型与AirSim的无人机具身数据生成方法,其特征在于,所述步骤:虚拟无人机根据所述控制指令集合在仿真飞行...

【技术特征摘要】

1.一种基于多模态大模型与airsim的无人机具身数据生成方法,其特征在于,包括:

2.根据权利要求1所述的一种基于多模态大模型与airsim的无人机具身数据生成方法,其特征在于,所述步骤:基于airsim模拟器搭建仿真飞行环境;包括:

3.根据权利要求1所述的一种基于多模态大模型与airsim的无人机具身数据生成方法,其特征在于,所述步骤:在仿真飞行环境中,构建虚拟无人机、目标电力设备以及障碍模型;包括:

4.根据权利要求1所述的一种基于多模态大模型与airsim的无人机具身数据生成方法,其特征在于,所述步骤:虚拟无人机根据所述控制指令集合在仿真飞行环境中飞行至目标电力设备处进行巡检,实时获取多视角数据、无人机姿态信息、巡检视频和相应的控制指令,来构建多模态具身数据;包括:

5.根据权利要求4所述的一种基于多模态大模型与airsim的无人机具身数据生成方法,其特征在于,所述步骤:虚拟无人机根据所述预测飞行路径进行飞行,并实时记录所述仿真飞行环境中虚拟无人机的第一视角视频和无人机姿态信息;包括:

6.根据...

【专利技术属性】
技术研发人员:宋睿谈元鹏莫文昊张桉恺
申请(专利权)人:中国电力科学研究院有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1