System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于深度Q网络的智能无人机集群编队协同控制方法技术_技高网
当前位置: 首页 > 专利查询>中北大学专利>正文

基于深度Q网络的智能无人机集群编队协同控制方法技术

技术编号:41059172 阅读:4 留言:0更新日期:2024-04-24 11:10
本发明专利技术涉及无人机控制技术领域,尤其涉及一种基于深度Q网络的智能无人机集群编队协同控制方法,解决了现有无人机集群编队控制模型存在模型构建过程繁琐、训练工作量大、精度不能满足需求、实时性较差的技术问题,其包括建立智能无人机集群编队系统状态方程;建立智能无人机集群编队系统状态方程;训练基于马尔可夫框架的智能无人机集群编队协同控制模型,最终得出僚机的最佳动作。本发明专利技术所述方法不需要繁琐的建模过程,且对智能无人机集群编队协同控制模型的训练工作量大大减少,在与环境的持续交互中可学习控制策略并更新网络参数,实时性较好;可提高算法的航迹点协同迭代求解能力,解决无人机编队的协同控制等问题。

【技术实现步骤摘要】

本专利技术涉及无人机控制,尤其涉及基于深度q网络的智能无人机集群编队协同控制方法。


技术介绍

1、随着科技的飞速发展和民用无人机日益普及,无人机已经深深融入现代生活。随着无人机技术的持续发展,民用无人机也在持续优化和升级。无人机集群技术,作为新趋势,已受到广泛关注。无人机集群能通过协同飞行、分工合作,以更高效地完成任务。现代的无人机集群采用分布式控制和群体智能算法等技术,使得无人机能相互通信、协作,提高任务效率和准确性。

2、未来,无人机集群将更加智能化、自主化和协同化。民用无人机集群的应用前景非常广阔。随着技术的不断进步和应用场景的不断扩大,无人机集群将会为人们的生活和工作带来更多的便利和价值,民用无人机集群将在各个领域发挥重要作用。物流配送,无人机集群可以用于快递、外卖等物流配送服务,能够实现快速、准确、高效的配送,减轻人力配送的压力,同时也可以降低物流成本。农业植保,无人机集群可以用于农业领域,对农田进行喷药、施肥、种子播撒等作业,提高农业生产的效率和品质。环境保护,无人机集群可以用于环境监测和保护,例如监测污染源、监测生态变化、保护野生动物等,提高环境监测和保护的效率和准确性。灾难救援,在灾难发生后,无人机集群可以用于搜救、物资运输、道路勘察等工作,为救援工作提供重要的支持和帮助。空中监测,无人机集群可以用于空中监测,例如监测气象变化、拍摄城市风光等,为相关部门提供准确的数据和信息。文化娱乐,无人机集群还可以用于文化娱乐领域,例如无人机灯光秀、无人机表演等,为人们提供全新的文化娱乐体验。总之,民用无人机集群的应用前景非常广泛,未来将会在各个领域得到广泛应用。

3、多飞行器编队协同体制具有提高智能飞行器系统在复杂环境中的适应能力,以及对抗干扰的能力。然而,智能无人机集群编队模型通常具有复杂性、时变性和非线性等特点,这使得在考虑传感器误差、环境干扰等随机因素的情况下,系统模型的建模变得困难。比如,模型构建过程繁琐。模型训练工作量大,针对无人机协同控制的模型训练通常需要大量的数据和计算资源,而且这可能会导致训练过程非常耗时。以及最终的精度问题,由于无人机协同控制涉及到复杂的动态环境和传感器噪声,可能会导致精度达不到需求,同时实时性较差,不能在短时间内根据当前状态做出决策更新和调整。


技术实现思路

1、为克服现有无人机集群编队控制模型存在模型构建过程繁琐、训练工作量大、精度不能满足需求、实时性较差的技术缺陷,本专利技术提供了一种基于深度q网络的智能无人机集群编队协同控制方法。

2、本专利技术提供了基于深度q网络的智能无人机集群编队协同控制方法,步骤为:

3、步骤s1、建立智能无人机集群编队系统状态方程,其子步骤为:

4、步骤s11、先建立单个智能无人机质心运动方程;假设智能无人机保持恒定高度,则将智能无人机模型简化为四个自由度,为了弥补简化所造成的损失,并考虑环境扰动的影响,在位置、速度v和姿态三个子状态中引入随机性,得到的单个智能无人机质心运动方程为:

5、                    (1),

6、式(1)中、、分别为无人机的位置、航向角、滚转角;ξ为包括x、y、ψ和的随机状态,是重力加速度;、、表示状态变量的扰动,扰动样本中所有数据点均服从正态分布; 表示滚转角与期望值之间的关系,其利用二阶系统响应模拟智能无人机滚转通道的动态响应;

7、步骤s12、根据单个智能无人机质心运动方程建立智能无人机集群编队系统的状态方程;智能无人机集群编队采用长机-僚机架构,由一个长机和多个僚机组成一个编队单元,在编队单元的控制设计要求中,即使长机机动,僚机也必须与长机保持相对安全距离,并将僚机的俯仰角、偏航角、速度参数变化限制在一定范围内,从而保证编队单元的稳定;长机作为编队单元的领导,引导编队单元整体的运动轨迹,不受其他僚机的影响,僚机不需要感知编队单元的目标信息,只需要从长机获取信息;在惯性坐标系中,坐标 和 代表长机的惯性系统,和表示僚机的惯性系统,在速度坐标系中,和表示以僚机为参考的坐标系中长机和僚机之间的相对距离,和代表长机和僚机的速度,和表示长机和僚机的滚转角,和分别表示长机和僚机的航向角;根据长机和僚机的质心运动方程以及其在智能无人机集群编队中的相对关系,可得智能无人机集群编队单元的运动学模型为:

8、<mstyle displaystyle="true" mathcolor="#000000"><mo>{</mo><mtable columnalign="left"><mtr><mtd><msub><mi>s</mi><mn>1</mn></msub><mi>=</mi><msub><mi>ψ</mi><mi>vf</mi></msub><mi>−</mi><msub><mi>ψ</mi><mi>vl</mi></msub></mtd></mtr><mtr><mtd><msub><mi>s</mi><mn>2</mn></msub><mi>=</mi><msub><mi>ϕ</mi><mi>l</mi></msub></mtd></mtr><mtr><mtd><msub><mi>s</mi><mn>3</mn></msub><mi>=</mi><msub><mi>ϕ</mi><mi>f</mi></msub></mtd></mtr><mtr><mtd><msub><mi>s</mi><mn>4</mn></msub><mi>=</mi><msub><mi>ϕ</mi><mi>d</mi></msub></mtd></mtr><mtr><mtd><mrow><mo>[</mo><mtable><mtr><mtd><m本文档来自技高网...

【技术保护点】

1.基于深度Q网络的智能无人机集群编队协同控制方法,其特征在于,步骤为:

2.根据权利要求1所述的基于深度Q网络的智能无人机集群编队协同控制方法,其特征在于,步骤S3中智能无人机集群编队协同控制模型为:

3.根据权利要求2所述的基于深度Q网络的智能无人机集群编队协同控制方法,其特征在于,对智能无人机集群编队协同控制模型进行训练中,所述-模仿策略为:当僚机在机会为1-的动作空间中进行选择时,所选择的动作由长机和僚机之间的期望相对距离决定,当长机和僚机之间的相对距离超过指定的安全限制时,从可用的动作集中选择一个导数动作,以减轻碰撞的危险;如果相对距离在指定的安全限制内,则僚机应保持当前状态,此时不作任何动作;且在时间步长t中,将所选择的最大动作的Q值、长机的航向角、第i个僚机的滚动角度、第i个僚机的航向角以及航向角的阈值输入深度Q网络,最终输出第i个僚机的动作系列 。

【技术特征摘要】

1.基于深度q网络的智能无人机集群编队协同控制方法,其特征在于,步骤为:

2.根据权利要求1所述的基于深度q网络的智能无人机集群编队协同控制方法,其特征在于,步骤s3中智能无人机集群编队协同控制模型为:

3.根据权利要求2所述的基于深度q网络的智能无人机集群编队协同控制方法,其特征在于,对智能无人机集群编队协同控制模型进行训练中,所述-模仿策略为:当僚机在机会为1-的动作空...

【专利技术属性】
技术研发人员:沈剑孔帅王明祥
申请(专利权)人:中北大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1