System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种面向强化学习训练的无人机集群孪生模型衍生方法技术_技高网

一种面向强化学习训练的无人机集群孪生模型衍生方法技术

技术编号:40923398 阅读:2 留言:0更新日期:2024-04-18 14:47
本发明专利技术公开了一种面向强化学习训练的无人机集群孪生模型衍生方法,该方法属于系统建模与仿真领域,可以对无人机集群数字孪生模型的位姿进行衍生,增加训练数据的数量和质量,从而提升强化学习算法在无人机集群控制中的表现。该方法基于分布拟合检验,首先建立假设分布,通过最大似然估计法得到假设分布的未知参数,其次通过拟合优度检验,分布比较,分布优化选择最佳拟合分布,然后对假设分布进行采样获得扩展的仿真模型参数实现模型衍生,最后通过虚实结合的方式对模型衍生的有效性进行验证。

【技术实现步骤摘要】

本专利技术属于系统建模与仿真领域,特别涉及面向强化学习训练的无人机集群孪生模型衍生方法


技术介绍

1、近年来,随着无人机技术的迅猛发展,无人机已经成为一个引人注目的研究领域。无人机的广泛应用可以追溯到多个领域。首先,在军事领域,无人机不仅可以用于侦查和监视任务,还可以进行精确打击和战场支援。其次,在民用领域,无人机在航空摄影、物流配送、农业监测等方面的应用也得到了快速发展。此外,无人机技术还在灾害响应、环境监测、电力巡检等领域发挥着重要作用。相较于传统的飞行器,无人机具有几个显著的优势。首先,它们可以在危险或难以到达的区域执行任务,例如高空、深海或火灾现场。其次,无人机具有较低的成本和灵活性,可以快速部署和适应不同的任务需求。此外,无人机还能够携带各种传感器和设备,实现多功能的数据收集和处理,提供实时的监测和决策支持。

2、随着无人机应用领域的扩大和环境的复杂化,单一无人机在面对复杂任务和敌对环境时存在一定的局限性。因此,构建无人机集群已成为一个备受关注的研究方向。从军事角度来看,无人机集群可以实现更高效、更智能的战术行动,提供更好的战场信息收集和打击能力。从民用角度来看,无人机集群可以实现更快速、更准确的数据采集和任务执行。强化学习作为一种机器学习方法,具有自主学习和适应环境的能力,在解决无人机集群问题上具有显著优势。强化学习能够通过与环境的交互来学习最优策略,使无人机能够根据实时环境信息做出智能决策,并且通过探索和利用的方式进行学习,从而使无人机集群能够适应不同的任务需求和环境变化。强化学习在解决无人机集群问题中可以应对多个困境。首先,强化学习可以帮助无人机集群实现任务分配和资源协调,使得每个无人机能够完成特定的任务并实现最优的资源利用。其次,强化学习可以提供无人机之间的通信和协作策略,实现信息共享和合作决策,从而提高整个集群的效率和鲁棒性。此外,强化学习还可以通过学习调度和路径规划策略,优化无人机集群的运行效果。综上所述,面对复杂环境和任务需求,构建无人机集群已成为必要的研究方向。强化学习作为一种智能学习方法,能够帮助无人机集群实现智能决策、协同合作和优化运行。因此,将无人机与强化学习相结合进行训练是推动无人机集群技术发展的重要途径。然而,强化学习需要大量的数据来进行训练,而真实无人机数据的获取困难和成本较高,限制了训练数据的数量和质量。为了解决这一问题,研究者们开始关注数字孪生(digital twin)技术。

3、近年来,数字孪生技术作为一种新兴技术受到了广泛关注。数字孪生技术是指通过建立物理系统或过程的数值模型,来实现与实际物理系统相对应的虚拟仿真系统。数字孪生技术具有高度仿真性、可重复性和有效性等优势,在工业、航空、医疗等领域已被广泛应用。通过数字孪生技术,将实际系统与其数字孪生模型相结合,可以实现真实物理试验数据与虚拟仿真试验结果的相互印证与验证,从而提高系统可靠性和预测性。

4、利用分布拟合检验技术对无人机的孪生模型进行衍生,可以扩展可用于强化学习训练的无人机样本数量。分布拟合检验是一种通过比较观测数据与某个理论分布之间的差异来评估数据拟合程度的统计方法,可以帮助确定观测数据是否符合某种已知的概率分布,例如正态分布或指数分布。通过将无人机数字孪生模型的数据与已知分布进行比较,可以评估孪生模型在描述真实无人机数据方面的准确性和适应性。分布拟合检验的优势在于可以量化无人机数据与理论分布之间的差异,并提供统计上的可靠性指标,根据分布拟合检验的结果对孪生模型进行修正和改进,从而能够更好地捕捉无人机行为和特征。通过观测数据与理论分布之间的比较,可以生成更多的合成数据,以补充真实数据的不足,使强化学习算法可以在更大的样本空间中进行训练,提高模型的泛化能力和性能。因此,分布拟合检验技术为强化学习训练提供了一种有效的手段,通过对无人机孪生模型的衍生,可以增加训练数据的数量和质量,从而提升强化学习算法在无人机集群控制中的表现。


技术实现思路

1、本专利技术的目的是针对无人机集群数字孪生仿真系统,提出一种面向强化学习训练的无人机集群孪生模型衍生方法。为了实现该目的,本专利技术所采用的步骤是:

2、步骤一:建立假设分布;设x1,x2,…,xn是来自无人机数字孪生仿真模型参数样本总体的简单样本,且x1,x2,…,xn独立同分布,其中n为物理实体个数;选取工程中最常使用的五种分布作为备选的假设分布,包括正态分布、对数正态分布、威布尔分布、伽马分布和指数分布,依次选取其中一种分布作为无人机数字孪生仿真模型参数服从的分布,用于后续的分布拟合校验;

3、步骤二:通过最大似然估计法得到假设分布的未知参数;校正后的数字孪生仿真模型参数的样本总体属连续型,其假设分布的概率密度函数f(x,θ),θ∈θ的形式已知,θ为待估计参数,θ是θ可能取值的范围。样本x1,x2,…,xn的联合概率密度函数称为样本的似然函数l(θ),然后在θ的所有可能取值中寻找一个值使得似然函数取到最大值,该值即为θ的最大似然估计

4、步骤三:拟合优度检验,使用ad(anderson-darling)检验数字孪生仿真模型参数是否服从假设分布;

5、步骤四:分布比较,选择最佳拟合分布;当模型参数初始样本个数固定时,通过ad检验可以得到两个结果h和pad,其中h是零假设的测试结果,pad是观察显著性水平。如果h=1,则表明检验失败,不考虑该假设分布;如果h=0,则表明检验合格,进而计算拟合优度检验的观察显著性水平pad值。对多个假设分布进行拟合检验时,其中具有最大pad值的分布通常最紧密地拟合数据,因而选择pad值最大的分布函数作为校正后数字孪生仿真模型参数的最佳分布;

6、步骤五:分布优化,当模型参数样本属于小样本(样本数≤50),在拟合优度关于最佳假设分布参数的观察显著性水平pad未收敛时,采用虚拟增广法扩展样本容量,在满足虚拟增广前后样本均值和方差不变的前提下,对模型参数进行扩展,选取所有检验结果中拟合优度的观察显著性水平pad最大的假设分布和相应的样本个数作为最终结果;

7、步骤六:模型衍生;对假设分布进行采样获得扩展的仿真模型参数,采用metropolis hastings(mh)算法对假设分布f(x)进行采样,从而实现对仿真模型参数的扩展;

8、步骤七:模型验证;首先开展真实物理试验,获得物理实体的参考状态;其次将真实参考状态作为数字孪生系统数据融合与校正模块的输入,获得校正后的无人机孪生模型参数;然后将校正后的孪生模型参数分为衍生集和测试集,衍生集用于孪生模型参数衍生模块,生成孪生模型衍生参数;对测试集添加噪声和偏差,作为孪生模型虚拟参数;最后分别使用孪生模型衍生参数和虚拟参数执行虚拟仿真系统,获得衍生状态和虚拟状态,并与参考状态对比分析,从而验证数字孪生模型衍生算法的有效性。

本文档来自技高网...

【技术保护点】

1.一种面向强化学习训练的无人机集群孪生模型衍生方法,其特征在于,使用无人机数字孪生仿真模型参数作为样本数据,通过分布拟合检验获得样本的最佳分布及分布参数,然后对该分布进行采样获得衍生模型的参数,实现对仿真节点数量的扩展,所采用的步骤为:

【技术特征摘要】

1.一种面向强化学习训练的无人机集群孪生模型衍生方法,其特征在于,使用无人机数字孪生仿真模型参数作为样本数据,通过分布拟...

【专利技术属性】
技术研发人员:雷磊沈高青蔡圣所李志林宋晓勤刘晓畅朱晓浪张莉涓
申请(专利权)人:南京航空航天大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1