当前位置: 首页 > 专利查询>山东大学专利>正文

基于多模态自适应融合的机器人技能连续学习方法及系统技术方案

技术编号:41567404 阅读:18 留言:0更新日期:2024-06-06 23:48
本发明专利技术公开了一种基于多模态自适应融合的机器人技能连续学习方法及系统,涉及机器人学习技术领域。该方法包括步骤:获取机器人操作环境和操作任务的多种模态数据;利用深度学习将多种模态数据特征进行自适应融合;利用强化学习算法将融合后的数据特征对机器人进行操作技能的实际训练;其中,训练过程为连续学习,包括新策略的学习和旧策略的经验重访;根据训练结果更新机器人的操作技能。本发明专利技术旨在融合多模态传感器数据,通过连续学习方式实现机器人在多样化任务和环境中的高效学习和自适应操作,显著提升机器人面向动态复杂场景的连续学习能力,增强其在多种任务上的泛化性。

【技术实现步骤摘要】

本专利技术涉及机器人学习,尤其涉及一种基于多模态自适应融合的机器人技能连续学习方法及系统


技术介绍

1、本部分的陈述仅仅是提供了与本专利技术相关的
技术介绍
信息,不必然构成在先技术。

2、随着科技的日益发展,机器人在各个领域的应用逐渐普及,成为了人类生活中的重要帮手。在一些相对简单的重复性任务中,机器人甚至已经完全替代人类,实现了真正的无人化作业。然而,随着使用需求不断升级,机器人所面临的任务在数量、复杂度和柔性程度等方面均呈现飞速增长的趋势。这一趋势对机器人的性能,尤其是在动态场景中进行技能学习的高效性和泛化性,提出了更加急迫和苛刻的要求。由于操作对象、场景约束等均呈现出多样性和变化性,机器人面临复杂场景感知难度大的挑战。目前,融合多模态信息可以提升机器人感知的准确性,但如何实现多模态信息的有机整合与利用仍然当前的研究难点。此外,当前机器人技能学习方法任务泛化性仍然较弱。究其原因,是因为经过学习训练后机器人系统程序相对固化,因此一旦系统部署后,机器人系统就无法对新的、随机的各类状况做出及时反应,最终导致机器人技能模型在新任务中表现较差。...

【技术保护点】

1.基于多模态自适应融合的机器人技能连续学习方法,其特征在于,包括以下步骤:

2.如权利要求1所述的基于多模态自适应融合的机器人技能连续学习方法,其特征在于,多种模态数据包括RGB图像、Depth图像和力反馈数据。

3.如权利要求2所述的基于多模态自适应融合的机器人技能连续学习方法,其特征在于,利用深度学习将多种模态数据特征进行自适应融合的具体步骤包括:

4.如权利要求3所述的基于多模态自适应融合的机器人技能连续学习方法,其特征在于,分别采用合适的特征编码模块对多种模态数据分别进行特征提取,具体的,采用两路并行的Vision Transformer主干...

【技术特征摘要】

1.基于多模态自适应融合的机器人技能连续学习方法,其特征在于,包括以下步骤:

2.如权利要求1所述的基于多模态自适应融合的机器人技能连续学习方法,其特征在于,多种模态数据包括rgb图像、depth图像和力反馈数据。

3.如权利要求2所述的基于多模态自适应融合的机器人技能连续学习方法,其特征在于,利用深度学习将多种模态数据特征进行自适应融合的具体步骤包括:

4.如权利要求3所述的基于多模态自适应融合的机器人技能连续学习方法,其特征在于,分别采用合适的特征编码模块对多种模态数据分别进行特征提取,具体的,采用两路并行的vision transformer主干网络分别对rgb图像和depth图像进行特征提取,构建mlp网络对力传感器数据进行编码。

5.如权利要求3所述的基于多模态自适应融合的机器人技能连续学习方法,其特征在于,将提取的特征进行加权融合的过程中,使用多模态注意力机制来动态自适应...

【专利技术属性】
技术研发人员:杨硕张伟宋然李大猷赵晨琨李腾巨浩
申请(专利权)人:山东大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1