基于混合传感器的人机交互方法技术

技术编号:8726735 阅读:157 留言:0更新日期:2013-05-24 13:12
本发明专利技术提供了基于混合传感器的人机交互方法,包括步骤:(1)实时获取并处理操作员通过手部运动进行机器人操作任务过程中的RGB图像和深度图像,得到操作员的手部位置;(2)使用惯性测量仪测量操作员的手部姿态,并结合四元数算法(FQA)和卡尔曼滤波(KFs)对姿态数据进行估计,从而得到稳定的操作员的手部姿态;(3)根据上述步骤获取的操作员手部位姿驱动机器人。本发明专利技术允许操作者通过三维的手部动作来控制机器人。本发明专利技术允许操作员使用手部和手臂的动作控制机器人而没有物理装置的限制,只需要把精力集中在手头的任务也不用把任务都分解为那些有限的指令。

【技术实现步骤摘要】

本专利技术属于机器人运动领域,特别涉及一种。
技术介绍
当人类不适合出现在机器人现场,在非结构化动态环境中利用操作员操纵远程机器人是十分必要的。为达成目标操作任务,遥操作使用的机械和其他接触接口需要不自然的人类动作,它们往往会妨碍人体动作。现有的基于视觉的人机交换方式要么只用到人手的少数自由度,要么需要操作者做大幅度运动,操作起来非常费力。这篇专利技术提出了一种不接触的基于多传感器的机器人遥操作方法,它允许操作者通过自然的人手三维动作控制六自由度虚拟机器人来完成操作任务。基于多传感器的人机接口帮助操作者使用人手动作控制机器人和了解机器人动作和周围环境。通常使用的遥操作机械式人机接口包括了多种操作员佩戴的装置,比如骨骼式机械装置,工具手套,电磁或惯性动作跟踪传感器,或者肌电灵敏度传感器。然而,这些佩戴的装置,传感器还有它们的连线可能妨碍操作员灵活的动作。其他接触式的接口比如仿机器人机械手,转盘,摇杆,电脑鼠标和计算机图形界面等都需要操作员不自然的动作或者需要操作者学习如何操作。基于视觉的交互技术使用了手势识别和语音识别结合的控制方式,它允许操作者更自然直观的给出命令而没有物理装置上的限制。然而在这种控制下,被控的机器人的动作都是由一些简单的命令组成,比如确定末端执行器的位置和方位,抓取还有一系列更小的任务如上移下移,旋转,暂停,继续还有改变操作的模式。当要求的机器人操作器动作的复杂度比较高的时候,这个技术都会难以操作。单摄像头的手部动作跟踪已经被应用在机器人遥操作和遥操作的模拟上。然而,动作命令只局限在真正的末端执行器自由度的子集里。此外,那些与特定的操作任务无关的手势被用来改变机器人的操作模式,所以这些都造成了操作任务的交流不自然。理想地,一种自然的不用将复杂的任务分解为有限指令和没有接触式物理装置限制的方法被人们所需要。
技术实现思路
这个专利技术提出了一种,允许操作者通过三维的手部动作来控制机器人。这个方法使用了非接触式的基于基于混合传感器的人机接口,它可以通过操作者动作控制机器人还有反馈机器人动作和机器人与周围环境物体的交互的情况,具体技术方案如下。,其包括如下步骤:S1、实时获取并处理操作员通过手部运动进行机器人操作任务过程中的RGB图像和深度图像,得到操作员的手部位置;S2、使用惯性测量仪测量操作员的手部姿态,并结合四元数算法(FQA)和卡尔曼滤波(KFs)对姿态数据进行估计,从而得到稳定的操作员的手部姿态;S3、根据上述步骤获取的操作员手部位姿驱动机器人。进一步的,所述步骤SI包括以下步骤:操作员通过手部运动进行机器人操作任务时,由固定在操作员前面的Kinect捕获RGB图像和深度图像,连续处理该过程中的RGB图像和深度图像实现人手跟踪和定位;Kinect有三种自动对焦摄像头:两个优化深度检测的红外摄像头和一个标准的用于视觉识别的视觉光谱摄像头;从深度图像中提取人体骨架关节点;所提取出来的这十五个关节点如附图说明图1所示,从上到下和从左到右排序为:(1)头;(2)肩中心;(3)右肩;(4)右手射;(5)右手腕;(6)左肩;(7)左手射;(8)左手腕;(9)散关节中心;(10)右散;(11)右膝;(12)右脚;(13)左髋;(14)左膝;(15)左脚;这十五个关节点的坐标被称为Kinect坐标;如图2所示,操作员右手的位置可定义为右手腕P5的位置,但这样直接利用P5的位置信息来控制机器人可能导致机器人的位置受操作员身体移动或颤抖的影响;为了解决这个问题,将肩关节P3作为参考点并构建参考点的右手框架;相对于参考点右)的卩5位置P' 5为:Pi S=P5-P3⑴定义右手相对于右肩的移动范围为W^h < X < W^11 ,H1rh < V < H'rh ,^rh < 2 < Lrh,而机器人的移动范围为<,机器人移动范围的映射点为:本文档来自技高网
...

【技术保护点】
基于混合传感器的人机交互方法,其特征在于,包括以下步骤:S1、实时获取并处理操作员通过手部运动进行机器人操作任务过程中的RGB图像和深度图像,得到操作员的手部位置;S2、使用惯性测量仪测量操作员的手部姿态,并结合四元数算法和卡尔曼滤波对姿态数据进行估计,从而得到稳定的操作员的手部姿态;S3、根据上述步骤获取的操作员手部位姿驱动机器人。

【技术特征摘要】
1.基于混合传感器的人机交互方法,其特征在于,包括以下步骤: 51、实时获取并处理操作员通过手部运动进行机器人操作任务过程中的RGB图像和深度图像,得到操作员的手部位置; 52、使用惯性测量仪测量操作员 的手部姿态,并结合四元数算法和卡尔曼滤波对姿态数据进行估计,从而得到稳定的操作员的手部姿态; 53、根据上述步骤获取的操作员手部位姿驱动机器人。2.根据权利要求1所述的基于混合传感器的人机交互方法,其特征在于,所述步骤SI包括: 操作员通过手部运动进行机器人操作任务时,由固定在操作员前面的Kinect捕获RGB图像和深度图像,连续处理该过程中的RGB图像和深度图像实现人手跟踪和定位;Kinect有三种自动对焦摄像头:两个优化深度检测的红外摄像头和一个标准的用于视觉识别的视觉光谱摄像头; 从深度图像中提取人体骨架关节点;所提取出来的这十五个关节点从上到下和从左到右排序为:(1)头;(2)肩中心;(3)右肩;(4)右手射;(5)右手腕;(6)左肩;(7)左手射;(8)左手腕;(9)散关节中心;(10)右散;(11)右膝;(12)右脚;(13)左散;(14)左膝;(15)左脚;这十五个关节点的坐标被称为Kinect坐标;操作员右手的位置定义为右手腕P5的位置,将肩关节P3作为参考点并构建参考点(<,咬,4)的右手框架; 相对于参考点位置P' 5为: Pr S=P5-P3(I) 设定右手相对于右肩的移动范围为< λ: < W^h ,H1xh < y < H2rh <z〈 ,而机器人的...

【专利技术属性】
技术研发人员:张平杜广龙卢晓敏
申请(专利权)人:华南理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1