一种适用于密集环境下的机械臂推抓系统技术方案

一种适用于密集环境下的机械臂推抓系统，包括PC，彩色深度相机，机械臂，智能夹持器；软件端包括CoppliaSim仿真平台；彩色深度相机通过USB与计算机相连接，机械臂通过局域网与PC连接；彩色深度相机获取彩色RGB图和深度图；计算机执行机械臂控制程序；机械臂执行动作；智能夹持器抓取或推物块。CoppliaSim仿真平台包括仿真模块、标定模块、图像预处理模块、特征提取模块、决策网络模块、动作策略模块、机器人I/O模块、机器人模块。本发明专利技术利用仿真和实际相结合，减少因训练而造成的机器人损坏，并加快抓取速度；利用深度强化学习的DQN，依据当前物体环境实时动态规划动作语义，实现推和抓的结合，同时规划出最适合抓取的方向，大大增加了机械臂抓取复杂环境的成功率。

【技术实现步骤摘要】
一种适用于密集环境下的机械臂推抓系统
本专利技术涉及一种适用于密集环境下的机械臂推抓系统
技术介绍
随着经济的发展和人口老龄化进程的加速，社会对实际可用行抓取机器人的需求日益增长。然而不同工业机器人在结构化环境下对工件的抓取，服务机器人将面临多种情况，其中就包括如何在密集型环境中高效抓取所需目标。然而就目前已存的大多数抓取系统而言，大多数仅适用于物体间隔空隙较大的场景，在面对密集物体排布时，由于物体周围没有足够的空间留给机械夹爪夹取物体，规划抓取变得十分困难。M.R.Dogar等研究人员在2012年发表了Aplanningframeworkfornonprehensilemanipulationunderclutteranduncertainty，提出可以通过抓扫结合的方式解决密集环境抓取困难问题。但是通过手工调制的方法只能针对一种环境，鲁棒性差，方法不可迁移。近年来，随着计算机性能的提高和大数据的发展，深度学习突破了以往存在的限制。在大数据和深层次网络的前提下，基于深度神经网络的系统表现出了良好的性能。S.Levine等研究人员在20本文档来自技高网...

【技术保护点】
1.一种适用于密集环境下的机械臂推抓系统，其特征在于：包括PC、彩色深度相机、机械臂，机械臂上装有智能夹持器；PC上安装的软件端包括CoppliaSim仿真平台；彩色深度相机通过USB与计算机相连接，机械臂通过局域网与PC连接；彩色深度相机获取彩色RGB图和深度图；计算机执行机械臂控制程序；机械臂执行动作，智能夹持器抓取或推物块；/n所述的PC上安装有仿真模块、图像预处理模块、特征提取模块、决策网络模块、动作策略模块，机械臂上安装有标定模块、机器人I/O模块、机器人模块；仿真模块，采用机器人仿真软件搭建仿真环境，然后对仿真模型进行训练，并将其训练得到神经网络参数分别输出至特征提取模块和决策网络...

【技术特征摘要】
1.一种适用于密集环境下的机械臂推抓系统，其特征在于：包括PC、彩色深度相机、机械臂，机械臂上装有智能夹持器；PC上安装的软件端包括CoppliaSim仿真平台；彩色深度相机通过USB与计算机相连接，机械臂通过局域网与PC连接；彩色深度相机获取彩色RGB图和深度图；计算机执行机械臂控制程序；机械臂执行动作，智能夹持器抓取或推物块；
所述的PC上安装有仿真模块、图像预处理模块、特征提取模块、决策网络模块、动作策略模块，机械臂上安装有标定模块、机器人I/O模块、机器人模块；仿真模块，采用机器人仿真软件搭建仿真环境，然后对仿真模型进行训练，并将其训练得到神经网络参数分别输出至特征提取模块和决策网络模块；标定模块，输入为深度相机图像中机械夹爪的相机坐标位置，计算并得到输出旋转矩阵R和平移矩阵M至图像预处理模块与机器人I/O模块；图像预处理模块，输入为深度相机直接得到的深度图像和彩色RGB图像以及标定模块得到的旋转矩阵R和平移矩阵M，在对图像进行一定处理之后输出彩色RGB高度图和深度高度图至特征提取模块；特征提取模块，输入为彩色RGB高度图和深度高度图以及仿真模块中得到的部分神经网络参数，经过神经网络，得到并输出一组彩色特征向量和一组深度特征向量至决策网络模块；决策网络模块，输入为特征向量以及仿真模块中得到的部分神经网络参数，经过神经网络，得到并输出Q值图至动作策略模块；动作策略模块，输入为Q值图，根据Q值图中Q值的高低选择动作及像素坐标点并输出至机器人I/O模块；机器I/O模块，输入为动作和像素坐标点以及标定模块中的旋转矩阵R和平移矩阵M，经过逆运动学得到关节位姿并输出至机器人模块；机器人模块，输入为各个关节的位姿并执行动作；
仿真模块包括：构建全卷积神经网络其中包括两个并行网络分别是PushNet推网络φp和GraspNet抓网络φg；利用机器人仿真软件构建仿真环境；从彩色深度相机获得大小均为224×224RGB图像Itc和深度图像Itd；将Itd和Itc进行坐标转换，去噪操作后得到RGB高度图I′tc和深度高度图I′td；并将RGB高度图I′tc和深度高度图I′td预处理后得到彩色图像图集Gtc.和深度图像图集Gtd，作为状态St；将Gtc和Gtd分别输入两个独立的网络φg和φp，输出一组每个动作对应的预测Q值图，Qpt和Qgt；根据一定策略以及式(1)和式(2)得到动作at′以及像素坐标(xp,yp,zp)，zp为(xp,yp)像素处深度值；



(xp,yp)＝argmax(x,y)(Qgt,Qpt))(2)
式(1)中φp(st),φg(st)表示当前状态为St时，推网络和抓网络输出的Q值图；式(2)中xp,yp表示最大q值所对应的动作的像素坐标；
将像素坐标(xp,yp,zp)变换至世界坐标系坐标(xw,yw,zw)，机械臂根据选择的动作at′＝((xw,yw,zw),α),做出相应的动作，改变拾取环境,其中α表示推或者抓取动作以及下爪角度；待机械臂完成动作a′t后，得深度相机得到下一时刻的彩色图像It+1,c和深度图像It+1,d，同时得到Gt+1,c和Gt+1,d作为下一状态st+1，；根据当前状态st+1计算机械臂做出动作后的奖励值Rt；记录一条状态转移变量元组(st,at,Rg(st,st+1),st+1,F)，并将其存至经验池D；使用随机梯度下降的方法更新式(6)的优化目标值Jt，只通过计算估计执行动作的单像素p和对应执行动作的估计网络φψ梯度并反向传播，其他像素点的梯度以0损失反向传播，加快网络更新速度；
目标值函...

【专利技术属性】
技术研发人员：禹鑫燚，樊越海，胡加南，邹超，欧林林，
申请(专利权)人：浙江工业大学，
类型：发明
国别省市：浙江;33