当前位置: 首页 > 专利查询>东北大学专利>正文

一种基于深度学习的连续手势手语翻译方法技术

技术编号:41576806 阅读:25 留言:0更新日期:2024-06-06 23:54
本发明专利技术属于自然语言处理技术领域,公开了一种基于深度学习的连续手势手语翻译方法。通过MYO手环采集多源信息同时兼顾粗粒度的手臂运动、手部旋转和细粒度的手指运动信息,通过卷积神经网络将左右手信息进行了局部建模;基于带历史向量与局部注意力机制的编码解码模型以端到端的方式翻译,无需动作分割;并且在注意力机制中通过增设历史向量学习过去源信息所占的比重来实时调整注意力权重以解决局部翻译不均衡的问题,采用局部注意力机制又达到有效区分相似句式的作用。采集了一定的数据量后通过实验选择了最佳模型搭配,达到了90.5%的翻译准确率。

【技术实现步骤摘要】

本专利技术涉及自然语言处理,具体涉及一种基于深度学习的连续手势手语翻译方法


技术介绍

1、人机交互(human computer interaction,简称hci)作为连接人与计算机的关键技术,在智能化方向发展中占有重要的地位。随着现代计算机技术和人工智能技术在人机交互领域的广泛应用,更加安全、自然、和谐的新型交互方式孕育而出。其中,手势是一种人类用来表达信息的特殊语言(符号),手部的动作意图通过大脑产生,经过神经传输,最终以手势的形式表现出来。从这方面讲,手势可以作为机器理解人类意图的窗口,然而懂手势手语者较少,手势手语翻译通过处理和分析人手、臂部的各种模态的传感信息识别手语动作,解码执行者表达信息,对于医疗康复、服务、工业甚至军事等领域都具有重要意义。

2、考虑到日常生活及各个领域下所用动作多以完整句子为基础,且孤立手势手语识别已有较好的发展,本专利技术主要研究句子级别的连续手势手语翻译。连续手势手语翻译多对采集的手势信息特征提取后分割成众多部分,然后将孤立手势手语识别的方法用于每一部分的识别中,再把识别结果组成句子,经历了从隐马尔可夫本文档来自技高网...

【技术保护点】

1.一种基于深度学习的连续手势手语翻译方法,其特征在于,设计一种基于带历史向量与局部注意力机制的编码解码模型进行连续手势手语翻译;采集的数据预处理及特征提取后,经基于带历史向量与局部注意力机制的编码解码模型进行翻译,得到翻译结果;

2.根据权利要求1所述的基于深度学习的连续手势手语翻译方法,其特征在于,所述数据采集预处理具体为:

3.根据权利要求1或2所述的基于深度学习的连续手势手语翻译方法,其特征在于,所述卷积神经网络包括2×2卷积滤波器、1×2卷积滤波器和池化层;2×2卷积滤波器沿着表面肌电信号、加速度拼接起来的信号滑动,并将时间轴视为输入通道、输出通道,进行...

【技术特征摘要】

1.一种基于深度学习的连续手势手语翻译方法,其特征在于,设计一种基于带历史向量与局部注意力机制的编码解码模型进行连续手势手语翻译;采集的数据预处理及特征提取后,经基于带历史向量与局部注意力机制的编码解码模型进行翻译,得到翻译结果;

2.根据权利要求1所述的基于深度学习的连续手势手语翻译方法,其特征在于,所述数据采集预处理具体为:

3.根据权利要求1或2所述的基于深度学习的连续手势手语翻译方法,其特征在于,所述卷积神经网络包括2×2卷积滤波器、1×2卷积滤波器和池化层;2×2卷积滤波器沿着表面肌电信号、加速度拼接起来的信号滑动,并将时间轴视为输入通道、输出通道,进行双手信息融合;通过1×2卷积滤波器和池化层进行不同信号局部结构的建模和关键特征的提取。

4.根据权...

【专利技术属性】
技术研发人员:郁海涛吴琦王斐刘晶李奥何睿
申请(专利权)人:东北大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1