一种应用于政数咨询的手势唇语识别的操作方法技术

技术编号:43345542 阅读:20 留言:0更新日期:2024-11-15 20:43
本发明专利技术公开了一种应用于政数咨询的手势唇语识别的操作方法,包括以下步骤:S1、摄像模块拍摄用户的手势和唇语的视频并通过预处理分别得出手势图像数据集和唇语图像数据集;S2、将手势图像数据集代入手势识别模型得出手势识别数据集,将唇语图像数据集代入唇语识别模型得出唇语识别数据集;S3、根据手语识别提问数据集和唇语识别提问数据集搜索预设于控制模块的答复数据并通过显示模块显示;采用上述操作方法,用户可以通过手语或\和唇语向咨询台进行咨询,方便了特殊群体,避免市民办事难的困境。

【技术实现步骤摘要】

本专利技术涉及人工智能,尤其涉及一种应用于政数咨询的手势唇语识别的操作方法


技术介绍

1、政务大厅属于政数的一部分,同时也作为民众办事的地方,承担着多项公共服务职能,然而政务大厅的服务内容多种多样,包括但不限于税务、户籍、社保、房产等众多领域,这种多业务集中的模式虽然提高了服务效率,但同时也产生了很多问题。对于前来政务大厅办事的市民而言,面对错综复杂的道路和繁多的服务窗口通常都会迷路,因此市民通常都需要向咨询台或者向导询问,但目前存在一部分市民不识字、只会打手语或者说唇语,对于不识字的市民可以通过向向导咨询解决疑问,但对于打手语和唇语的市民而言与向导的沟通较为困难。

2、而现有的设备和技术识别手语出来的文字比较生硬,由于识别角度或者手势变换比较迅速的原因,有时候中间手势无法正确识别的时候,甚至串联出来的语句与所想表达的意思区别很大,需要以较为缓慢的速度进行手势表达,才可以较为正确地对全部手势进行完整识别,而同样的,唇语识别在无法正确识别的时候,串联出来的语句与所想表达的意思区别很大。

3、因此目前需要一种能够提高手势唇语识别精度的本文档来自技高网...

【技术保护点】

1.一种应用于政数咨询的手势唇语识别的操作方法,其特征在于,包括政数服务咨询台,所述政数服务咨询台上设有摄像模块、唤醒模块、控制模块和显示模块;

2.根据权利要求1所述的一种应用于政数咨询的手势唇语识别的操作方法,其特征在于,所述摄像模块包括至少两个摄像头,在步骤S1之前还包括步骤:对全部摄像头同时进行摄像头校准处理,摄像头校准处理包括内参校准、外参校准、立体校准的验证、一致性检查和遮挡检查。

3.根据权利要求2所述的一种应用于政数咨询的手势唇语识别的操作方法,其特征在于,所述内参校准的具体步骤为:将校准件以不同的角度、光亮和位置放置在全部摄像头的共同拍摄区域,校...

【技术特征摘要】

1.一种应用于政数咨询的手势唇语识别的操作方法,其特征在于,包括政数服务咨询台,所述政数服务咨询台上设有摄像模块、唤醒模块、控制模块和显示模块;

2.根据权利要求1所述的一种应用于政数咨询的手势唇语识别的操作方法,其特征在于,所述摄像模块包括至少两个摄像头,在步骤s1之前还包括步骤:对全部摄像头同时进行摄像头校准处理,摄像头校准处理包括内参校准、外参校准、立体校准的验证、一致性检查和遮挡检查。

3.根据权利要求2所述的一种应用于政数咨询的手势唇语识别的操作方法,其特征在于,所述内参校准的具体步骤为:将校准件以不同的角度、光亮和位置放置在全部摄像头的共同拍摄区域,校准件的表面画有尺寸确定的棋盘格,每个摄像头对校准件进行拍摄得到内参校准照片,通过特征检测算法定位内参校准照片中的特征点,通过特征点和坐标系代入相机标定算法来计算每个摄像头的估计内参矩阵,根据估计内参矩阵计算理论特征点投影位置,根据特征点和坐标系计算实际特征点投影位置,计算理论特征点投影位置和实际特征点投影位置的投影误差,当投影误差小于预设于控制模块的标准误差时,则将该估计内参矩阵应用于手势识别模型和唇语识别模型中,当投影误差大于等于预设于控制模块的标准误差时则继续拍摄不同的角度、光亮和位置的校准件以计算新的估计内参矩阵。

4.根据权利要求2所述的一种应用于政数咨询的手势唇语识别的操作方法,其特征在于,外参校准的具体步骤为:将校准件以不同的角度、光亮和位置放置在全部摄像头的共同拍摄区域,校准件的表面画有尺寸确定的棋盘格,每个摄像头对校准件进行拍摄得到外参校准照片,通过特征检测算法定位外参校准照片中的特征点,将不同摄像头的外参校准照片的特征点进行匹配,根据匹配的特征点通过最小二乘法计算不同摄像头之间的旋转矩阵和平移矩阵,根据旋转矩阵和平移矩阵计算某个摄像头的外参校准照片在另一个摄像的外...

【专利技术属性】
技术研发人员:何社超
申请(专利权)人:广东天网智城科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1