一种基于注意模块的递归神经网络的用户识别方法技术

技术编号:18257031 阅读:53 留言:0更新日期:2018-06-20 08:38
本发明专利技术中提出的一种基于注意模块的递归神经网络的用户识别方法,其主要内容包括:预处理、脑电波模式分解、基于注意模块的递归神经网络、分类,其过程为,首先分析脑电波数据并揭示了δ模式包含用户最特殊的信息,然后分解出δ模式,并将其反馈到一个基于注意模块的解码器‑编码器递归神经网络,该网络根据信道的重要性给不同的脑电波信道分配不同的注意值,最后把通过学习得到的有区分度的特征经过一个极端梯度提升分类器,对用户进行身份识别。本发明专利技术利用基于注意模块的递归神经网络实现用户识别,具有更高的用户识别精确度,并且具有更好的鲁棒性和适应性。

A user identification method based on recurrent neural network of attention module

In the present invention, a user recognition method based on a recurrent neural network based on attention module is proposed. The main contents include: preprocessing, mode decomposition of brain wave, recurrent neural network based on attention module, classification. The process is to analyze the data of brain wave first and reveal that delta mode contains the most special information of the user. Then we decompose the delta mode, and feed it back to a decoder based recursive neural network based on the attention module. The network assigns different attention to different brain wave channels according to the importance of the channel. Identity identification. The invention uses a recurrent neural network based on attention module to realize user recognition, has higher accuracy of user recognition, and has better robustness and adaptability.

【技术实现步骤摘要】
一种基于注意模块的递归神经网络的用户识别方法
本专利技术涉及生物识别领域,尤其是涉及了一种基于注意模块的递归神经网络的用户识别方法。
技术介绍
生物识别技术是通过计算机与光学、声学、生物传感器和生物统计学原理等高科技手段相结合,利用人体固有的生理特性和行为特征来进行个人身份的鉴定。其应用十分广泛,包括政府、军队、银行、电子商务、安全防务、社会福利保障等诸多领域。比如生物识别签证,即将生物识别技术引入签证领域,利用人体面相、指纹等生物特征具有唯一、安全、保密等特点,在颁发签证或出入境边防检查过程中采集和存储生物特征信息数据,通过有效比对,更加准确、快捷地鉴别出入境人员的身份;再比如虹膜打卡,只要将双眼对准屏幕,机器就记下虹膜特征密码,完成注册环节,在此后的识别环节,带眼镜的人员便可无需摘下眼镜,只要对准屏幕,不到一秒,机器就完成比对识别,身份信息与打卡时间立即显示在屏幕上,该技术在煤矿工人考勤、监狱犯人管理、银行金库门禁、边境安检通关、军队安保系统、考生身份验证等领域均得到了应用。目前最新的生物识别系统仍然不够安全与稳定。比如说,戴上人造的仿生面具可以通过脸部识别系统,隐形眼镜可以欺骗虹膜识别系统,语音编码器可以欺骗语音识别系统,指纹薄膜可以蒙骗指纹识别系统。最近兴起的基于脑电波的用户识别技术,能够提供一种更加有效的识别系统,但是其依然面临鲁棒性以及适应性不佳的问题。本专利技术提出了一种基于注意模块的递归神经网络的用户识别方法,首先分析脑电波数据并揭示了δ模式包含用户最特殊的信息,然后分解出δ模式,并将其反馈到一个基于注意模块的解码器-编码器递归神经网络,该网络根据信道的重要性给不同的脑电波信道分配不同的注意值,最后把通过学习得到的有区分度的特征经过一个极端梯度提升分类器,对用户进行身份识别。本专利技术利用基于注意模块的递归神经网络实现用户识别,具有更高的识别精确度,并且具有更好的鲁棒性和适应性。
技术实现思路
针对识别系统面临的鲁棒性和适应性不佳的问题,本专利技术的目的在于提供一种基于注意模块的递归神经网络的用户识别方法,首先分析脑电波数据并揭示了δ模式包含用户最特殊的信息,然后分解出δ模式,并将其反馈到一个基于注意模块的解码器-编码器递归神经网络,该网络根据信道的重要性给不同的脑电波信道分配不同的注意值,最后把通过学习得到的有区分度的特征经过一个极端梯度提升分类器,对用户进行身份识别。为解决上述问题,本专利技术提供一种基于注意模块的递归神经网络的用户识别方法,其主要内容包括:(一)预处理;(二)脑电波模式分解;(三)基于注意模块的递归神经网络;(四)分类。其中,所述的预处理,原始的脑电波样本数据需要经过预处理操作移除直流偏移量并归一化信号;其中,移除直流偏移量的必要性在于,脑电波接收耳机会在记录的信号数据当中引入一个噪声分量常数;而归一化信号的重要性在于,其可以处理不同单元或不同规模的特征数据。进一步地,所述的移除直流偏移量和归一化信号,首先从信号E当中减去直流偏移量常数;然后使用Z比分缩放归一化方法,计算得到预处理数据,即:其中,DC表示直流,μ表示E-DC的均值,σ表示标准差。其中,所述的脑电波模式分解,由于脑电波信号当中的δ频率带0.5Hz到4Hz的信号分量能够极其准确以及稳定地识别身份,所以首先需要分解脑电波得到δ信号分量;为了分离出δ频率带的信号分量,使用频率处于0.5Hz到4Hz的三阶巴特沃斯带通滤波器,该滤波器具有如下参数:阶数为3,低截止频率为0.5Hz,高截止频率为4Hz;预处理数据E′的所有维度轮流地反馈到带通滤波器,直至最后获得分解的δ模式。其中,所述的基于注意模块的递归神经网络,在编码器-解码器递归神经网络模型里面加入注意机制,主要包括三个元件:编码器、注意模块、解码器;编码器是设计用于将输入的δ波压缩成单一的中间码C;注意模块通过产生不同维度的权值序列Watt,用于帮助编码器计算出一个更好的中间码Catt;解码器接收基于注意模块的码Catt,并解码用于用户身份识别;用户身份由基于注意模块的递归神经网络预测得出,而非人脑身份。进一步地,所述的编码器,包括数个非递归全连接神经网络层和一个递归的长短期记忆层;非递归层用来构造一个非线性函数,这个非线性函数可以用来提取输入的δ模式;这些非递归层的数据流可以通过下式计算得出:Xi+1=T(Xi)(2)其中,Xi代表数据的第i层,而T(Xi)=XiW+b;长短期记忆层用来把非递归层的输出压缩成一个长度固定的序列,该序列即中间码C;假设长短期记忆是第i′层,那么中间码等于长短期记忆的输出,也就是其中的值可以由下式计算得出:其中,表示第(j-1)个长短期记忆单元的隐藏状态,L(·)代表长短期记忆结构的计算过程,可以由下面的等式推导得出:其中,f0,ff,fi以及fm分别代表输出门、遗忘门、输入门以及输入调制门。进一步地,所述的注意模块,接收最终的隐藏状态作为非归一化的注意权值W′att,其值可以由下式给出:计算归一化注意权值:Watt=softamax(W′att)(6)其中,softamax传递函数用来归一化注意权值处于[0,1]的范围;在注意机制下,中间码C可以通过加权得到Catt,即:Catt=C⊙Watt(7)其中,C和Watt是通过同时训练得到的。进一步地,所述的解码器,解码器接收基于注意模块的码Catt并将其解码用于预测用户身份Y′12;由于Y′是在基于注意模块的递归神经网络模型的输出层预测得到的,即:Y′=T(Catt)(8)最后,利用交叉熵函数来计算预测的身份Y′和真实身份Y之间的预测代价函数;L2范数用于阻止过拟合;代价函数通过Adam优化器算法求解;基于注意模块的递归神经网络的迭代阈值设置为niter;加权码Catt和输出层及预测结果具有线性关系;如果模型经过很好的训练并得到很小的代价值,可以认为加权码能够高质量地表征用户身份;设置学习得到的深度特征XD等于Catt,然后在识别阶段利用它来识别最终的用户身份。其中,所述的分类,利用极端梯度提升分类器来对通过学习得到的深度特征XD进行分类,以达到用户身份分类的目的;极端梯度提升分类器链接一系列的决策树和回归树,同时尝试从输入数据中探测出尽可能详细的信息;其建立多重树,每一个树具有自己的叶和对应的分数;而且,其提供一种阻止过拟合的正则化的模型,并且其精确的预测性能使得其可以广泛地应用。进一步地,所述的通过学习得到的深度特征XD,用XD来训练决策树和回归树的一列,并预测一系列的用户身份;假设xd∈XD是深度特征的一个单一的样本,那么对于输入xd的最终识别结果可以通过下式计算得到:ym=f(xd)(9)其中,f表示对一个单一树的分类函数,ym表示第m个树的预测的身份,F表示从单一树预测空间到最终预测空间的映射;ID是基于脑电波数据的最终识别的用户身份。附图说明图1是本专利技术一种基于注意模块的递归神经网络的用户识别方法的系统流程图。图2是本专利技术一种基于注意模块的递归神经网络的用户识别方法的脑电波收集过程图。具体实施方式需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互结合,下面结合附图和具体实施例对本专利技术作进一步详细说明。图1是本专利技术一种基于注意模块的递归神经网络的用户识本文档来自技高网
...
一种基于注意模块的递归神经网络的用户识别方法

【技术保护点】
1.一种基于注意模块的递归神经网络的用户识别方法,其特征在于,主要包括预处理(一);脑电波模式分解(二);基于注意模块的递归神经网络(三);分类(四)。

【技术特征摘要】
1.一种基于注意模块的递归神经网络的用户识别方法,其特征在于,主要包括预处理(一);脑电波模式分解(二);基于注意模块的递归神经网络(三);分类(四)。2.基于权利要求书1所述的预处理(一),其特征在于,原始的脑电波样本数据需要经过预处理操作移除直流偏移量并归一化信号;其中,移除直流偏移量的必要性在于,脑电波接收耳机会在记录的信号数据当中引入一个噪声分量常数;而归一化信号的重要性在于,其可以处理不同单元或不同规模的特征数据。3.基于权利要求书2所述的移除直流偏移量和归一化信号,其特征在于,首先从信号E当中减去直流偏移量常数;然后使用Z比分缩放归一化方法,计算得到预处理数据,即:其中,DC表示直流,μ表示E-DC的均值,σ表示标准差。4.基于权利要求书1所述的脑电波模式分解(二),其特征在于,由于脑电波信号当中的δ频率带0.5Hz到4Hz的信号分量能够极其准确以及稳定地识别身份,所以首先需要分解脑电波得到δ信号分量;为了分离出δ频率带的信号分量,使用频率处于0.5Hz到4Hz的三阶巴特沃斯带通滤波器,该滤波器具有如下参数:阶数为3,低截止频率为0.5Hz,高截止频率为4Hz;预处理数据E′的所有维度轮流地反馈到带通滤波器,直至最后获得分解的δ模式。5.基于权利要求书1所述的基于注意模块的递归神经网络(三),其特征在于,在编码器-解码器递归神经网络模型里面加入注意机制,主要包括三个元件:编码器、注意模块、解码器;编码器是设计用于将输入的δ波压缩成单一的中间码C;注意模块通过产生不同维度的权值序列Watt,用于帮助编码器计算出一个更好的中间码Catt;解码器接收基于注意模块的码Catt,并解码用于用户身份识别;用户身份由基于注意模块的递归神经网络预测得出,而非人脑身份。6.基于权利要求书5所述的编码器,其特征在于,包括数个非递归全连接神经网络层和一个递归的长短期记忆层;非递归层用来构造一个非线性函数,这个非线性函数可以用来提取输入的δ模式;这些非递归层的数据流可以通过下式计算得出:其中,Xi代表数据的第i层,而长短期记忆层用来把非递归层的输出压缩成一个长度固定的序列,该序列即中间码C;假设长短期记忆是第i′层,那么中间码等于长短期记忆的输出,也就是其中的...

【专利技术属性】
技术研发人员:夏春秋
申请(专利权)人:深圳市唯特视科技有限公司
类型:发明
国别省市:广东,44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1