当前位置: 首页 > 专利查询>浙江大学专利>正文

基于注意力机制的无监督多模态心电图异常检测方法技术

技术编号:37181378 阅读:48 留言:0更新日期:2023-04-20 22:47
本发明专利技术公开了一种基于注意力机制的无监督多模态心电图异常检测方法,根据体表电生理信号无监督地自动进行心电图的异常检测,模型在时序电信号的基础上还考虑了频域信号特性,通过对输入信号编码再解码重构出原始信号,当重构的时序信号与输入时序信号差异大于一定值,则判断该心电图为异常。本发明专利技术通过对ECG的时域与频域信号进行特征提取,在无监督不使用标签的情况下,能够区分正常与异常的ECG心拍数据;在有标签的心电图数据有限的情况下,辅助医生自动筛查异常心电图,具有临床的诊断及治疗上的参考意义。治疗上的参考意义。治疗上的参考意义。

【技术实现步骤摘要】
基于注意力机制的无监督多模态心电图异常检测方法


[0001]本专利技术属于心脏电生理疾病预测
,具体涉及一种基于注意力机制的无监督多模态心电图异常检测方法。

技术介绍

[0002]心血管疾病一系列心脏或者血管相关疾病总称,一直都是威胁人类生命的主要疾病之一,其引起的死亡率仍占首位。ECG(心电信号)是人类最早研究并应用于医学临床的生物信号之一,心电图反映了人体心脏健康状况,是临床诊断心血管类疾病的重要依据。随着心电图数量的快速增长,利用AI算法辅助医生进行自动化异常诊断极为重要。
[0003]现有的许多ECG自动诊断算法是基于专家医生分析和标注的数据进行监督学习得到的。但由于专家只能处理少量的心电图数据,并且这些数据大都来自于同一种模式,因此基于监督学习的自动诊断算法有其局限性。另外,标签数据中各类型标签的分布通常不平衡,这会对模型的诊断分析效果造成影响;未经标注的数据也是有价值的,它可以进一步揭示患者心血管系统内部的潜在病理信息。因此,研发一种能够进行无监督诊断心电图数据的算法是非常重要的。
[0004]目前,现有的无监督ECG异常检测或分类方法大多都没有充分利用和挖掘数据本身的特征,大致可分为两类:一类是使用聚类算法来实现无监督决策,例如文献[Abawajy J H,Kelarev A V,Chowdhury M.Multistage approach for clustering and classification of ECG data[J].Computer methods and programs in biomedicine,2013,112(3):720

730]使用高斯混合模型和K

means聚类算法,将ECG数据转换为数值特征,从而完成异常分类。另一类是通过深度学习端到端地实现ECG的异常检测,例如文献[Pereira J,Silveira M.Unsupervised representation learning and anomaly detection in ECG sequences[J].International Journal of Data Mining and Bioinformatics,2019,22(4):389

]在递归网络作为自编码器的基础上,再对其编码特征进行解码重构输入。尽管如此,但上述方法存在的缺陷是没有充分利用和挖掘ECG的信息,模型缺乏结合更多维度的特征。

技术实现思路

[0005]鉴于上述,本专利技术提供了一种基于注意力机制的无监督多模态心电图异常检测方法,利用注意力机制去挖掘时域与频域数据中的隐藏特征,无监督地重构时域输入,能够很好地解决含有标签的心电图数据缺少,有监督的模型难以取得广泛的自动诊断效果的现象。
[0006]一种基于注意力机制的无监督多模态心电图异常检测方法,包括如下步骤:
[0007](1)从病人体表采集多导联心电信号,以每一个心跳周期为一组心电时域序列;
[0008](2)对每组心电时域序列进行归一化处理以及频域转换,得到对应的心电频域序列;
[0009](3)构建基于注意力机制的重构模型,其包含两个编码模块以及一个解码模块,两个编码模块分别用于对心电时域序列和心电频域序列进行编码,得到的编码特征拼接后经由解码模块解码成与输入维度一致的ECG波形序列;
[0010](4)将心电时域序列和心电频域序列成对逐一输入至模型,以模型输出的ECG波形序列与输入心电时域序列平均误差最小为损失函数,从而对模型进行训练;
[0011](5)将待检测心电信号的时域序列和频域序列输入至训练好的重构模型,根据模型输出ECG波形序列与输入心电时域序列之间的重构误差,判别待检测的心电信号是否异常。
[0012]进一步地,所述步骤(2)中的归一化处理采用最大

最小值归一化策略,频域转换采用小波变换。
[0013]进一步地,所述重构模型中的两个编码模块结构相同,但在训练过程中不共享权重,独立进行特征学习。
[0014]进一步地,输入至模型中的心电时域序列和心电频域序列需先进行位置编码,即给序列中每一时刻对应的幅值增添时间位置信息,具体如下:
[0015]PE
(pos,2i)
=sin(pos/10000
2i/d
)
[0016]PE
(pos,2i+1)
=cos(pos/10000
2i/d
)
[0017]其中:PE
(pos,2i)
表示序列中偶数位置增添的时间位置信息,PE
(pos,2i+1)
表示序列中奇数位置增添的时间位置信息,pos表示序列中每一幅值对应的时间点,d表示编码的维度,i为自然数。
[0018]进一步地,所述编码模块采用多头注意力机制以及残差连接,其中多头注意力机制由多个自注意力机制叠加形成;同时在编码模块前向传播学习参数的过程中,对每层参数做了Layer Normalization,对每一层的激活值做了归一化。
[0019]进一步地,所述自注意力机制的计算过程如下:
[0020][0021]Q=X
embedding
*W
Q
[0022]K=X
embedding
*W
K
[0023]V=X
embedding
*W
V
[0024]其中:Attention(Q,K,V)为自注意力机制的输出,X
embedding
为经位置编码后的心电时域序列或心电频域序列,Q、K、V分别为查询向量、键向量、值向量,W
Q
、W
K
、W
V
分别为查询向量、键向量、值向量对应的权值矩阵,d
k
为自注意力机制的输出维度,T表示转置。
[0025]进一步地,两个编码模块输出的编码特征沿时间轴方向拼接,即拼接之后维度变为原来的两倍,进而特征经由解码模块线性映射层解码成与输入维度一致的ECG波形序列。
[0026]进一步地,所述步骤(4)中对模型进行训练的过程如下:
[0027]4.1初始化模型参数,包括每一层的偏置向量和权值矩阵、学习率以及优化器;
[0028]4.2将心电时域序列和心电频域序列输入至模型,模型正向传播输出得到对应的重构结果即ECG波形序列,计算输出的ECG波形序列与输入的心电时域序列之间的损失函数L;
[0029]4.3根据损失函数L利用优化器通过梯度下降法对模型参数不断迭代更新,直至损失函数L收敛,训练完成。
[0030]进一步地,所述损失函数L的表达式如下:
[0031][0032]其中:y
i
为输出的ECG波形序列中第i个幅值,x
i
为输入的心电时域序列中第i个幅值,n本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于注意力机制的无监督多模态心电图异常检测方法,包括如下步骤:(1)从病人体表采集多导联心电信号,以每一个心跳周期为一组心电时域序列;(2)对每组心电时域序列进行归一化处理以及频域转换,得到对应的心电频域序列;(3)构建基于注意力机制的重构模型,其包含两个编码模块以及一个解码模块,两个编码模块分别用于对心电时域序列和心电频域序列进行编码,得到的编码特征拼接后经由解码模块解码成与输入维度一致的ECG波形序列;(4)将心电时域序列和心电频域序列成对逐一输入至模型,以模型输出的ECG波形序列与输入心电时域序列平均误差最小为损失函数,从而对模型进行训练;(5)将待检测心电信号的时域序列和频域序列输入至训练好的重构模型,根据模型输出ECG波形序列与输入心电时域序列之间的重构误差,判别待检测的心电信号是否异常。2.根据权利要求1所述的无监督多模态心电图异常检测方法,其特征在于:所述步骤(2)中的归一化处理采用最大

最小值归一化策略,频域转换采用小波变换。3.根据权利要求1所述的无监督多模态心电图异常检测方法,其特征在于:所述重构模型中的两个编码模块结构相同,但在训练过程中不共享权重,独立进行特征学习。4.根据权利要求1所述的无监督多模态心电图异常检测方法,其特征在于:输入至模型中的心电时域序列和心电频域序列需先进行位置编码,即给序列中每一时刻对应的幅值增添时间位置信息,具体如下:PE
(pos,2i)
=sin(pos/10000
2i/d
)PE
(pos,2i+1)
=cos(pos/10000
2i/d
)其中:PE
(pos,2i)
表示序列中偶数位置增添的时间位置信息,PE
(pos,2i+1)
表示序列中奇数位置增添的时间位置信息,pos表示序列中每一幅值对应的时间点,d表示编码的维度,i为自然数。5.根据权利要求1所述的无监督多模态心电图异常检测方法,其特征在于:所述编码模块采用多头注意力机制以及残差连接,其中多头注意力机制由多个自注意力机制叠加形成;同时在编码模块前向传播学习参数的过程中,对每层参数做了Layer Normalization,对每一层的激活值做了归一化。...

【专利技术属性】
技术研发人员:刘华锋彭建辉
申请(专利权)人:浙江大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1