一种基于Wasserstein距离的表征相似对抗网络制造技术

本发明专利技术公开了一种基于Wasserstein距离的表征相似对抗网络模型，先通过减小Wasserstein距离的方法最大程度的减小源域受试者和目的域受试者的边缘概率分布，再通过关联强化的方法减小条件概率分布，即加强类别的内在联系，包括步骤：采样、过滤噪音、映射、设置域混淆器的Wasserstein距离、设置域混淆器的梯度惩罚、采用关联强化的分类器、求源域到目的域特征表征的相似度、求目的域到源域特征表征的相似度、得到特征在源域目的域的往返概率、计算源域标签概率、采用交叉熵损失计算L

【技术实现步骤摘要】
一种基于Wasserstein距离的表征相似对抗网络


[0001]本专利技术涉及脑电情绪分类和深度迁移学习的
，尤其涉及一种基于 Wasserstein距离的表征相似对抗网络模型。

技术介绍

[0002]与传统迁移学习相比，深度迁移学习因为可以直接对原始数据进行处理，能更好的提取特征，进而提高结果的准确率，目前已经成功的应用在脑机接口领域，因为不同被试者的个体差异很大，同一个体在不同时间段的差异也不同，所以需要通过拉近不同被试者数据的边缘概率分布和条件概率分布来拉近两个领域之间的差异。
[0003]传统的域适应方法通常先提取源域与目标域的特征，然后对两域特征进行域适应，最终采用传统分类器进行分类，上述传统算法运算效率较高，但是准确率比较有限，而且在整个过程中需要人为干预，以往的基于度量的深度域适应方法在准确率上通常优于传统算法，但是在性能上仍存在许多缺点，比如采用 MMD距离的域适应方法，准确率波动较大，采用二阶统计特征对齐的方法针对差异较大的两域作用有限等。
[0004]例如，一种在国外论文文献上公开的“[Jinpeng Li,Shuang Qiu,ChangdeDu,Yixin Wang,and Huiguang He.Domain Adaptation for EEG EmotionRecognition Based on Latent Representation Similarity[J].IEEETransactions on Cognitive and Developmental Systems,2019.]”，提出了一种基于潜在表征相似性的脑电情感模型，这个模型采用减小交叉熵(衡量数据真实分布和模型预测分布相似性的一种方法)损失的方法来减小不同被试者的边缘概率分布的差异，采用关联强化的方法减小条件概率分布的差异。然而当数据点的分布与另一个分布没有重叠区域或者重叠区域可以忽略时，会出现梯度消失的情况，所以交叉熵反应不了两个分布的真实距离，采用Wasserstein 距离作为距离度量，可以在任何地方提供稳定的梯度，即反应两个分布的真实距离。

技术实现思路

[0005]为此，本专利技术实施例提供一种基于Wasserstein距离的表征相似对抗网络模型，能够反应两个分布的真实距离，为脑电情绪识别的深度迁移方法提供了一种准确率更高的方法。
[0006]为了实现上述目的，本专利技术的实施方式提供如下技术方案：
[0007]一种基于Wasserstein距离的表征相似对抗网络，其特征在于，包括如下步骤：
[0008]S1、脑电信号首先以200hz的采样率下采样，在0.5hz
‑
70hz之间用带通滤波器对脑电信号进行处理来滤除噪声和伪影，随机选择一名被试者的脑电信号作为目的域，其他被试者脑电信号作为源域；
[0009]S2、通过特征提取器将数据映射到一个特征空间并设置域混淆器的 Wasserstein距离；
[0010]S3、设置域混淆器的梯度惩罚并更新w参数；
[0011]S4、采用关联强化的分类器并求源域到目的域特征表征的相似度以及目的域到源域特征表征的相似度；
[0012]S5、计算源域目的域的往返概率和计算源域标签概率并用交叉熵损失计算损失；
[0013]S6、设定访问概率与目的域标签概率并用交叉熵损失计算损失；
[0014]S7、设置分类器损失与源域预测分类损失并计算模型损失，设置迭代次数 N,当训练次数达到迭代次数后停止。
[0015]作为优选，所述S1中：滤除噪声和伪影包括使用1s长非重叠汉宁窗的短时傅里叶变换计算5个频带(δ：1
‑
3hz，θ：4
‑
7hz，α：8
‑
13hz，β：14
‑
30hz，γ：31
‑
50hz)中的传统DE特征，引入线性动态系统来过滤无关信息。提高信息处理效果。
[0016]作为优选，所述S2中：特征提取器是由310
‑
128的全连接层构成，特征通过特征提取器后，由310维降至128维，再经过RELU激活，映射关系如下：
[0017]X
′
s
＝f(X
s
) X
′
t
＝f(X
t
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)
[0018]其中，X
s
为原始源域特征，X
t
为原始目的域特征，f(x)为特征提取器，X
′
s
和 X
′
t
表示源域和目的域在相同特征空间中的128维特征表示；Wasserstein距离可以减小源域和目的域边缘概率分布，Wasserstein距离的表达式如下：
[0019][0020]式子中，p
a
表示特征空间中的随机位置a的边缘概率分布，p
b
表示特征空间中的另一个位置b的边缘概率分布，inf表示结果的下确界，μ(p
a
,p
b
)是p
a
和p
b
组合的所有联合概率分布的集合，ε为可能组合的联合概率分布，‖x
‑
y‖为随机样本x和y的距离，E为随机样本距离的期望值，W(p
a
,p
b
)是最优路径的最小消耗；在式子中，由于不能直接求出结果，所以根据坎托罗维奇
‑
鲁宾斯坦对偶定理，将式子(2)变成如下形式：
[0021][0022]式子中，sup表示上确界，表示在边缘概率分布p
a
下样本x对函数f(x) 的期望值，表示在边缘概率分布p
b
下样本x对函数f(x)的期望值，‖f‖
L
表示Lipschitz常数，它的定义为：
[0023]‖f‖
L
＝sup|f(x1)
‑
f(x2)|/|x1‑
x2|
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(4)
[0024]由于经过特征提取器后，源域目的域特征映射为X
′
s
和X
′
t
，所以公式(3) 改为：
[0025][0026]可以通过调整参数w来最大化域混淆器的损失，以近似的表示Wasserstein 距离，所以把公式(5)改为：
[0027][0028]式子中，D表示域混淆器，等价于公式(5)中的f
w
()，表示域混淆器的损失， X
′
s
表示源域特征经过特征提取器后的特征表示，X
′
t
表示目的域特征经过特征提取器后的特
征表示，Σ表示求和，m表示源域特征数目，n表示目的域特征数目。有效降低混淆器损失。
[0029]作为优选，所述S3中：设置域混淆本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于Wasserstein距离的表征相似对抗网络，其特征在于，包括如下步骤：S1、脑电信号首先以200hz的采样率下采样，在0.5hz
‑
70hz之间用带通滤波器对脑电信号进行处理来滤除噪声和伪影，随机选择一名被试者的脑电信号作为目的域，其他被试者脑电信号作为源域；S2、通过特征提取器将数据映射到一个特征空间并设置域混淆器的Wasserstein距离；S3、设置域混淆器的梯度惩罚并更新w参数；S4、采用关联强化的分类器并求源域到目的域特征表征的相似度以及目的域到源域特征表征的相似度；S5、计算源域目的域的往返概率和计算源域标签概率并用交叉熵损失计算损失；S6、设定访问概率与目的域标签概率并用交叉熵损失计算损失；S7、设置分类器损失与源域预测分类损失并计算模型损失，设置迭代次数N，当训练次数达到迭代次数后停止。2.根据权利要求1所述的一种基于Wasserstein距离的表征相似对抗网络，其特征在于，所述S1中：滤除噪声和伪影包括使用1s长非重叠汉宁窗的短时傅里叶变换计算5个频带(δ：1
‑
3hz，θ：4
‑
7hz，α：8
‑
13hz，β：14
‑
30hz，γ：31
‑
50hz)中的传统DE特征，引入线性动态系统来过滤无关信息。3.根据权利要求1所述的一种基于Wasserstein距离的表征相似对抗网络，其特征在于，所述S2中：特征提取器是由310
‑
128的全连接层构成，特征通过特征提取器后，由310维降至128维，再经过RELU激活，映射关系如下：X
′
s
＝f(X
s
) X
′
t
＝f(X
t
)
ꢀꢀꢀꢀ
(1)其中，X
s
为原始源域特征，X
t
为原始目的域特征，f(x)为特征提取器，X
s
和X
t
表示源域和目的域在相同特征空间中的128维特征表示；Wasserstein距离可以减小源域和目的域边缘概率分布，Wasserstein距离的表达式如下：式子中，p
a
表示特征空间中的随机位置a的边缘概率分布，p
b
表示特征空间中的另一个位置b的边缘概率分布，inf表示结果的下确界，μ(p
a
，p
b
)是p
a
和p
b
组合的所有联合概率分布的集合，ε为可能组合的联合概率分布，||x
‑
y||为随机样本x和y的距离，E为随机样本距离的期望值，W(p
a
，p
b
)是最优路径的最小消耗，在式子中，由于不能直接求出结果，所以根据坎托罗维奇
‑
鲁宾斯坦对偶定理，将式子(2)变成如下形式：式子中，sup表示上确界，表示在边缘概率分布p
a
下样本x对函数f(x)的期望值，表示在边缘概率分布p
b
下样本x对函数f(x)的期望值，||f||
L
表示Lipschitz常数，它的定义为：||f||
L
＝sup|f(x1)
‑
f(x2)|/|x1‑
x2|
ꢀꢀꢀꢀꢀꢀꢀꢀ
(4)由于经过特征提取器后，源域目的域特征映射为X
′
s
和X
′
t
，所以公式(3)改为：
可以通过调整参数w来最大化域混淆器的损失，以近似的表示Wasserstein距离，所以把公式(5)改为：式子中，D表示域混淆器，等价于公式(5)中的f
w
()，表示域混淆器的损失，X
s
表示源域特征经过特征提取器后的特征表示，X
′
t
表示目的域特征经过特征提取器后的特征表示，∑表示求和，m表示源域特征数目，n表示目的域特征数目。4.根据权利要求1所述的一种基于Wasserstein距离的表征相似对抗网络，其特征在于，所述S3中：设置域混淆器的梯度惩罚包括由于公式(3)中有||f||
L
≤1的约束，所以在域混淆器中针对w增加梯度惩罚式子如下：式子中为特征表示，X
′
表示特征经过特征提取器后的特征表示，表示对X
′
求导，||...||2表示对其中的数先求平方和，再开根号；将w参数更新包括将Wasserstei...

【专利技术属性】
技术研发人员：祝磊，丁旺盼，朱洁萍，杨君婷，何光发，尤宇望，
申请(专利权)人：杭州电子科技大学，
类型：发明
国别省市：