基于样本回想增量学习的信号调制分类模型及学习方法技术

本方案公开了一种基于样本回想增量学习的信号调制分类模型及学习方法，包括记忆回想模块、辨别模块和分类网络，引入了基于类标签与样本标签的记忆方式，在样本记忆阶段，记忆模块会对样本进行学习并生成低维度的特征表示，在样本回想阶段，只需对回想模块输入类标签与样本标签，就可以精确回想对应的样本，无需保存样本数据，只需要保存训练的回想模块和样本标签信息即可，通过记忆回想模块这个框架来作为样本数据的仓库，克服了直接存储样本数据需占用大量内存的困境。据需占用大量内存的困境。据需占用大量内存的困境。

【技术实现步骤摘要】
基于样本回想增量学习的信号调制分类模型及学习方法


[0001]本专利技术属于无线通信中信号识别
，尤其是涉及一种基于样本回想增量学习的信号调制分类模型及其训练方法。

技术介绍

[0002]在通信
中，为了便于信号无线发射，提高其抗干扰能力，同时满足不同的需求，需要对通信信号采取不同的调制方式。无线电信号调制分类一直是个持续讨论的问题，被广泛的应用于民用与军事领域。传统的调制分类主要有基于最大似然法和基于特征法。由于基于似然法的自动调制分类的高复杂计算性，并会受到无线信道环境的影响，因此难以部署。基于特征法被视为一种映射关系，特征的选择是否合理将强烈影响识别器的设计和性能。
[0003]近年来，随着计算机算力的几何性提升，以及数据量的爆炸式增长，机器学习和深度学习在业界和工业界都有爆发式的发展，一些优秀的神经网络模型也不断出现。深度学习是学习样本数据的内在规律和表示特征，在自然语言处理，计算机视觉,生物信息学中都取得了显著性成果，基于深度学习的调制分类也逐渐成为主流。
[0004]尽管基于深度学习的调制分类算法能够取得较好的分类效果，但是目前占主导地位的机器学习范式是孤立学习的，他不能保留所学知识在将来的学习中使用。当需要学习新任务时，如果没有旧数据的参与，新模型往往只会识别新的信号样本，旧任务会产生灾难性遗忘。一方面，希望学习到新的知识，另一方面，又必须防止新输入数据对旧知识的干扰，两种需求冲突构成了稳定性
‑
可塑性困境，因此，解决增量学习的灾难性遗忘是目前遇到的最大挑战。
[0005]在增量学习过程中，需要考虑新旧任务性能的平衡性，也要考虑增量过程中计算机存储资源和任务性能的平衡。监督分类、任务式增量和多头网络结构的框架下实现增量学习都存在着较高的难度，而渐进式学习仍然是一个热门的研究领域，并将持续很长时间，未来应更加重视生物系统和计算模型的探索。

技术实现思路

[0006]本专利技术的目的是针对上述问题，提供一种基于样本回想的无线电调制分类增量学习方法。
[0007]为达到上述目的，本专利技术采用了下列技术方案：
[0008]一种基于样本回想增量学习的信号调制分类模型，包括记忆回想模块、辨别模块和分类网络，所述的记忆回想模块包括依次拼接的记忆模块和回想模块，所述的记忆模块用于记忆原始样本，所述的回想模块用于回想记忆模块记忆的样本，在类增量训练任务中，将新的无线电信号样本和回想模块回想的回想样本作为本模型的样本数据训练本模型，所述的辨别模块用于与记忆回想模块构成对抗网络以训练记忆回想模块和辨别模块，所述的分类网络用于基于其输入输出分类结果。
[0009]在上述的基于样本回想增量学习的信号调制分类模型中，在第一次训练任务中，所述的原始样本仅包括本次训练任务的无线电信号样本，记忆回想模块、辨别模块基于本次训练任务的无线电信号样本进行训练；分类网络基于本次训练任务的无线电信号样本进行训练或基于回想模块对所述无线电信号样本的回想样本进行训练；
[0010]在非第一次任务的类增量训练阶段，原始样本包括当次训练任务的无线电信号样本和回想模块回想的回想样本，记忆回想模块、辨别模块基于本次训练任务的无线电信号样本和回想样本进行训练，分类网路的输入包括回想模块回想的回想样本和当次训练任务的无线电信号样本，即包括回想模块对旧样本的回想样本和新样本，或包括回想模块对于旧样本和新样本的回想样本，在测试或使用阶段，分类网络的输入为待分类的无线电信号样本。旧样本即之前训练任务的无线电信号样本，新样本即本次训练任务的无线电信号样本。
[0011]之前训练任务中记忆的样本，在被回想模块回想恢复后，使用本次训练后的记忆模块再次记忆，针对已经记忆过的样本，原始样本是指在本次训练任务中被回想模块恢复的样本。
[0012]在上述的基于样本回想增量学习的信号调制分类模型中，所述的记忆回想模块包括有嵌入于记忆模块和回想模块的嵌入式隐码向量层；
[0013]所述的记忆模块用于将原始样本转换为低维特征进行记忆，第一次训练任务下，记忆模块将本次训练任务的无线电信号样本转换为低维特征进行记忆，在后续训练任务下，记忆模块将本次训练任务的无线电信号样本和回想模块回想的无线电信号样本，即回想样本，转换为低维特征进行记忆：
[0014]z
i
＝Net1(x
i
)
ꢀꢀ
(3)
[0015]其中，x
i
表示第i类信号的原始样本，z
i
表示第i类信号的隐变量特征；
[0016]每一次训练任务下，保存该训练任务的原始样本的标签信息；同时嵌入式隐码向量层基于样本的标签信息动态存储记忆模块记忆的隐变量特征，每个样本的标签信息包括类标签和样本标签
[0017]回想模块基于记忆的隐变量特征回想相应的回想样本：
[0018][0019]用于训练回想模块的损失函数为：
[0020][0021]是回想模块对第i类信号回想得到的回想样本，x
i
是第i类信号的原始样本。
[0022]在上述的基于样本回想增量学习的信号调制分类模型中，辨别模块与记忆回想模块构成的对抗网络包括以下损失函数：
[0023][0024]l
gen
＝
‑
log(Net3(z))
ꢀꢀ
(14)
[0025]损失函数(3)用于更新辨别模块，损失函数(4)用于更新记忆模块，以混淆辨别模块；
[0026]所述的分类网络包括交叉熵损失函数：
[0027][0028]其中ρ表示批量数，为预测类标签，为真实类标签。
[0029]在上述的基于样本回想增量学习的信号调制分类模型中，回想模块还用于对输入的类标签和样本标签进行如下转换后进行样本回想：
[0030]采用独热编码方案对类标签进行编码，第i个样本的类标签表示为
[0031][0032]将样本标签转换为低维度连续值，第i个样本的样本标签表示为
[0033][0034]在新的训练任务中，嵌入式隐码向量层基于转换后的标签信息生成相应的隐变量特征：
[0035]z
i
＝CodeEmbedding(y
1,i
,y
2,i
)
ꢀꢀꢀ
(10)
[0036]回想模块基于生成的隐变量特征回想相应的回想样本。
[0037]一种基于样本回想的信号调制分类增量学习方法，在第N次训练任务下，类增量学习的方法包括：
[0038]将本次训练任务的无线电信号样本输入本模型，且所述的无线电信号样本具有类标签和样本标签
[0039]记忆模块记忆本次训练任务的原始样本，原始样本包括本次训练任务的无线电信号样本和回想模块回想的回想样本；
[0040]回想模块基于第N
‑
1次训练任务中保存的类标签样本标签以及记忆模块在第N
‑<本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于样本回想增量学习的信号调制分类模型，其特征在于，包括记忆回想模块、辨别模块和分类网络，所述的记忆回想模块包括依次拼接的记忆模块和回想模块，所述的记忆模块用于记忆原始样本，所述的回想模块用于回想记忆模块记忆的样本，在类增量训练任务中，将新的无线电信号样本和回想模块回想的回想样本作为本模型的样本数据训练本模型，所述的辨别模块用于与记忆回想模块构成对抗网络以训练记忆回想模块和辨别模块，所述的分类网络用于基于其输入输出分类结果。2.根据权利要求1所述的基于样本回想增量学习的信号调制分类模型，其特征在于，在第一次训练任务中，所述的原始样本仅包括本次训练任务的无线电信号样本，记忆回想模块、辨别模块基于本次训练任务的无线电信号样本进行训练；分类网络基于本次训练任务的无线电信号样本进行训练或基于回想模块对所述无线电信号样本的回想样本进行训练；在非第一次任务的类增量训练阶段，原始样本包括当次训练任务的无线电信号样本和回想模块回想的回想样本；分类网路的输入包括回想模块回想的回想样本和当次训练任务的无线电信号样本或包括回想模块对于旧样本和新样本的回想样本，在测试或使用阶段，分类网络的输入为待分类的无线电信号样本。3.根据权利要求2所述的基于样本回想增量学习的信号调制分类模型，其特征在于，所述的记忆回想模块包括有嵌入于记忆模块和回想模块的嵌入式隐码向量层；所述的记忆模块用于将原始样本转换为低维特征进行记忆：z
i
＝Net1(x
i
)
ꢀꢀꢀ
(3)其中，x
i
表示第i类信号的原始样本，z
i
表示第i类信号的隐变量特征；每一次训练任务下，保存该训练任务的原始样本的标签信息；同时嵌入式隐码向量层基于样本的标签信息动态存储记忆模块记忆的隐变量特征CodeEmbedding＝{z1,z2,...,z
L
}，每个样本的标签信息包括类标签和样本标签回想模块基于记忆的隐变量特征回想相应的回想样本：用于训练回想模块的损失函数为：用于训练回想模块的损失函数为：是回想模块对第i类信号回想得到的回想样本，x
i
是第i类信号的原始样本。4.根据权利要求1所述的基于样本回想增量学习的信号调制分类模型，其特征在于，辨别模块与记忆回想模块构成的对抗网络包括以下损失函数：l
gen
＝
‑
log(Net3(z))
ꢀꢀꢀꢀ
(14)损失函数(3)用于更新辨别模块，损失函数(4)用于更新记忆模块；所述的分类网络包括交叉熵损失函数：其中ρ表示批量数，为预测类标签，为真实类标签。5.根据权利要求4所述的基于样本回想增量学习的信号调制分类模型，其特征在于，回
想模块对输入的类标签和样本标签进行如下转换后进行样本回想：采用独热编码方案对类标签进行编码，第i个样本的类标签表示为将样本标签转换为低维度连续值，第i个样本的样本标签表示为在新的训练任务中，嵌入式隐码向量层基于转换后的标签信息生成相应的隐变量特征z
i
＝CodeEmbedding(y
1,i
,y
2,i
)
ꢀꢀꢀꢀ
(10)回想模块基于生成的隐变量特征回想相应的回想样本。6.一种基于样本回想的信号调制分类增量学习方法，其特征在于，在第N次训练任务下，类增量学习的方法包括：将本次训练任务的无线电信号样本输入本模型，且所述的无线电信号样本具有类标签和样本标签记忆模块记忆本次训练任务的原始样本，原始样本包括本次训练任务的无线电信号样本和回想模块回想的回想样本；回想模块基于第N
‑
1次训练任务中保存的类标签样本标签以及...

【专利技术属性】
技术研发人员：赵琰，陈仕川，郑仕链，赵知劲，姜明，戴绍港，
申请(专利权)人：杭州电子科技大学，
类型：发明
国别省市：