一种基于卷积神经网络和正则化方法的半监督调制识别方法技术

本发明专利技术属于无线通信技术领域，公开了一种基于卷积神经网络和正则化方法的半监督调制识别方法，包括如下步骤：步骤A、将有标记的训练样本输入包含Dropout和高斯噪声层的卷积神经网络前向运算，然后计算前向输出与有标记样本对应标签之间的交叉熵损失；步骤B、对包含有标记和无标记的所有训练样本，将每个样本两次输入包含Dropout和高斯噪声层的卷积神经网络前向运算，然后计算两次前向输出之间的余弦相似性损失；步骤C、将步骤A中的交叉熵损失函数、步骤B中的余弦相似性加权求和作为模型的总损失函数，然后以最小化总损失函数为训练目标更新模型参数；步骤D、重复步骤A至步骤C，直至模型完成训练；步骤E、将待识别信号样本输入训练完成的模型前向运算输出调制方式识别结果；该算法在标记样本占总训练样本7％及以下时，较于监督学习算法可以获得约11

【技术实现步骤摘要】
一种基于卷积神经网络和正则化方法的半监督调制识别方法


[0001]本专利技术属于无线通信
，特别涉及一种基于卷积神经网络和正则化方法的半监督调制识别方法。

技术介绍

[0002]快速发展的无线通信技术已经融入于当下的千行百业之中，成为人类社会生产生活必不可少的一部分。实际通信系统中，受限于信道特性，基带信号需要先通过调制，再经天线发射出去。调制识别是指根据接收机收到的信号，判断接收信号所采用的调制方式。调制识别是对接收信号进行参数估计、解调译码的基础，调制方式识别的正确与否直接决定了能否从接收信号中提取出有用信息，该技术普遍应用于各种军事和民用场景中。
[0003]调制识别技术发展至今可以归为基于似然比理论的调制识别算法、基于特征提取的调制识别算法和基于深度学习的调制识别算法三类。基于似然比理论的调制识别方法可以达到理论上的性能上限，其主要局限性表现如下：一是似然函数的构造需要已知载波频率、码元速率和信噪比等参数，然而在非合作通信系统中诸如此类先验信息是未知的；二是基于似然比理论的调制识别方法复杂度较高。因此在大多数实际通信场景下基于似然比理论的调制识别方法无法适用。基于特征提取的调制识别方法针对待识别信号集合构造出若干个分类特征，然后根据所提特征设计出合适的分类器完成信号识别，该类算法具有良好的工程应用价值。然而基于特征提取的调制识别方法过于依赖所构造特征的分类能力，所构造的特征直接决定了该类方法的性能上限。随着数字通信技术的发展，现今无线通信系统中调制方式呈现越来越多、越来越复杂的趋势，如高阶调制信号128APSK、128QAM等。当待识别集合中信号种类数较多、调制方式较复杂时，研究人员依靠自身经验去人工构造特征是十分困难的。
[0004]近年来受深度学习技术成功应用于各种领域的启发，大量学者开始研究使用深度学习方法解决调制识别问题。基于深度学习的调制识别方法是一种端到端的模型，同时完成特征提取和分类器的功能。较于传统基于特征提取的方法，基于深度学习的调制识别方法无需人工提取特征，并且可以取得更高的分类精度。然而大多现存基于深度学习的调制识别算法也存在一个主要不足：基于深度学习的调制识别算法的需要大量标记样本参与网络训练，否则难以训练出一个高精度的分类模型。然而实际通信系统中并不存在大量标记样本，实际通信系统中仅存在少量标记样本和大量无标记样本，并且获取大量无标记样本的调制方式并进行标注是极其困难繁琐的，因此基于少量标记样本和大量无标记样本的半监督调制识别算法是非常值得研究的。现存绝大多数研究都集中在监督学习算法上，而对于半监督调制识别算法的研究少之又少，史蕴豪等(2020)提出了一种基于伪标签的半监督调制识别算法，但是该算法需要分别训练一个全连接神经网络和一个卷积神经网络，算法实现流程过于繁琐。Y.Wang等(2020)给出了一种基于迁移学习的半监督调制识别算法，然而该算法需训练卷积神经网络和卷积自编码器两路网络，训练过程较为复杂。现存半监督调制识别算法普遍存在实现过程复杂的问题，为解决实际通信场景下的调制识别任务，基
于少量标记样本和大量无标记样本的半监督调制识别算法需要进行深入研究。

技术实现思路

[0005]本专利技术为解决现有技术中的问题而提出了一种基于卷积神经网络和正则化方法的半监督调制识别方法，在少量标记样本和大量无标记样本下的通信场景下实现了无线信号调制方式识别；为达到上述目的所采取的技术方案是：
[0006]一种基于卷积神经网络和正则化方法的半监督调制识别方法，包括如下步骤：
[0007]步骤A、将有标记的训练样本输入包含Dropout和高斯噪声层的卷积神经网络前向运算，然后计算前向输出与有标记样本对应标签之间的交叉熵损失；
[0008]步骤B、对包含有标记和无标记的所有训练样本，将每个样本两次输入包含Dropout和高斯噪声层的卷积神经网络前向运算，然后计算两次前向输出之间的余弦相似性损失；
[0009]步骤C、将步骤A中的交叉熵损失函数、步骤B中的余弦相似性加权求和作为模型的总损失函数，然后以最小化总损失函数为训练目标更新模型参数；
[0010]步骤D、重复步骤A至步骤C，直至模型完成训练；
[0011]步骤E、将待识别信号样本输入训练完成的模型前向运算输出调制方式识别结果；
[0012]优选的，在步骤A中，包含Dropout和高斯噪声层的卷积神经网络的具体结构为，
[0013][0014]优选的，在步骤A中，残差栈的具体结构首先是线性激活的1
×
1卷积层，然后串接两个残差单元，最后连接一层窗口大小为1
×
2且步长为2的最大池化层。
[0015]优选的，在步骤A中，残差栈中残差单元的具体结构首先是一层ReLU函数激活、卷积核大小为1
×
5的标准卷积层，然后连接一层线性激活、卷积核大小为1
×
5的标准卷积层，最后将残差单元中前一个标准卷积层的输入与后一个标准卷积层的输出相加作为残差单元的输出。
[0016]优选的，在步骤A中，卷积神经网络中设计的ReLU为修正线性单元激活函数，其定义为ReLU(x)＝max(0,x)。
[0017]优选的，在步骤A中，所采用的卷积神经网络在输入层之后部署了一层高斯噪声
层，高斯噪声的标准差大小为0.001。
[0018]优选的，在步骤A中，所采用的卷积神经网络在最后一层全连接层之前部署了一层高斯噪声层，高斯噪声的标准差大小为0.0005。
[0019]优选的，在步骤A中，所采用的卷积神经网络在第二个残差栈之后部署了一层Dropout层，该层的随机丢弃概率值为0.7。
[0020]优选的，在步骤A中，所采用交叉熵损失函数为：
[0021][0022]其中，y
i
为标记样本对应的标签，z
i
为标记样本的前向运算输出，且y
i
和z
i
都是C维向量，C表示待分类信号种类数。
[0023]优选的，在步骤B中，所采用余弦相似性损失函数为：
[0024][0025]其中，表示步骤B中训练样本的第一次前向运算输出，表示步骤B中训练样本的第二次前向运算输出，且和都是C维向量形式。
[0026]优选的，在步骤C中，模型的总损失函数为：
[0027][0028]其中，L
s
(z
i
,y
i
)为步骤A中的交叉熵损失，为步骤B中的余弦相似性损失，w(t)为余弦相似性损失所占权重，t表示训练轮次，w(t)是以训练轮次为自变量的函数。
[0029]优选的，在步骤C中，余弦相似性损失权重函数w(t)在训练开始的若干轮次中从较小值开始缓慢增大，随后在中间轮次保持不变，在最后的若干伦次逐渐减小为零。
[0030]本专利技术所具有的有益效果为：在存在少量标记样本和大量无标记样本的通信场景下，提出一种基于卷积神经网络和正则化方法的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于卷积神经网络和正则化方法的半监督调制识别方法，其特征在于，包括如下步骤：步骤A、将有标记的训练样本输入包含Dropout和高斯噪声层的卷积神经网络前向运算，然后计算前向输出与有标记样本对应标签之间的交叉熵损失；步骤B、对包含有标记和无标记的所有训练样本，将每个样本两次输入包含Dropout和高斯噪声层的卷积神经网络前向运算，然后计算两次前向输出之间的余弦相似性损失；步骤C、将步骤A中的交叉熵损失函数、步骤B中的余弦相似性加权求和作为模型的总损失函数，然后以最小化总损失函数为训练目标更新模型参数；步骤D、重复步骤A至步骤C，直至模型完成训练；步骤E、将待识别信号样本输入训练完成的模型前向运算输出调制方式识别结果。2.根据权利要求1所述的基于卷积神经网络和正则化方法的半监督调制识别方法，其特征在于，在步骤A中，包含Dropout和高斯噪声层的卷积神经网络的具体结构为，3.根据权利要求1所述的基于卷积神经网络和正则化方法的半监督调制识别方法，其特征在于，在步骤A中，所采用的卷积神经网络在输入层之后部署了一层高斯噪声层，高斯噪声的标准差大小为0.001。4.根据权利要求1所述的基于卷积神经网络和正则化方法的半监督调制识别方法，其特征在于，在步骤A中，所采用的卷积神经网络在最后一层全连接层之前部署了一层高斯噪声层，高斯噪声的标准差大小为0.0005。5.根据权利要求1所述的基于卷积神经网络和正则化方法的半监督调制识别方法，其特征在于，在步骤A中，所采用的卷积神经...

【专利技术属性】
技术研发人员：孙鹏，姜勃，刘宏洁，孙冬哲，王忠勇，
申请(专利权)人：郑州大学，
类型：发明
国别省市：