基于注意力深度网络的无线电信号特征提取方法技术

本发明专利技术公开一种基于注意力深度网络的无线电信号特征提取方法，其实现步骤为：在构建编码调制联合无线电信号基础上生成训练样本集和测试样本集；构建包含注意力机制层的用于提取无线电信号特征的注意力深度网络；将训练样本集输入注意力深度网络中进行训练，得到训练好的注意力深度网络；利用测试样本集和训练好的注意力深度网络获得识别准确率。本发明专利技术具有普适性强，不需要人工特征提取，可去除冗余信息，复杂度低，分类结果准确、稳定的优点，可用于后续无线电信号的认知识别等处理中。

Feature extraction method for radio signals based on attention depth network

The invention discloses a wireless signal feature extraction method based on the attention depth network. The actual steps are as follows: the training sample set and the test sample set are generated on the basis of the construction of the coded modulation combined radio signal, and the attention depth network, which includes the attention mechanism layer, is constructed to extract the radio signal features. The training sample set is trained in the attention depth network to get the trained attention depth network, and the recognition accuracy is obtained by using the test sample set and the trained attention depth network. The invention has the advantages of high universality, no need of artificial feature extraction, redundant information, low complexity, accurate and stable classification results, and can be used in the recognition and recognition of subsequent radio signals.

【技术实现步骤摘要】
基于注意力深度网络的无线电信号特征提取方法
本专利技术属于通信
，更进一步涉及信号处理
中的一种基于注意力深度网络的无线电信号特征提取方法。本专利技术模拟人类大脑信息处理机制中的视觉选择性注意力机制，可以在复杂的电磁环境下，通过自动提取无线电信号特征和快速筛选出高价值特征，用于后续无线电信号的认知识别。相比已有深度学习模型，本专利技术不仅具有计算复杂度低、参数规模小、易于硬件实现的特点，而且能在较低信噪比下获得准确的无线电信号调制编码方式的识别。
技术介绍
无线电信号特征提取是无线电信号处理的基本步骤，对于后续处理性能与效率均起着决定性作用。一直以来国内外各大科研机构和高校在无线电信号的特征提取领域做出了大量的工作，利用大量的专家先验知识对信号进行分析，以获得具有判别性的信号特征。特别是近年来随着通信环境的日益复杂，信号种类和干扰快速增加，这种依赖经验设计特征的方法面临诸多困难与局限，缺点也愈发突出。另一方面，尽管基于传统方法的无线电信号信道编码类型的识别能在某类信号上能达到较满意的识别率，但在编码调制联合认知识别的准确性和有效性上有待进一步发展和提高。因此我们引入机器学习技术，并基于人类大脑信号处理机制中的视觉选择性注意力机制，建立了一个注意力深度网络模型，以自动提取各类无线电信号的层次化的显著语义特征，为复杂电磁环境下精准有效的无线电信号认知识别提供具有判别力的特征。南京信息职业技术学院在其申请的专利文献“一种低信噪比条件下认知无线电信号调制方式的识别方法”(申请号201210438094.1公开号103812577B)中公开了一种低信噪比条件下认知无线电信号调制方式识别方法。该方法实现方法如下：步骤如下：(1)对接收信号进行分段频域滤波；(2)检测信号频谱中正弦波分量个数，若包含两个正弦波分量，则判定接收信号为FSK调制方式；若不满足，则执行步骤(3)；(3)将接收信号作平方运算，检测其频谱中的正弦波分量个数，若只有单个正弦波，则接收信号为BPSK调制方式；若包含两个正弦波分量则判定接收信号为MSK调制方式；若上述皆不满足，则执行步骤(4)；(4)将接收信号作四次方运算，检测其频谱中的正弦波分量个数，若只有单个正弦波分量则判定接收信号为QPSK调制方式，上述皆不满足则判为未知调制方式信号。该方法存在的不足之处是：该方法虽然提出了一种低信噪比条件下认知无线电信号调制方式识别方法，但是该方法在对信号进行特征提取时需要频域转换和复杂的数学运算，需要大量的先验知识，高度依赖人工特征提取，特征提取方法复杂。杜青等人在其发表的论文“基于小波分析与神经网络的无线信号分类方法的研究”(河北工业大学2007年硕士论文)中阐述了一种基于小波分析与神经网络的无线信号分类方法。该算法实现方法如下：第一步是特征提取,采用Daubechies小波对信号进行七层分解和重构,研究了以各层信号的均方差作为信号的特征矢量的方法。第二步是调制方式分类,设计了用于实现调制信号分类的RBF神经网络,用提取的样本集的特征对RBF神经网络进行训练,用训练好的网络对测试集的信号进行分类。该方法存在的不足之处是：该方法虽然提出了一种基于神经网络的无线电特征提取方法来实现信号分类，但无法对无线电信号进行有效的特征提取，从而无法实现无线电信号调制编码方式的识别，并且该方法需要对一维信号进行小波分析才能用神经网络进行特征提取和分类识别的问题。
技术实现思路
本专利技术针对上述现有技术的不足，提出一种基于注意力深度网络的无线电信号特征提取方法。实现本专利技术目的的具体思路是，设计针对一维无线电信号的注意力深度网络进行无线电信号特征提取，为后续无线电信号的认知识别等处理提供有判别力的特征。该方法所提取出的特征能够在无线电信号调制编码的联合识别中达到较高的识别率，同时又能降低传统调制识别方法对人工特征提取和先验知识的高度依赖性，准确分类多种无线电信号的信道编码方式类型和调制方式类型，并简化了识别步骤，使无线电信号的特征提取方法更加简便、高效、灵活。实现本专利技术目的的具体步骤包括如下：(1)构建编码调制联合无线电信号：(1a)将接收到的每一个无线电信号信息序列，依次进行四种信道编码，生成不同的编码信号；(1b)将每一个编码信号依次进行六种调制，得到编码调制联合无线电信号；(2)生成训练样本集和测试样本集：(2a)对编码调制联合无线电信号中每一个信号样本的所有信息点以100个信息点为间隔进行采样，将每次连续采集的440个信息点组成一个信号样本，将所有的信号样本组成无线电信号样本集；(2b)从无线电信号样本集中随机抽取80％的信号样本组成训练样本集，剩余的信号样本组成测试样本集；(3)构建提取无线电信号特征的注意力深度网络：(3a)搭建一个自动提取无线电信号特征的17层注意力深度网络；(3b)设置注意力深度网络中的损失函数为交叉熵、优化算法为误差逆传播算法、激活函数设置为修正线性单元激活函数；将第一全连接层和第二全连接层的神经元个数分别设置为64和24，分类器层为多分类函数Softmax；(3c)设置注意力深度网络的卷积层和池化层设置如下：第一卷积层为64个卷积核，每个卷积核为1×3的矩阵；第二卷积层为64个卷积核，每个卷积核为1×5的矩阵；第三卷积层为128个卷积核，每个卷积核为1×3的矩阵；第四卷积层为128个卷积核，每个卷积核为1×5的矩阵；第五卷积层为256个卷积核，每个卷积核为1×3的矩阵；第六卷积层为256个卷积核，每个卷积核为1×5的矩阵；设置第一池化层、第二池化层、第三池化层、第四池化层和第五池化层的池化方式为最大池化方式，池化步长为2；第五池化层的输出结果为256个1×16的特征向量；(4)构建注意力深度网络的注意力机制层：(4a)将注意力机制层的输入设置为256个神经单元，并将第五池化层输出结果中的256个特征向量依次作为256个神经单元的输入值，得到每个神经元的输入值；(4b)利用初始化方法，将256个神经单元中每一个神经元的权重和偏置初始化，得到每个神经单元的初始化权重和初始化偏置；(4b)对于每个神经单元，将其输入值与初始化权重相乘,再将相乘的结果与初始化偏置相加，得到每个神经单元的初始注意力权重；(4c)利用权重处理公式，将每个神经单元的初始注意力权重处理，得到每个神经单元的权重值；(4d)对每个神经单元的权重值分别进行以自然对数为底数的指数操作，得到每个神经单元的注意力权重；(4e)对于每个神经单元，将其注意力权重与输入值相乘，得到每个神经单元的注意力特征值；(4f)将所有神经单元的注意力特征值相加求和，得到注意力值，将注意力值作为注意力机制层的输出结果；(5)用训练样本集训练注意力深度网络：打乱训练样本集中所有样本的排列顺序，将训练样本集输入到注意力深度网络中训练18次，得到训练好的注意力深度网络；(6)用测试样本集获得特征提取后的识别准确率：(6a)将测试样本集输入到训练好的注意力深度网络中，得到识别结果；(6b)将识别结果与测试样本集的真实类别进行对比，得到特征提取后的识别准确率。本专利技术与现有技术相比具有以下优点：第一，由于本专利技术搭建一个自动提取无线电信号特征的17层注意力深度网络，用于对信号进行自动特征提取，克服了现有技术中本文档来自技高网...

【技术保护点】
1.一种基于注意力深度网络的无线电信号特征提取方法，其特征在于，包括如下步骤：(1)构建编码调制联合无线电信号：(1a)将接收到的每一个无线电信号信息序列，依次进行四种信道编码，生成不同的编码信号；(1b)将每一个编码信号依次进行六种调制，得到编码调制联合无线电信号；(2)生成训练样本集和测试样本集：(2a)对编码调制联合无线电信号中每一个信号样本的所有信息点以100个信息点为间隔进行采样，将每次连续采集的440个信息点组成一个信号样本，将所有的信号样本组成无线电信号样本集；(2b)从无线电信号样本集中随机抽取80％的信号样本组成训练样本集，剩余的信号样本组成测试样本集；(3)构建提取无线电信号特征的注意力深度网络：(3a)搭建一个自动提取无线电信号特征的17层注意力深度网络；(3b)设置注意力深度网络中的损失函数为交叉熵、优化算法为误差逆传播算法、激活函数设置为修正线性单元激活函数；将第一全连接层和第二全连接层的神经元个数分别设置为64和24，分类器层为多分类函数Softmax；(3c)设置注意力深度网络的卷积层和池化层设置如下：第一卷积层为64个卷积核，每个卷积核为1×3的矩阵；第二卷积层为64个卷积核，每个卷积核为1×5的矩阵；第三卷积层为128个卷积核，每个卷积核为1×3的矩阵；第四卷积层为128个卷积核，每个卷积核为1×5的矩阵；第五卷积层为256个卷积核，每个卷积核为1×3的矩阵；第六卷积层为256个卷积核，每个卷积核为1×5的矩阵；设置第一池化层、第二池化层、第三池化层、第四池化层和第五池化层的池化方式为最大池化方式，池化步长为2；第五池化层的输出结果为256个1×16的特征向量；(4)构建注意力深度网络的注意力机制层：(4a)将注意力机制层的输入设置为256个神经单元，并将第五池化层输出结果中的256个特征向量依次作为256个神经单元的输入值，得到每个神经元的输入值；(4b)利用初始化方法，将256个神经单元中每一个神经元的权重和偏置初始化，得到每个神经单元的初始化权重和初始化偏置；(4c)对于每个神经单元，将其输入值与初始化权重相乘,再将相乘的结果与初始化偏置相加，得到每个神经单元的初始注意力权重；(4d)利用权重处理公式，将每个神经单元的初始注意力权重处理，得到每个神经单元的权重值；(4e)对每个神经单元的权重值分别进行以自然对数为底数的指数操作，得到每个神经单元的注意力权重；(4f)对于每个神经单元，将其注意力权重与输入值相乘，得到每个神经单元的注意力特征值；(4g)将所有神经单元的注意力特征值相加求和，得到注意力值，将注意力值作为注意力机制层的输出结果；(5)用训练样本集训练注意力深度网络：打乱训练样本集中所有样本的排列顺序，将训练样本集输入到注意力深度网络中训练18次，得到训练好的注意力深度网络；(6)用测试样本集获得特征提取后的识别准确率：(6a)将测试样本集输入到训练好的注意力深度网络中，得到识别结果；(6b)将识别结果与测试样本集的真实类别进行对比，得到特征提取后的识别准确率。...

【技术特征摘要】
1.一种基于注意力深度网络的无线电信号特征提取方法，其特征在于，包括如下步骤：(1)构建编码调制联合无线电信号：(1a)将接收到的每一个无线电信号信息序列，依次进行四种信道编码，生成不同的编码信号；(1b)将每一个编码信号依次进行六种调制，得到编码调制联合无线电信号；(2)生成训练样本集和测试样本集：(2a)对编码调制联合无线电信号中每一个信号样本的所有信息点以100个信息点为间隔进行采样，将每次连续采集的440个信息点组成一个信号样本，将所有的信号样本组成无线电信号样本集；(2b)从无线电信号样本集中随机抽取80％的信号样本组成训练样本集，剩余的信号样本组成测试样本集；(3)构建提取无线电信号特征的注意力深度网络：(3a)搭建一个自动提取无线电信号特征的17层注意力深度网络；(3b)设置注意力深度网络中的损失函数为交叉熵、优化算法为误差逆传播算法、激活函数设置为修正线性单元激活函数；将第一全连接层和第二全连接层的神经元个数分别设置为64和24，分类器层为多分类函数Softmax；(3c)设置注意力深度网络的卷积层和池化层设置如下：第一卷积层为64个卷积核，每个卷积核为1×3的矩阵；第二卷积层为64个卷积核，每个卷积核为1×5的矩阵；第三卷积层为128个卷积核，每个卷积核为1×3的矩阵；第四卷积层为128个卷积核，每个卷积核为1×5的矩阵；第五卷积层为256个卷积核，每个卷积核为1×3的矩阵；第六卷积层为256个卷积核，每个卷积核为1×5的矩阵；设置第一池化层、第二池化层、第三池化层、第四池化层和第五池化层的池化方式为最大池化方式，池化步长为2；第五池化层的输出结果为256个1×16的特征向量；(4)构建注意力深度网络的注意力机制层：(4a)将注意力机制层的输入设置为256个神经单元，并将第五池化层输出结果中的256个特征向量依次作为256个神经单元的输入值，得到每个神经元的输入值；(4b)利用初始化方法，将256个神经单元中每一个神经元的权重和偏置初始化，得到每个神经单元的初始化权重和初始化偏置；(4c)对于每个神经单元，将其输入值与初始化权重相乘,再将相乘的结果与初始化偏置相加，得到每个神经单元的初始注意力权重；(4d)利用权重处理公式，将每个神经单元的初始注意力权重处...

【专利技术属性】
技术研发人员：杨淑媛，王敏，吴亚聪，焦李成，黄震宇，王喆，李兆达，张博闻，宋雨萱，李治，王翰林，王俊骁，
申请(专利权)人：西安电子科技大学，
类型：发明
国别省市：陕西,61