一种基于剪枝残差网络的调制信号识别方法技术

本发明专利技术属于调制信号识别技术领域，具体涉及一种基于剪枝残差网络的调制信号识别方法。本发明专利技术包括获取输入调制信号,输入至残差网络训练,获取已完成训练的深度残差卷积层网络参数,提取调制识别残差模型中,所有归一化层的Gamma参数。对所有Gamma参数进行升序排列。设定全局的卷积核通道剪枝比例。根据剪枝比例,在升序排列的Gamma参数中确定剪枝的全局阈值；在所有归一化层中,删除小于全局阈值的Gamma参数及其上一层对应的卷积核通道。最后使用少量调制识别样本对剪枝的模型进行训练或使用全部调制信号训练样本从头训练。本发明专利技术相比之前的调制识别模型进一步减少了网络参数,压缩模型的大小,并大幅度减少了模型的运算量及推理时间。

【技术实现步骤摘要】
一种基于剪枝残差网络的调制信号识别方法
本专利技术属于调制信号识别
，具体涉及一种基于剪枝残差网络的调制信号识别方法。
技术介绍
信号的调制识别是频谱监测过程中的重要组成部分，在认知无线电频谱感知、战场信号截获等军民应用领域发挥着重要作用。采用深度神经网络方法相比于传统的人工分析方法判断信号属性,深层次的特征更容易以参数化的方式描述,效率更高,并且能够识别更多的信号类型。深度神经网络(如深度残差网络)相对于传统算法，显著提高了调制识别的准确性.随着网络层数越来越多,模型越来越复杂,尽管深度学习方法表现优秀,但大且深的深度网络模型运算量大,即使借助GPU加速,大规模模型参数也要占用大量的内存空间,在实际应用中依然受到时间和空间上的限制,难以满足实时性的需求.深度网络模型的压缩能够减少模型的参数,并且能够减少模型的运行时间,从而将调制信号识别的时间控制在合理的运算范围之内,降低功耗,满足实际应用的要求。
技术实现思路
本专利技术的目的是解决在不影响精度的前提下，对残差网络调制识别模型,压缩模型的参数量和减少计算复杂度的核心问题。以往的方法在裁剪调制识别模型时，为保证通道匹配,完全保留了部分卷积层卷积核。本方法的核心在于使用通道自适应的方式，在保证通道匹配的同时,对所有的卷积核进行剪枝,以期达到更优的剪枝后网络结构。为了实现上述提出的方法，本专利技术采用的技术方案如下所述：一种基于剪枝残差网络的调制信号识别方法，其特征在于，包括以下步骤：S1、对调制信号样本进行预处理,得到均衡后的信号样本并输入深度残差网络进行训练，获得训练好的深度残差网络；S2、基于训练好的深度残差网络，在归一化层中，对模型输入的激活值zin做归一化得到之后进行线性变化，输出的激活值为zout：其中，μB为输入激活值的均值，为方差，ε为极小常数项，γ为线性变换训练权重Gamma，β为偏置项。获取深度残差网络中所有归一化层的训练参数Gamma(γ)，将训练参数按升序排列；S3、设定全局剪枝比例c，根据全局的剪枝比例和步骤S2的结果确定阈值在所有归一化层中，删除小于阈值的训练参数γ及其上一层对应的卷积核通道，获得剔除卷积层后的残差网络；S4、基于剔除卷积层后的残差网络，分别计算深度残差网络每个阶段的残差块中最后的卷积层通道均值，分别将深度残差网络每个阶段的残差块中最后的卷积层通道数量剪枝至该阶段的均值，获得剪枝残差网络；S5、采用剪枝残差网络对调制信号进行识别，对剪枝残差网络的平均分类准确率和模型的可训练参数总量与设定标准进行比较，若未达到设定标准，更新全局剪枝比例c后回到步骤S2，直至达到设定标准为止。本专利技术的有益效果是：1)本专利技术基于深度学习对调制信号进行识别，并对深度残差网络进行了改进；2)采用更精准的网络通道重要性评估方式,使用训练参数Gamma作为重要性的评估标准对调制识别模型进行压缩,比人工经验压缩更为精准；3)通过通道自适应的方式可以在保证通道匹配的前提下,对调制识别模型中所有卷积层通道进行重要性评估并剪枝,从而得到更为紧凑的模型；4)可动态调整剪枝比例,从而可以将调制识别模型压缩至预期的范围；5)稳定的剪枝结果,重复的实验证明,本方法具有较好的可复现性与稳定性。附图说明图1为现有技术中一般的调制识别网络模型剪枝流程图图2为归一化层及其对应的调制识别模型卷积层剪枝示意图图3为同一阶段残差块结构的简化示意图；图4为在调制信号数据集上进行多次剪枝的准确率示意图。具体实施方式下面结合附图说明本专利技术的具体实施方式：本专利技术的主要方法为：获取输入调制信号,对调制信号进行预处理得到调制识别样本。将样本输入至残差网络训练,获取已完成训练的深度残差卷积层网络参数,归一化层训练参数。提取调制识别残差模型中,所有归一化层的Gamma参数.对所有Gamma参数进行升序排列。设定全局的卷积核通道剪枝比例。根据剪枝比例,在升序排列的Gamma参数中确定剪枝的全局阈值；在所有归一化层中,删除小于全局阈值的Gamma参数及其上一层对应的卷积核通道。调制识别模型的残差部分包含3个阶段,仅每个阶段的第一个残差块直连通道包含卷积层。对于同一阶段的每个残差块,其最后一个卷积层通道和直连通道卷积层通道数量均减除至该阶段剪枝后通道数量的均值。最后使用少量调制识别样本对剪枝的模型进行训练或使用全部调制信号训练样本从头训练。针对调制识别的自适应残差网络通道剪枝方法,该方法的具体步骤如下:a)将预处理的调制信号样本输入残差网络并训练得到已训练的残差网络.数字信号的常用调制方式包括2ASK,2FSK,4FSK,MSK,BPSK,QPSK,OQPSK,16QAM和64QAM等8种调制方式,信噪比设置为0dB.每种信号类型数据量大小为10000，样本总量为80000,将样本总量的60％作为训练集,20％作为验证集,20％作为测试集.预处理阶段对以上常见的8种类型复信号样本提取特征,得到长度合适(如2048点),维度相同的复信号样本,并输入至深度残差网络.网络模型搭建部分使用python语言实现,使用的深度学习框架为Tensorflow,使用NVIDIATITANX(Pascal)对GPU计算加速,参数设置汇总如表1所示.将8种信号类型的数据集送入到模型中学习,基于损失函数对卷积神经网络进行训练,以验证集对卷积神经网络的参数进行修正,将训练完成的模型保存.具体地,损失函数可以采用交叉熵函数.表1实验参数设置参数类型参数值参数类型参数值学习率0.001训练集48000Epochs200训练集16000OptimizerAdam验证集16000BatchSize64激活函数ReLub)已完成训练的残差网络模型卷积层及其相邻的归一化层Gamma参数共同决定该层不同通道的重要程度；一般情况下,残差块依次包含归一化层,激活函数,卷积层,和直连通道；在归一化层中,每个通道均为独立变换,通道之间的信息由下一层的卷积层进行融合；张量为在第一个归一化层中已经过归一化,而未进行缩放的激活值,其中Cl,Hl和Wl分别表示该激活值的通道数,长度和宽度,则其缩放后的激活值为其中,为第c个通道未缩放的激活值,为第c个通道的Gamma缩放参数,为归一化层缩放后第c个通道的激活值(为简单起见,已忽略归一化层与卷积层的偏置项参数β)；随即,激活值Zl通过激活层函数ReLU,得到:Zout＝ReLU(Zl)其中Zout为通过激活层之后的激活值,经过下一层卷积层,进行特征融合可以得到下一层激本文档来自技高网...

【技术保护点】
1.一种基于剪枝残差网络的调制信号识别方法，其特征在于，包括以下步骤：/nS1、对调制信号样本进行预处理,得到均衡后的信号样本并输入深度残差网络进行训练，获得训练好的深度残差网络；/nS2、基于训练好的深度残差网络，在归一化层中，对模型输入的激活值z

【技术特征摘要】
1.一种基于剪枝残差网络的调制信号识别方法，其特征在于，包括以下步骤：
S1、对调制信号样本进行预处理,得到均衡后的信号样本并输入深度残差网络进行训练，获得训练好的深度残差网络；
S2、基于训练好的深度残差网络，在归一化层中，对模型输入的激活值zin做归一化得到之后进行线性变化，输出的激活值为zout：



其中，μB为输入激活值的均值，为方差，ε为常数项，γ为线性变换训练权重Gamma，β为偏置项，获取深度残差网络中所有归一化层的训练参数γ，将训练参数按升序排列；
S3、设定全局剪枝比...

【专利技术属性】
技术研发人员：纪衡，廖红舒，甘露，徐汪洋，
申请(专利权)人：电子科技大学，
类型：发明
国别省市：四川;51