一种基于共轭梯度下降法的深度学习信号检测方法技术

本发明专利技术提供了一种基于共轭梯度下降法的深度学习信号检测方法，主要面向大规模MIMO系统。该方法包括如下步骤：(1)基于共轭梯度下降法构造了模型驱动的深度学习网络LcgNet，将每次迭代的步进标量转化成需要学习的网络参数，并提升了该参数的维度；(2)对信道环境建模，根据MIMO系统模型生成大量具有不同信噪比的训练数据；(3)运用大量训练数据对网络进行线下训练；(4)根据接收信号以及假设完美已知的信道状态信息进行在线实时的信号检测。本发明专利技术借助深度学习的力量，能够提升信号检测的精度，并且进一步降低了计算复杂度。此外，该深度学习网络由于所需优化参数数量有限，易于训练，在训练阶段对时间和硬件的要求较低。

A method of deep learning signal detection based on conjugate gradient descent

【技术实现步骤摘要】
一种基于共轭梯度下降法的深度学习信号检测方法
本专利技术属于无线通信领域，涉及一种基于共轭梯度下降法的深度学习信号检测方法。
技术介绍
随着物联网的兴起和移动互联网业务种类的日渐丰富，人们对蜂窝移动通信数据传输速率以及服务质量提出了更高的要求。由于能够充分挖掘空间维的自由度，在提高频谱效率的同时获得较好的功率利用率，大规模MIMO系统引起了国内外的广泛关注。大规模MIMO系统配置的大规模天线阵列在带来性能增益的同时也带来了急剧增加的系统硬件复杂度和计算复杂度。因此，复杂度较低且检测误码率性能较好的检测器对于MIMO接收机的设计来说至关重要。最大似然检测器被视作最佳检测器，能够搜索发射信号的所有符号组合，但是其计算复杂度随着MIMO规模的增长指数上升。随着MIMO规模的增大，信道矩阵逐渐展现出信道硬化现象。在MIMO规模足够大时，线性检测器，如迫零检测器和最小均方误差检测器，都能达到接近最佳检测器的性能。然而，在MIMO规模很大时，线性检测器内的所包含的大型矩阵求逆运算依然会消耗较大的运算资源。基于截断纽曼级数展开的最小均方误差检测器和基于共轭梯度下降法的最小均方误差检测器常用来进一步降低最小均方误差检测器的计算复杂度，其中基于共轭梯度下降法的最小均方误差检测器展现出了更好的信号检测性能和更低的计算复杂度。另外，由于深度学习方法已经成功应用于其他很多领域，比如说图像处理，自然语言处理等，它作为一种有潜力的技术也开始应用于无线通信领域中，比如信号检测，信道估计等。主流的深度学习方法分为两种，一是模型驱动深度学习方法，此方法根据已知的知识和机制构建网络；二是数据驱动深度学习方法，此方法将网络看做黑盒并依赖大量数据训练该网络，常见的全连接网络以及深度卷积网络都属于此种方法。本专利技术将共轭梯度下降法的迭代过程展开成网络，将每次迭代的步进标量转化成需要学习的网络参数，并将此标量参数升维至向量参数。由于该网络所需要训练的参数非常有限，因此该网络十分易于训练，同时训练所需时长少。一旦完成训练，网络参数被固定下来用于在线实时信号检测。本专利技术提出的基于共轭梯度下降的信号检测方法相比于其他信号检测方法，不仅提高了信号检测的精度，也降低了计算复杂度。
技术实现思路
本专利技术的目的是针对在大规模MIMO系统中，传统信号检测算法的计算复杂度很高，难以在硬件上实现，提出了一种基于共轭梯度下降法的深度学习信号检测方法。为达到上述目的，本专利技术采用了如下的技术方案：该方法具体包括以下步骤：1.基于共轭梯度下降法构建模型驱动的深度学习网络，将迭代的步进标量升维后转化成网络参数，所述网络参数为向量参数；2.根据信道模型产生已知的信道矩阵，并根据MIMO系统模型获得具有不同信噪比的训练数据；3.运用步骤3所述的训练数据对深度学习网络进行线下训练，得到训练后的网络参数；4.在接收机固定训练后的网络参数，根据接收机信道估计模块得到的信道矩阵以及接收信号进行在线实时的信号检测。进一步的，所述步骤1具体为：基于共轭梯度下降法构建模型驱动的深度学习网络，所述深度学习网络由T层构成并且每层具有相同的网络结构，以迭代的形式求解最小均方误差检测器，最小均方误差检测器表示为：其中，是由接收机信道估计模块得到的信道矩阵，是Nt×Nt的单位矩阵，是噪声方差，y是接收信号，为Hermitian正定矩阵，b＝HHy为匹配滤波器输出向量；将共轭梯度下降法的第i次迭代表示为深度学习网络的第i层，第i次迭代所包含的两个步进标量αi和βi被第i层升维后的向量参数α(i)和β(i)替代，深度学习网络第i层的信号检测过程表示为：r(i+1)＝r(i)-α(i)⊙Ad(i)d(i+1)＝r(i)+β(i)⊙d(i)其中符号⊙表示两个向量的哈达马积，为恢复的发射信号，α(i)为第i层的向量参数，d(i)为随网络传递的中间变量，表示共轭梯度；选择L2范数作为代价函数，具体损失函数表示为：其中Θ(l)表示第l层的学习参数，Θ(l)＝{α(l),β(l)}，M为训练数据的数量，srm为第m个发射信号，yrm为接收信号。进一步的，步骤2所述根据MIMO系统模型获得具有不同信噪比的训练数据，具体为：根据MIMO系统模型获得接收信号ym＝Hmsm+nm，通过调节噪声的方差来改变训练数据的信噪比，接收信号向量和对应的发射信号向量构成不同信噪比的训练数据其中M是训练数据的数量，Hm是根据信道模型产生的已知的信道矩阵，hm是Hm向量化后的信道矩阵，nm为高斯噪声。进一步的，所述步骤3具体为：采用逐层训练的方式，训练数据由高信噪比依次向低信噪比递减，每一轮训练中，信噪比固定；当训练深度学习网络的第l层时，首先用学习率λ单独训练第l层的向量参数{α(l),β(l)}，前l-1层的向量参数保持不变，再采用递减的学习率λ′对前l层的向量参数进行调优，其中递减的学习率λ′初始值为0.1×λ，递减率为0.5，当归一化均方误差不再下降时训练终止，得到训练后的网络参数。本专利技术的有益效果：本专利技术充分利用了模型驱动的深度学习方法的优势，将共轭梯度下降法的迭代过程展开成深度学习网络。此网络继承了共轭梯度下降法收敛快的特性，收敛速度快，所需层数小于共轭梯度下降法所需迭代次数。本专利技术提供的方法可以获得优于最小均方误差检测器的性能，提供了超过1dB的检测性能增益。同时本专利技术大大降低了检测的计算复杂度，缩短了线上实时检测过程所需的时间。同时，由于网络结构简单，所需学习参数有限，相比起其他深度学习网络，该网络非常易于训练，训练过程对于训练时间和硬件平台的要求较低。附图说明图1是基于共轭梯度下降法的模型驱动深度网络的单层结构框图；图2是基于共轭梯度下降法的深度学习信号检测方法在不同MIMO规模下的归一化均方误差性能曲线；图3是基于共轭梯度下降法的深度学习信号检测方法在不同信道模型下的归一化均方误差性能曲线。具体实施方式为了使本专利技术的技术方案和优点变得更加清晰，接下来将结合附图对技术方案的具体实施方式作更加详细地说明。在所考虑的大规模MIMO系统中，采用垂直分层空时结构，接收端有64根天线，发射端有32根天线，根据运用场景对信道进行建模。针对该系统所提出的一种基于共轭梯度下降法的深度学习信号检测方法包括如下步骤：步骤一、构建深度学习网络LcgNetV。本专利技术将共轭梯度下降法的迭代过程展开成网络，将每次迭代的步进标量转化成需要学习的网络参数，并将这些标量参数升维至向量参数。共轭梯度下降法以迭代的形式求解最小均方误差检测器，最小均方误差检测器可以表示为：其中，是假设完美已知的信道矩阵，是Nt×Nt的单位矩阵，是噪声方差，y是接收信号，为Hermitian正定矩阵，b＝HHy为匹配滤波器输出向量。共轭梯度下降算法的每一次迭代都看作是该子网络的一层，第i次迭代所包含的两个步进参数αi和βi都被基于该层的升维后的可学习参数α(i)和β(i)替代。单层网络结构如图1所示，和是每层所存储网络参数的实数表达形式，和表示流经网络的数据流。对于该深度学习网络LcgNetV的第i层而言，信号检测过程可以表示为：为了方便在tensorflow上进行训练，这里所有的向量都是实数化的结果。选择L2范数作为代价函数进行学习，具体损失函数可以表示为：其中Θ(l)表示本文档来自技高网...

【技术保护点】
1.一种基于共轭梯度下降法的深度学习信号检测方法，其特征在于包括以下步骤：(1)基于共轭梯度下降法构建模型驱动的深度学习网络，将迭代的步进标量升维后转化成网络参数，所述网络参数为向量参数；(2)根据信道模型产生已知的信道矩阵，并根据MIMO系统模型获得具有不同信噪比的训练数据；(3)运用步骤(2)所述的训练数据对深度学习网络进行线下训练，得到训练后的网络参数；(4)在接收机固定训练后的网络参数，根据接收机信道估计模块得到的信道矩阵以及接收信号进行在线实时的信号检测。

【技术特征摘要】
1.一种基于共轭梯度下降法的深度学习信号检测方法，其特征在于包括以下步骤：(1)基于共轭梯度下降法构建模型驱动的深度学习网络，将迭代的步进标量升维后转化成网络参数，所述网络参数为向量参数；(2)根据信道模型产生已知的信道矩阵，并根据MIMO系统模型获得具有不同信噪比的训练数据；(3)运用步骤(2)所述的训练数据对深度学习网络进行线下训练，得到训练后的网络参数；(4)在接收机固定训练后的网络参数，根据接收机信道估计模块得到的信道矩阵以及接收信号进行在线实时的信号检测。2.如权利要求1所述的基于共轭梯度下降法的深度学习信号检测方法，其特征在于所述步骤(1)具体为：基于共轭梯度下降法构建模型驱动的深度学习网络，所述深度学习网络由T层构成并且每层具有相同的网络结构，以迭代的形式求解最小均方误差检测器，最小均方误差检测器表示为：其中，是由接收机信道估计模块得到的信道矩阵，是Nt×Nt的单位矩阵，是噪声方差，y是接收信号，为Hermitian正定矩阵，b＝HHy为匹配滤波器输出向量；将共轭梯度下降法的第i次迭代表示为深度学习网络的第i层，第i次迭代所包含的两个步进标量αi和βi被第i层升维后的向量参数α(i)和β(i)替代，深度学习网络第i层的信号检测过程表示为：r(i+1)＝r(i)-α(i)⊙Ad(i)d(i+1)＝r(i)+β(i)⊙d(i)其中符号⊙...

【专利技术属性】
技术研发人员：韦逸，赵明敏，赵民建，雷鸣，
申请(专利权)人：浙江大学，
类型：发明
国别省市：浙江,33