一种基于改进LSTM非线性均衡器的概率整形信号均衡方法技术

本发明专利技术涉及一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述方法包括以下步骤：在光纤传输系统中采样获得传输信号；对传输信号进行预处理；将处理后的传输信号输入以MSE作为损失函数训练好的改进LSTM非线性均衡器中进行非线性补偿，恢复出原始发送符号。与现有技术相比，本发明专利技术具有避免过拟合现象，提高模型的泛化能力，有效地补偿了光纤通信中的非线性损伤等优点。了光纤通信中的非线性损伤等优点。了光纤通信中的非线性损伤等优点。

【技术实现步骤摘要】
一种基于改进LSTM非线性均衡器的概率整形信号均衡方法


[0001]本专利技术涉及光纤通信非线性补偿
，尤其是涉及一种光纤通信系统概率整形信号均衡方法。

技术介绍

[0002]随着信息时代的快速发展，云计算等互联网宽带数据业务发展迅速,随着5G技术的普及，4K/8K视频、VR、自动驾驶等各种要求高速率，低延迟，广连接的新业务和新应用不断涌现，使得数据流量急剧增长，但目前光纤通信网络的容量难以满足互联网流量的快速增长。所以对超大容量、超高速率、超远距离的光纤通信需求变得更加急迫。为提高光纤通信的传输容量，提高频谱效率，高阶PAM、高阶QAM调制格式成为广大研究人员的热门方向。然而，光纤通信过程中信号会受到不同程度的非线性损伤，这极大地影响了传输信号的速率与质量，阻碍了系统容量的进一步提升。这些非线性损伤主要来自系统中各种光/电器件，例如光电二极管(PD)的平方律检测，马赫
‑
曾德尔调制器(MZM)的余弦特性，放大器和激光器的非线性效应等等；并且随着系统传输距离的增加，光纤也会引入严重的非线性损伤。
[0003]概率整形(Peobabilistic Shaping,PS)技术可以有效缓解光通道中信号的非线性影响，通过改变星座点的概率分布，改变信息的熵，可以灵活地实现不同的数据速率，提高系统容量，其中信号星座点通过利用分布匹配器(DM)满足Maxwell
‑
Boltzmann分布。
[0004]神经网络由于其高度非线性，能够形成任意非线性决策边界，故其也可以应用于非线性效应补偿，基于LSTM的非线性均衡器(NNE)目前已被用在光纤系统的接收端以解调信号。现有的LSTM非线性均衡器以交叉熵作为损失函数，解调强度调制/直接检测(IM/DD)系统中的4阶脉冲幅度调制(PAM
‑
4)信号，相比传统的Volterra等均衡算法，有更好的性能和更低的复杂度。然而事实上，经过PS后的M
‑
QAM、M
‑
PAM信号，星座点分布概率不同，其作为神经网络的输入样本是不均匀的，若使用交叉熵作为损失函数，会导致输出符号偏向出现概率大的点，产生过拟合现象，均衡效果变差，模型的泛化能力下降。

技术实现思路

[0005]本专利技术的目的就是为了克服上述现有技术存在的缺陷而提供一种光纤通信系统概率整形信号均衡方法。
[0006]本专利技术的目的可以通过以下技术方案来实现：
[0007]一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，所述方法包括以下步骤：
[0008]采样获得光纤传输系统中的概率整形信号；
[0009]对概率整形信号进行预处理；
[0010]将处理后的概率整形信号输入以MSE作为损失函数训练好的改进LSTM非线性均衡器中进行非线性补偿，恢复出原始发送符号。
[0011]作为优选技术方案，所述光纤传输系统包括直调直检光纤传输系统、相干光传输
系统和光生毫米波系统。
[0012]作为优选技术方案，在所述直调直检光纤传输系统和相干光传输系统中，所述采样获得光纤传输系统中的概率整形信号为：
[0013]采用光电探测器将光纤传输的光信号转换为电信号，经过示波器进行采样得到概率整形信号。
[0014]作为优选技术方案，在所述光生毫米波系统中，采样获得光纤传输系统中的概率整形信号为：
[0015]在光生毫米波系统中，采用喇叭天线接收高频电信号，经过低噪声放大器与混频器，将高频信号下变频至中频，由示波器进行采样得到概率整形信号。
[0016]作为优选技术方案，所述预处理包括预收敛、频相偏估计和信号同步。
[0017]作为优选技术方案，所述预处理过程包括：
[0018]对概率整形信号进行重采样，利用CMA算法对重采样后的信号进行预收敛；
[0019]用维特比
‑
维特比算法与BPS算法对预收敛后的数据进行频偏与相偏估计；
[0020]对频偏与相偏估计后的信号与发送端信号进行信号同步。
[0021]作为优选技术方案，所述改进LSTM非线性均衡器进行非线性补偿的过程为：
[0022]将N个所述概率整形信号的实部和虚部提取组成长度为2N的实数列向量，将实数列向量组成数据集输入改进的LSTM均衡器，通过LSTM网络与全连接层，从输出层输出恢复信号，所述输出层神经元数目为2K，K等于N，2K个所述输出层神经元分别代表N个概率整形信号的实部和虚部。
[0023]作为优选技术方案，所述改进LSTM非线性均衡器的训练过程为：
[0024]将采集到的概率整形信号输入改进LSTM非线性均衡器中，得到输出层恢复信号；
[0025]采用MSE作为损失函数，计算输出层恢复信号与理想信号的实部和虚部的损失函数；
[0026]利用梯度下降方法，以损失函数对神经网络中每个权值求偏导，确定各个权值参数修正的方向与大小，对神经网络中的权值进行修正。
[0027]作为优选技术方案，所述改进LSTM非线性均衡器的输入层神经元个数2N，LSTM层中神经元个数为4H和全连接层的神经元个数L，输出层的神经元数目2K，以LSTM均衡器的复杂度低为目标设置。
[0028]作为优选技术方案，所述LSTM均衡器的复杂度C的计算公式为：
[0029]C＝4H(2N+H)+HL+2KL(MACC)
[0030]式中，N为输入概率整形信号的数量，H为LSTM层中有各门控单元的神经元的数量，L为全连接层的神经元个数，K为输出层的神经元数目的一半，为MACC为乘加数。
[0031]与现有技术相比，本专利技术具有以下有益效果：
[0032]1)本专利技术提供了一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，在损失函数部分采用均方误差MSE取代交叉熵，从而将符号拟合改进为信号的幅值拟合，避免过拟合现象，提高模型的泛化能力。有效地补偿了光纤通信中的非线性损伤。
[0033]2)本专利技术提供的改进LSTM非线性均衡器的各项超参数，如隐藏层数量、神经元数目、学习率和训练次数等都可以根据具体情况具体选择，本专利技术还提供一种均衡器复杂度计算方法，以复杂度小为目标设置LSTM均衡器中各参数，使得系统运行性能更好。
附图说明
[0034]图1为本专利技术采用改进LSTM非线性均衡器进行信号均衡的流程示意图；
[0035]图2为本专利技术的LSTM均衡器训练过程示意图；
[0036]图3为LSTM均衡器中全连接层示意图；
[0037]图4为LSTM网络的结构示意图。
具体实施方式
[0038]下面结合附图和具体实施例对本专利技术进行详细说明。本实施例以本专利技术技术方案为前提进行实施，给出了详细的实施方式和具体的操作过程，但本专利技术的保护范围不限于下述的实施例。
[0039]本专利技术提供一种适用于不均匀分布的概率整形信号如PS
‑
M
‑...

【技术保护点】

【技术特征摘要】
1.一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述方法包括以下步骤：采样获得光纤传输系统中的概率整形信号；对概率整形信号进行预处理；将处理后的概率整形信号输入以MSE作为损失函数训练好的改进LSTM非线性均衡器中进行非线性补偿，恢复出原始发送符号。2.根据权利要求1所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述光纤传输系统包括直调直检光纤传输系统、相干光传输系统和光生毫米波系统。3.根据权利要求2所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，在所述直调直检光纤传输系统和相干光传输系统中，所述采样获得光纤传输系统中的概率整形信号为：采用光电探测器将光纤传输的光信号转换为电信号，经过示波器进行采样得到概率整形信号。4.根据权利要求2所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，在所述光生毫米波系统中，采样获得光纤传输系统中的概率整形信号为：在光生毫米波系统中，采用喇叭天线接收高频电信号，经过低噪声放大器与混频器，将高频信号下变频至中频，由示波器进行采样得到概率整形信号。5.根据权利要求1所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述预处理包括预收敛、频相偏估计和信号同步。6.根据权利要求5所述的一种基于改进LSTM非线性均衡器的概率整形信号均衡方法，其特征在于，所述预处理过程包括：对概率整形信号进行重采样，利用CMA算法对重采样后的信号进行预收敛；用维特比
‑
维特比算法与BPS算法对预收敛后的数据进行频偏与相偏估计；对频偏与相偏估计后的信号与发送端信号进...

【专利技术属性】
技术研发人员：余建军，周雯，王凯辉，孔淼，桑博涵，王晨，
申请(专利权)人：复旦大学，
类型：发明
国别省市：