基于低复杂度LSTM的接收端均衡方法及系统技术方案

本发明专利技术公开一种基于低复杂度LSTM的接收端均衡方法及系统，属于光通信传输领域，通过训练出低复杂度LSTM均衡器，该低复杂度LSTM均衡器具有简化的均衡结构，基于该低复杂度LSTM均衡器对待均衡的接收符号进行均衡，在进行均衡时采用简化的计算流程。该低复杂度LSTM均衡器在相较于传统LSTM均衡器具有相似的均衡性能的前提下，能够显著降低均衡过程的计算复杂度。

【技术实现步骤摘要】
基于低复杂度LSTM的接收端均衡方法及系统
本专利技术属于光通信传输领域，涉及一种光通信传输系统接收端均衡方法及系统，尤其涉及一种基于低复杂度长短期记忆网络的接收端均衡方法及系统。
技术介绍
光纤通信传输系统具有容量大、成本低等优点。克服光信号在传输过程中受到的线性与非线性损伤已成为进一步提高光纤通信传输系统容量所面临的首要问题。针对这一问题，传统的解决方法共有两类，一类是时域均衡(TDE)，另一类是频域均衡(FDE)。近年来，神经网络由于其强大的拟合能力，已被成功应用于光纤通信传输系统中，用以补偿光信号在传输过程中受到的线性与非线性损伤。神经网络作为一种数据驱动的算法，其既可在时域对信号进行补偿，又可在频域对信号进行补偿。长短期记忆网络(LongShort-TermMemory，LSTM)是一种专门处理时间序列的神经网络，其通过对传统循环神经网络的内部结构进行改进，一定程度上解决了网络在优化过程中的梯度消失的问题，传统LSTM均衡器结构如图1所示，其中h0为零向量。采用LSTM来均衡光信号的传输损伤，其性能一般会优于传统循环神经网络。但是LSTM的计算复杂度远高于传统循环神经网络，因此如何降低基于LSTM均衡器的计算复杂度是一个十分重要的问题。
技术实现思路
针对现有技术中存在的技术问题，本专利技术的目的在于提供一种基于低复杂度LSTM的接收端均衡方法及系统，在不影响均衡性能的前提下，显著降低均衡过程的计算复杂度。为实现上述目的，本专利技术采用如下技术方案：一种基于低复杂度LSTM的接收端均衡方法，包括以下步骤：将光纤通信传输系统接收端的接收符号序列划分为两部分：训练集与均衡集；训练集包含LA个接收符号，用以训练低复杂度LSTM均衡器；均衡集包含LB个待均衡的接收符号，采用训练完成的低复杂度LSTM均衡器对其进行均衡；对训练集中的每个接收符号生成其对应的左特征向量和右特征向量，并将左特征向量与右特征向量分别输入到两个长短期记忆网络LSTML与LSTMR中进行训练，LSTML从左到右计算每个左特征向量最后时间步的左隐藏状态向量，LSTMR从右到左计算右特征向量最后时间步的右隐藏状态向量；将每个接收符号对应的最后时间步的左右两个隐藏状态向量拼接，将拼接后的向量经过一个全连接层(FullyConnectedLayer，FCL)映射后得到输出符号，利用梯度下降算法优化LSTML、LSTMR与FCL的参数，由优化后的LSTML、LSTMR与FCL组成低复杂度LSTM均衡器；对于均衡集中的接收符号序列，采用低复杂度LSTM均衡器中的LSTML从左到右计算每个接收符号在每个时间步内被处理时输出的左隐藏状态向量，采用低复杂度LSTM均衡器中的LSTMR从右到左计算每个接收符号在每个时间步内被处理时输出的右隐藏状态向量；将每个接收符号对应的左右两个隐藏状态向量拼接后，将拼接后的向量经过一个全连接层从左至右映射，得到最终均衡的输出符号序列。进一步地，生成左特征向量和右特征向量的方法为：对于第n个接收符号Sn，将当前接收符号Sn与其相邻的前k个接收符号拼接，得到当前符号的左特征向量将当前接收符号Sn与其相邻的后k个接收符号拼接，得到当前符号的右特征向量进一步地，符号拼接是指：其中Re(Sn)表示复数接收符号Sn的实部，Im(Sn)表示复数接收符号Sn的虚部，H与V表示接收信号的两个偏振方向，T为矩阵转置。进一步地，将训练集中接收符号对应的发送符号的实部与虚部组成一个一维向量，并该一维向量作为标签。进一步地，在对低复杂度LSTM均衡器进行训练时，采用平方误差损失函数计算输出符号与标签之间的误差L(yn,yn)＝(yn-yn)2，其中L表示平方误差损失函数，yn表示输出符号，yn表示标签。一种基于低复杂度LSTM的接收端均衡系统，包括存储器和处理器，在该存储器上存储有计算机程序，该处理器执行该程序时实现上述方法的步骤。一种计算机可读存储介质，存储有计算机程序，该程序被处理器执行时实现上述方法的步骤。与现有技术相比，本专利技术的积极效果为：本专利技术提出的低复杂度LSTM均衡器具有简化的均衡结构，此外在对接收符号进行均衡时具有简化的计算流程。该低复杂度LSTM均衡器在相较于传统LSTM均衡器具有相似的均衡性能的前提下，能够显著降低均衡过程的计算复杂度。附图说明图1是传统LSTM均衡器结构示意图。图2是本专利技术实施例的低复杂度LSTM均衡器结构示意图。图3是本专利技术实施例的两种处理模式的处理流程图。图4是两种LSTM均衡器的复杂度与单侧抽头长度之间的关系图。具体实施方式下面通过具体实施例和附图，对本专利技术做进一步详细说明。本实施例公开一种基于低复杂度LSTM的接收端均衡方法，包含训练和均衡这两个阶段，具体说明如下：1.训练阶段，将该训练阶段的处理流程称为标准模式。1.1.光纤通信传输系统接收端的光信号经过前端数字处理后得到接收符号，该处理方法包括色散补偿、相位恢复等，根据训练集中的接收符号生成对应的左右特征向量，其对应的发送端的发送符号作为标签。第n个接收符号Sn的左特征向量由其本身及其前k个相邻接收符号组成，右特征向量由其本身及其后k个相邻接收符号组成，即其中Re(Sn)表示复数接收符号Sn的实部，Im(Sn)表示复数接收符号Sn的虚部，H与V表示接收符号的两个偏振方向，k为单侧抽头长度，k的取值需要根据实际系统进行优化，一般系统的传输速率越高，传输距离越远，k的取值就越大，T为矩阵转置。1.2.将生成的左特征向量与右特征向量输入两个长短期记忆网络LSTML与LSTMR，将LSTML与LSTMR的最后一个时间步的隐藏状态向量拼接为一个向量，拼接后的向量经过一个全连接层(FullyConnectedLayer,FCL)映射输出后得到yn，其对应的发送符号的实部与虚部组成一个一维向量作为标签yn；采用平方误差损失函数训练本专利技术提出的低复杂度LSTM均衡器，低复杂度LSTM均衡器的输出与标签yn之间的损失为L(yn,yn)＝(yn-yn)2，L表示平方误差损失函数。采用梯度下降类算法优化低复杂度LSTM均衡器的参数。当损失收敛时得到训练完成的低复杂度LSTM均衡器。本低复杂度LSTM均衡器结构如图2所示。2.均衡阶段，将均衡阶段的处理流程称为简化模式，简化模式的处理流程分为两个阶段：2.1.第一阶段：对于待均衡的符号序列，分别采用LSTML从左到右以及采用LSTMR从右到左计算每个符号的左右隐藏状态向量hL与hR。2.2第二阶段：将第一阶段计算得到的每个符号对应的左右两个隐藏状态向量拼接后，采用一个FCL从左至右映射输出得到最终均衡输出符号序列。上述标准模式和简化模式的处理流程图3所示。本实施例采用波分复用场景下经过960km标准单模光纤传输后的64Gbaud16QAM信号进行均衡器性能验证。本专利技术的低复杂度LSTM均衡器(在本文档来自技高网...

【技术保护点】
1.一种基于低复杂度LSTM的接收端均衡方法，其特征在于，包括以下步骤：/n将光纤通信传输系统接收端的接收符号序列划分为训练集与均衡集；/n对训练集中的每个接收符号生成其对应的左特征向量和右特征向量，并将左特征向量与右特征向量分别输入到两个长短期记忆网络LSTM

【技术特征摘要】
1.一种基于低复杂度LSTM的接收端均衡方法，其特征在于，包括以下步骤：
将光纤通信传输系统接收端的接收符号序列划分为训练集与均衡集；
对训练集中的每个接收符号生成其对应的左特征向量和右特征向量，并将左特征向量与右特征向量分别输入到两个长短期记忆网络LSTML与LSTMR中进行训练，LSTML从左到右计算每个左特征向量最后时间步的左隐藏状态向量，LSTMR从右到左计算右特征向量最后时间步的右隐藏状态向量；将每个接收符号对应的最后时间步的左右两个隐藏状态向量拼接，将拼接后的向量经过一个全连接层FCL映射后得到输出符号，利用梯度下降算法优化LSTML、LSTMR与FCL的参数，由优化后的LSTML、LSTMR与FCL组成低复杂度LSTM均衡器；
对于均衡集中的接收符号序列，采用低复杂度LSTM均衡器中的LSTML从左到右计算每个接收符号在每个时间步内被处理时输出的左隐藏状态向量，采用低复杂度LSTM均衡器中的LSTMR从右到左计算每个接收符号在每个时间步内被处理时输出的右隐藏状态向量；将每个接收符号对应的左右两个隐藏状态向量拼接后，将拼接后的向量经过一个全连接层从左至右映射，得到最终均衡的输出符号序列。


2.如权利要求1所述的方法，其特征在于，生成左特征向量和右特征向...

【专利技术属性】
技术研发人员：张帆，明浩，
申请(专利权)人：北京大学，
类型：发明
国别省市：北京;11