用于神经网络均衡器的迭代剪枝快速迁移学习方法及装置制造方法及图纸

本发明专利技术涉及一种用于神经网络均衡器的迭代剪枝快速迁移学习方法及装置，方法包括在源链路和目标链路上分别部署神经网络均衡器；使用源链路上接收到的信号训练部署于源链路上的神经网络均衡器，得到趋于稳定的神经网络均衡器；将源链路上的趋于稳定的神经网络均衡器的参数迁移到目标链路上的神经网络均衡器中；对部署于目标链路上的迁移后的神经网络均衡器进行训练，训练时，在每次神经网络均衡器更新之后，对权重矩阵内的每一个权重参数进行更新，直至目标链路上的神经网络均衡器的各个参数趋于稳定。本发明专利技术能够有效加快神经网络均衡器的收敛速度，降低神经网络复杂度，从而提供快速收敛、低复杂度的高效神经网络均衡器来适应大容量光通信系统。应大容量光通信系统。应大容量光通信系统。

【技术实现步骤摘要】
用于神经网络均衡器的迭代剪枝快速迁移学习方法及装置


[0001]本专利技术涉及光通信
，尤其是指一种用于神经网络均衡器的迭代剪枝快速迁移学习方法及装置。

技术介绍

[0002]随着5G移动通信、物联网、虚拟现实、自动驾驶和工业互联网等关键应用的到来，云计算和边缘计算快速增长，导致互联网中数据流量呈指数型增长。为了支撑数据流量的持续快速增长，光通信系统的容量也面临着巨大的压力。传统的光通信系统在承载大量数据流量时，往往会面临带宽瓶颈、网络拥塞等问题，限制了数据的传输速度和质量。因此，为了满足用户对于高速、可靠、低延迟数据传输的需求，光通信系统必须不断升级其容量和性能。大容量的需求给光通信系统带来更为严重的非线性失真。为了缓解非线性失真，基于数字信号处理(Digital Signal Processing，DSP)的非线性均衡器由于具有灵活、适应性强等优点被广泛应用于各个通信系统。但是，传统的非线性均衡器的性能不足以满足大容量光通信系统的需求。近年来，基于神经网络的均衡器(Neural Network Equalizer，NNE)应运而生，其性能可以满足大容量的需求。但是链路场景的变化会导致NNE性能下降，需要重新训练NNE来适应新的链路。因此，研究快速收敛、低复杂度的高效NNE对于大容量光通信系统有着非常重要的意义。
[0003]迁移学习能够识别并应用在之前任务中学习到的知识到目标任务中，其在一定程度上相对于不使用迁移学习技术的神经网络来说，训练时间变少，所需要的数据也变少。但是传统迁移学习的重点是减少在目标任务上的训练时间，忽略了神经网络中有许多冗余的连接，这些冗余连接既增加了复杂度又使得网络在训练时难以收敛，致使网络收敛速度变慢。

技术实现思路

[0004]为此，本专利技术所要解决的技术问题在于克服现有技术存在的技术缺陷，而提出一种用于神经网络均衡器的迭代剪枝快速迁移学习方法及装置，其能够有效加快神经网络均衡器的收敛速度，降低神经网络复杂度，从而提供快速收敛、低复杂度的高效神经网络均衡器来适应大容量光通信系统。
[0005]为解决上述技术问题，本专利技术提供了一种用于神经网络均衡器的迭代剪枝快速迁移学习方法，其应用于光传输系统，所述光传输系统包括源链路和目标链路，方法包括：
[0006]在所述源链路和目标链路上分别部署神经网络均衡器，定义神经网络均衡器为y＝f(X，W)，其中，y为均衡器的输出，X为均衡器的输入，W为均衡器的权重矩阵；
[0007]使用源链路上接收到的信号X
s
训练部署于所述源链路上的神经网络均衡器，得到趋于稳定的神经网络均衡器；
[0008]将源链路上的趋于稳定的神经网络均衡器的参数迁移到目标链路上的神经网络均衡器中；
[0009]对部署于所述目标链路上的迁移后的神经网络均衡器进行训练，训练时，在每次神经网络均衡器更新之后，对权重矩阵W内的每一个权重参数w进行更新，直至目标链路上的神经网络均衡器的各个参数趋于稳定，其中，w∈W。
[0010]在本专利技术的一个实施例中，所述源链路上接收到的信号X
s
经过调制处理、滤波处理、数模转换处理、模数转换处理以及匹配滤波处理。
[0011]在本专利技术的一个实施例中，在每次神经网络均衡器更新之后，按照预设的剪枝阈值对权重矩阵W内的每一个权重参数w进行更新。
[0012]在本专利技术的一个实施例中，使用剪枝判别函数对权重矩阵W内的每一个权重参数w进行更新。
[0013]在本专利技术的一个实施例中，所述剪枝判别函数为：
[0014][0015]其中，w为权重参数，T为剪枝阈值。
[0016]此外，本专利技术还提供一种用于神经网络均衡器的迭代剪枝快速迁移学习装置，其应用于光传输系统，所述光传输系统包括源链路和目标链路，其特征在于：装置包括：
[0017]链路部署模块，其用于在所述源链路和目标链路上分别部署神经网络均衡器，定义神经网络均衡器为y＝f(X，W)，其中，y为均衡器的输出，X为均衡器的输入，W为均衡器的权重矩阵；
[0018]源链路均衡器训练模块，其用于使用源链路上接收到的信号X
s
训练部署于所述源链路上的神经网络均衡器，得到趋于稳定的神经网络均衡器；
[0019]参数迁移模块，其用于将源链路上的趋于稳定的神经网络均衡器的参数迁移到目标链路上的神经网络均衡器中；
[0020]迭代剪枝模块，其用于对部署于所述目标链路上的迁移后的神经网络均衡器进行训练，训练时，在每次神经网络均衡器更新之后，对权重矩阵W内的每一个权重参数w进行更新，直至目标链路上的神经网络均衡器的各个参数趋于稳定，其中，w∈W。
[0021]在本专利技术的一个实施例中，所述链路部署模块还用于在所述源链路和目标链路上部署调制器、滤波器、数模转换器、模数转换器以及匹配滤波器，所述源链路上接收到的信号X
s
依次经过调制器、滤波器、数模转换器、模数转换器以及匹配滤波器。
[0022]在本专利技术的一个实施例中，所述迭代剪枝模块还用于在每次神经网络均衡器更新之后，按照预设的剪枝阈值对权重矩阵W内的每一个权重参数w进行更新。
[0023]在本专利技术的一个实施例中，所述迭代剪枝模块还用于使用剪枝判别函数对权重矩阵W内的每一个权重参数w进行更新。
[0024]在本专利技术的一个实施例中，所述剪枝判别函数为：
[0025][0026]其中，w为权重参数，T为剪枝阈值。
[0027]本专利技术的上述技术方案相比现有技术具有以下优点：
[0028]本专利技术所述的一种用于神经网络均衡器的迭代剪枝快速迁移学习方法及装置，其通过剪枝技术能够使网络规模变小，将冗余连接去除，使网络的剩余连接都是重要的，促使
网络更新的方向正确且迅速，能够有效加快神经网络均衡器的收敛速度，降低神经网络复杂度，从而提供快速收敛、低复杂度的高效神经网络均衡器来适应大容量光通信系统。
附图说明
[0029]为了使本专利技术的内容更容易被清楚的理解，下面根据本专利技术的具体实施例并结合附图，对本专利技术作进一步详细的说明，其中
[0030]图1是本专利技术实施例提出的一种用于神经网络均衡器的迭代剪枝快速迁移学习方法的流程示意图。
[0031]图2是本专利技术光传输系统的框图。
具体实施方式
[0032]下面结合附图和具体实施例对本专利技术作进一步说明，以使本领域的技术人员可以更好地理解本专利技术并能予以实施，但所举实施例不作为对本专利技术的限定。
[0033]参照图1和图2所示，本专利技术实施例提供一种用于神经网络均衡器的迭代剪枝快速迁移学习方法，其应用于光传输系统，所述光传输系统包括源链路和目标链路，方法包括以下步骤：
[0034]步骤S1：在所述源链路和目标链路上分别部署神经网络均衡器，定义神经网络均衡器为y＝f(X，W)，其中，y为神经网络均衡器的输出，X为神经网络均衡器的输入，W为神经网络均衡器的权重矩阵；
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于神经网络均衡器的迭代剪枝快速迁移学习方法，其应用于光传输系统，所述光传输系统包括源链路和目标链路，其特征在于：方法包括：在所述源链路和目标链路上分别部署神经网络均衡器，定义神经网络均衡器为y＝f(X，W)，其中，y为均衡器的输出，X为均衡器的输入，W为均衡器的权重矩阵；使用源链路上接收到的信号X
s
训练部署于所述源链路上的神经网络均衡器，得到趋于稳定的神经网络均衡器；将源链路上的趋于稳定的神经网络均衡器的参数迁移到目标链路上的神经网络均衡器中；对部署于所述目标链路上的迁移后的神经网络均衡器进行训练，训练时，在每次神经网络均衡器更新之后，对权重矩阵W内的每一个权重参数w进行更新，直至目标链路上的神经网络均衡器的各个参数趋于稳定，其中，w∈W。2.根据权利要求1所述的一种用于神经网络均衡器的迭代剪枝快速迁移学习方法，其特征在于：所述源链路上接收到的信号X
s
经过调制处理、滤波处理、数模转换处理、模数转换处理以及匹配滤波处理。3.根据权利要求1或2所述的一种用于神经网络均衡器的迭代剪枝快速迁移学习方法，其特征在于：在每次神经网络均衡器更新之后，按照预设的剪枝阈值对权重矩阵W内的每一个权重参数w进行更新。4.根据权利要求3所述的一种用于神经网络均衡器的迭代剪枝快速迁移学习方法，其特征在于：使用剪枝判别函数对权重矩阵W内的每一个权重参数w进行更新。5.根据权利要求4所述的一种用于神经网络均衡器的迭代剪枝快速迁移学习方法，其特征在于：所述剪枝判别函数为：其中，w为权重参数，T为剪枝阈值。6.一种用于神经网络均衡器的迭代剪枝快速迁移学习装置，其应用于光传输系统，所述光传输系统包括源链路和目标链路，其特征在于：装置包括...

【专利技术属性】
技术研发人员：孙林，刘宁，肖家旺，
申请(专利权)人：苏州大学，
类型：发明
国别省市：