当前位置: 首页 > 专利查询>东南大学专利>正文

一种基于梯度掩膜的智能波束选择性能提升方法技术

技术编号:34951141 阅读:14 留言:0更新日期:2022-09-17 12:28
本发明专利技术公开了一种基于梯度掩膜的智能波束选择性能提升方法,具体包含以下步骤:基站收集数据建立数据集;基站建立并初始化一个神经网络结构,以学习输入数据与最优波束索引之间的映射;每一个训练回合开始之前,利用数据集计算一个梯度掩膜;训练过程中,使用随机梯度下降算法更新神经网络的参数,每次执行更新之前,将梯度乘以事先计算的梯度掩膜,得到被遮挡的梯度,使用被遮挡的梯度代替原始梯度执行更新;重复上述两步,迭代训练直至神经网络收敛。本发明专利技术通过提出的基于梯度掩膜的正则化步骤,有效减轻神经网络训练过程中的过拟合现象,从而提高基于深度学习的波束选择方法的准确率。确率。确率。

【技术实现步骤摘要】
一种基于梯度掩膜的智能波束选择性能提升方法


[0001]本专利技术涉及无线通信
,尤其涉及基于深度学习的波束选择方法。

技术介绍

[0002]近年来,智能波束选择方法受到越来越多的关注,因其能够直接预测最优波束,节省信道估计或波束搜索开销而被广泛研究。一般而言,智能波束选择方法的基本范式是利用无线通信系统中的数据资源,训练一个神经网络学习输入数据与最优波束之间的映射关系,然后通过训练好的神经网络预测新数据对应的最优波束。因此,神经网络在新数据上的泛化性能对智能波束选择方法至关重要。过拟合是一个常见的损害神经网络泛化性能的原因,即仅在训练数据上获得很好的拟合,而在测试数据上不能准确的预测。特别的,过拟合问题在训练数据较少的情况下尤其严重,会大大降低基于深度学习的波束选择算法在实际使用时的准确率。

技术实现思路

[0003]本专利技术的目的在于提供一种基于梯度掩膜的智能波束选择性能提升方法,通过一个基于梯度掩膜的正则化步骤,解决现有方法由于严重的过拟合现象带来的性能损失问题。
[0004]本专利技术的技术方案如下:一种基于梯度掩膜的智能波束选择性能提升方法,包括以下步骤:
[0005]步骤1,基站收集数据,包括用户位置、光探测和测距数据、基站位置(作为神经网络的输入)和最优波束索引(作为神经网络的标签),建立数据集D。
[0006]进一步地,将同一时刻收集到的用户位置、光探测和测距数据、基站位置整合成为神经网络的输入x,并将该时刻的最优波束索引作为与之对应的标签y。一对输入和标签构成数据集中的一个样本(x,y)。
[0007]步骤2,基站建立并初始化一个以w为参数的深度神经网络结构,以学习输入数据与最优波束索引之间的映射。
[0008]进一步地,将所述的波束选择问题建模为在固定码本约束下接收信号功率最大化问题,具体如下:
[0009][0010]其中,表示最优波束索引,M表示子载波数量,H表示信道,w
q
和f
p
表示用户端固定码本中的第q个码字和基站端固定码本中的第p个码字,(
·
)
H
表示转置。
[0011]进一步地,所建立的神经网络结构具体如下:
[0012]神经网络由3层卷积层和1层全连接层连接而成,卷积层提取输入的隐式特征,全
连接层将特征映射为预测的波束索引;
[0013]神经网络使用激活函数引入非线性成分,增加模型的表达力。
[0014]优选地,所述激活函数采用ReLu函数。
[0015]步骤3,每一个训练回合开始之前,利用数据集D计算一个梯度掩膜。
[0016]进一步地,具体计算方法如下:
[0017](1)用数据集D中的数据在当前神经网络上进行前向传播,根据选定的损失函数计算当前网络参数的梯度具体如下:
[0018][0019]其中,L代表损失函数,w
t
代表当前训练回合的神经网络参数。
[0020](2)建立一个与梯度形状相同的张量,即梯度掩膜m
t

[0021](3)对张量中的梯度值求绝对值,将其按从大到小的顺序排序。对于前α的绝对值,梯度掩膜m
t
中的相应位置设为1;对于其余绝对值,梯度掩膜m
t
中的相应位置设为0。α是所述方法的超参数,0<α≤1,α越接近0,正则化程度越强。特别的,当α=1,所述方法将与一般的训练过程相同。
[0022]优选地,所述损失函数采用交叉熵损失函数。
[0023]步骤4,训练过程中,使用随机梯度下降算法更新神经网络的参数。每次执行更新之前,将梯度乘以事先计算的梯度掩膜,得到被遮挡的梯度,使用被遮挡的梯度代替原始梯度执行更新。
[0024]进一步地,所述更新规则具体如下:
[0025](1)用数据集D中的数据在当前神经网络上进行前向传播,根据选定的损失函数计算当前网络参数的梯度g
t
,具体如下:
[0026][0027](2)梯度g
t
乘以梯度掩膜m
t
,得到被遮挡的梯度,使用被遮挡的梯度代替原始梯度更新神经网络的参数,具体如下:
[0028]w
t+1
=w
t
+ηg
t
m
t
[0029]其中,w
t+1
为更新的网络参数,η为学习率。
[0030]进一步地,训练目标为数据在神经网络上的期望损失最小,具体如下:
[0031][0032]其中,函数F表示优化目标,w表示神经网络的参数,函数L代表损失函数。
[0033]步骤5,重复步骤3和步骤4,迭代训练直至模型收敛。
[0034]本专利技术的有益效果:
[0035]本专利技术提供一种基于梯度掩膜的智能波束选择性能提升方法,通过一个基于梯度掩膜的正则化步骤,减轻现有的基于深度学习的波束选择方法中常见的过拟合现象,从而提高波束选择的性能。
附图说明
[0036]图1为本专利技术一种基于梯度掩膜的智能波束选择性能提升方法的流程图。
[0037]图2为智能波束选择方法在测试数据集上的准确率曲线。
[0038]图3为智能波束选择方法在测试数据集上的损失曲线。
具体实施方式
[0039]下面结合附图和实施例对本专利技术的技术方案作进一步的说明。
[0040]本实施例考虑一个下行的多输入多输出毫米波系统中的波束选择问题。系统中的基站配有32根天线,基站端码本中包含32个码字,用户配有8根天线,用户端码本中包含8个码字。
[0041]如图1所示,本专利技术提出的基于梯度掩膜的智能波束选择性能提升方法的具体实施步骤包括:
[0042]步骤1,基站收集数据,包括用户位置、光探测和测距数据、基站位置(作为神经网络的输入)和最优波束索引(作为神经网络的标签),建立数据集D。
[0043]具体地,步骤1包括:
[0044]步骤1.1,将同一时刻收集到的用户位置、光探测和测距数据、基站位置整合成为神经网络的输入x,并将该时刻的最优波束索引作为与之对应的标签y。一对输入和标签构成数据集中的一个样本(x,y)。
[0045]步骤2,基站建立并初始化一个以w为参数的深度神经网络结构,以学习输入数据与最优波束索引之间的映射。
[0046]具体地,步骤2包括:
[0047]步骤2.1,将所述的波束选择问题建模为在固定码本约束下接收信号功率最大化问题,具体如下:
[0048][0049]其中,表示最优波束索引,M表示子载波数量,H表示信道,w
q
和f
p
表示用户端固定码本中的第q个码字和基站端固定码本中的第p个码字,(
·
)
H
表示转置。
[0050]步骤2.2,基站建立并初始化一个神经网络本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于梯度掩膜的智能波束选择性能提升方法,其特征在于,包括以下步骤:步骤1,基站收集数据,包括用户位置、光探测和测距数据、基站位置和最优波束索引,建立数据集D;步骤2,基站建立并初始化一个以w为参数的深度神经网络结构,以学习输入数据与最优波束索引之间的映射;步骤3,每一个训练回合开始之前,利用数据集D计算一个梯度掩膜;步骤4,训练过程中,使用随机梯度下降算法更新神经网络的参数,每次执行更新之前,将梯度乘以事先计算的梯度掩膜,得到被遮挡的梯度,使用被遮挡的梯度代替原始梯度执行更新;步骤5,重复步骤3和步骤4,迭代训练直至模型收敛。2.根据权利要求1所述的基于梯度掩膜的智能波束选择性能提升方法,其特征在于:所述步骤1中,将同一时刻收集到的用户位置、光探测和测距数据、基站位置整合成为神经网络的输入x,并将该时刻的最优波束索引作为与之对应的标签y;一对输入和标签构成数据集中的一个样本(x,y)。3.根据权利要求1所述的基于梯度掩膜的智能波束选择性能提升方法,其特征在于:所述步骤2中,将所述的波束选择问题建模为在固定码本约束下接收信号功率最大化问题,具体如下:其中,表示最优波束索引,M表示子载波数量,H表示信道,w
q
和f
p
表示用户端固定码本中的第q个码字和基站端固定码本中的第p个码字,(
·
)
H
表示转置。4.根据权利要求1所述的基于梯度掩膜的智能波束选择性能提升方法,其特征在于:所述步骤2中,所建立的神经网络结构具体如下:神经网络由3层卷积层和1层全连接层连接而成,卷积层提取输入的隐式特征,全连接层将特征映射为预测的波束索引;神经网络使用激活函数引入非线性成分,增加模型的表达力。5.根据权利要求4所述的基于梯度掩膜的智能波束选择性能提升方法,其特征在于:所述激活函数采用ReLu函数。6.根据权利要求1所述的基于梯度掩膜的智能波束选择性能提升方法,其特征在于:所述步骤3中,利用数据集D计算一个梯度掩膜,具体计...

【专利技术属性】
技术研发人员:徐琴珍田慕晨张征明杨绿溪
申请(专利权)人:东南大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1