基于数据及知识驱动的端到端无线通信系统模型设计方法技术方案

本发明专利技术公开了基于数据及知识驱动的端到端无线通信系统模型设计方法，属于端到端通信技术领域，包括下列步骤：1)获取通信系统参数以供算法训练使用。2)建立系统模型框架：使用贝叶斯层和功率归一化层代替传统通信系统的发射机与接收机，使用无线通信中的理论信道模型和真实信道模型作为传输媒介。3)更新贝叶斯推断的变分参数。4)更新贝叶斯层的网络权重：利用梯度下降法更新深度学习网络参数。5)判断是否满足优化结束条件：在系统输出预测值后，计算与标签的二进制交叉熵损失函数，观察是否达到端到端无线通信系统的误码率要求，若未达到，则返回步骤3)进行下一步迭代。则返回步骤3)进行下一步迭代。则返回步骤3)进行下一步迭代。

【技术实现步骤摘要】
基于数据及知识驱动的端到端无线通信系统模型设计方法


[0001]本专利技术属于通信领域，特别是针对端到端无线通信系统的优化场景。

技术介绍

[0002]至今为止，第五代移动通信技术(5G)发展迅速，并且已经在全球多个地区实现商用。到2025年，预计全中国5G用户数将突破9亿人次，超过半数的移动连接将使用5G传输。5G凭借其宽频带和低延迟的特点，已经给多个行业带来了巨大的变革。然而远程医疗、城市互联、智能网联汽车以及虚拟现实等等新兴技术的发展都对通信系统的容量、速率以及时延提出了更高的要求，现有的5G方案显然难以满足日益发展的需求。因此研发新的第六代移动通信技术(6G)已经被提上了日程。由于6G技术需要更大的带宽以实现更高的传输速率，而现实中的频带资源并不是无限的，人们正考虑通过提高通信系统的效率来弥补资源的不足，其中数据驱动与知识驱动相结合的端到端无线通信系统就是一个备受关注的解决方案。
[0003]如果采用传统的端到端无线通信系统模型，往往只能进行局部模块的优化，达不到端到端的全局最优解。而如果采用基于卷积神经网络的端到端无线通信系统模型，在小样本条件下训练效果不够理想。
[0004]在通信领域中，训练神经网络常常面临以下两个问题：样本数量不足和数据集部分缺失。这些问题会对神经网络的性能和泛化能力产生影响，使得构建端到端无线通信系统变得困难。

技术实现思路

[0005]本专利技术旨在提供一种适用于小样本训练的端到端无线通信系统模型，以提高整个通信系统的传输效率。
[0006]本专利技术提供的适用于小样本训练的端到端无线通信系统模型包括下列步骤：
[0007]1)获取通信系统参数以供算法训练使用。
[0008]2)建立端到端无线通信系统模型框架：使用神经网络中的贝叶斯层和功率归一化层代替传统通信系统的发射机与接收机，使用无线通信中的理论信道模型和真实信道模型作为传输媒介。
[0009]3)更新贝叶斯推断的变分参数。
[0010]4)更新贝叶斯层的网络权重：利用梯度下降法更新深度学习网络参数。
[0011]5)判断是否满足优化结束条件：在系统输出预测值后，计算与标签的二进制交叉熵损失函数，观察是否达到端到端无线通信系统的误码率要求，若未达到，则返回步骤3)进行下一步迭代。
附图说明
[0012]图1为本专利技术方法的流程图
[0013]图2为本专利技术的端到端无线通信系统模型
[0014]图3为本专利技术所用贝叶斯神经网络的结构图
[0015]图4为高斯信道中本专利技术与传统模型的性能对比图
[0016]图5为瑞利信道中本专利技术与传统模型的性能对比图
[0017]图6为小样本条件下高斯信道中本专利技术与现有模型的性能对比图
[0018]图7为小样本条件下瑞利信道中本专利技术与现有模型的性能对比图
[0019]图8为小样本条件下MIMO信道中本专利技术与现有模型的性能对比图
[0020]图9为小样本条件下贝叶斯神经网络和卷积神经网络的损失对比图
具体实施方式
[0021]由于在端到端无线通信场景下，可用于神经网络训练的通信数据集样本较小，因此需要通过贝叶斯神经网络引入通信领域的专家知识作为先验知识来辅助模型的训练，才能获得较好的端到端传输性能。本专利技术利用了贝叶斯推断的方法解决贝叶斯网络后验分布计算困难的问题，提出了一种基于数据驱动与知识驱动的端到端无线通信系统模型，用贝叶斯神经网络代替现有模型中的卷积神经网络，从而使系统在小样本的训练条件下也能获得良好的端到端性能。
[0022]本专利技术提出的模型实施过程如下：
[0023]1、获取通信系统参数以供算法训练使用，包括有效信息比特数k、信道时隙数n、调制进制数M、信道信噪比h
SNR
，以及每一时隙的信道状态信息h
i
(i＝1,2,
…
,n)等参数，以供深度学习模型训练使用。
[0024]2、建立图2所示端到端无线通信系统模型框架；使用两层贝叶斯层和一层功率归一化层作为系统的发送端模型f(S)，使用两层贝叶斯层作为系统的接收端模型g(S)，使用理论信道模型或者由真实信道状态信息搭建的信道模型p(Y|X)，发送端模型、信道模型以及接收端模型需要保证网络维度上的一致性。模型的输入和输出均使用one
‑
hot向量对通信系统传输的二进制数据进行预编码处理，这是深度学习中的常用手段。
[0025]3、更新贝叶斯推断的变分参数；
[0026](1)选取高斯分布作为先验分布来简化实际计算中的问题，即：
[0027]q0(ω|μ,σ)＝N(ω|μ,σ).
[0028]上式中q0(
·
)为变分分布的先验分布，N为高斯分布，μ和σ分别为该分布的均值和方差，ω为网络权重。
[0029](2)变分分布q与后验分布p之间的差异，即KL散度表示为：
[0030][0031](3)将参数优化的目标函数定义为变分分布q的似然函数：
[0032][0033]上式中目标函数L(q)包含两部分：lnp(X,Y|θ)和KL(q||p)。其中，lnp(X,Y|θ)是观测数据的对数似然函数，表示在给定变分参数θ的情况下，观测数据出现的概率。一般希望
这个概率取得最大值，以使模型与观测数据更加拟合。而KL(q||p)则是变分分布q(ω|θ)与后验分布p(ω|X,Y)之间的KL散度。
[0034](4)通过最大化L(q)来找到使得观测数据X和Y的联合概率分布p(X,Y|θ)最大化的变分参数θ，即：
[0035][0036]上式中使用了最大似然估计的思想，最大似然估计是一种常用的参数估计方法，用于寻找使观测数据出现的概率最大的参数取值，从而得到使模型在给定观测数据上表现最优的变分参数估计值θ
*
＝{μ
*
,σ
*
}。
[0037]4、更新图3中的贝叶斯神经网络权重；X为网络输入层，H为网络隐藏层，Y为网络输出层。μ和σ分别为网络权重所服从概率分布的均值和方差。创建发射机模型和接收机模型的正则化对象，使用L2范数进行正则化，使用adam作为梯度下降的优化器，梯度下降的过程可以表示为：
[0038][0039][0040]上式中，y为神经网络输出值，为数据标签值，B为一批次样本数，l(
·
)为损失函数，ω
T
和ω
R
分别为发射机和接收机中贝叶斯神经网络的权重。
[0041]5、判断是否满足优化结束条件；在系统输出预测值后，计算与标签的二分类交叉熵损失函数，观察是否达到端到端无线通信系统的误码率要求，若未达到，则返回步骤3)进行下一步迭代。
[0042]6、对本专利技术提出的模型进行仿真，与传统的端到端无线通信系统模型和现有的基于卷积神经网络的系统模型进行比较，结果如附件图4至图9所示，证明提出的算法确实能够本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于数据及知识驱动的端到端无线通信系统模型设计方法，其特征在于，为联合优化调制解调、编解码以及信道传输，包括下列步骤：1)获取通信系统参数以供算法训练使用；2)建立端到端无线通信系统模型框架：使用神经网络中的贝叶斯层和功率归一化层代替传统通信系统的发射机与接收机，传输媒介选用无线通信中的理论信道模型和真实信道模型；3)更新贝叶斯推断的变分参数：建立贝叶斯推断中变分参数的先验分布，使用KL散度表示变分分布与后验分布之间的差异，将似然函数作为参数优化的目标函数，确定使得目标函数最大化的变分参数；4)更新贝叶斯层的网络权重：利用梯度下降法更新贝叶斯层的网络权重；5)判断是否满足优化结束条件：在系统输出预测值后，计算与标签的二分类交叉熵损失函数，观察是否达到端到端无线通信系统的误码率要求，若未达到，则返回步骤3)进行下一步迭代。2.如权利要求1所述方法，其特征在于：步骤1)中获取通信系统参数以供算法训练使用，包括有效信息比特数k、信道时隙数n、调制进制数M、信道信噪比h
SNR
，以及每一时隙的信道状态信息h
i
(i＝1,2,
…
,n)参数。3.如权利要求1所述方法，其特征在于：步骤2)中建立系统模型框架；使用两层贝叶斯层和一层功率归一化层作为系统的发射机模型，使用两层贝叶斯层作为系统的接收机模型。4.如权利要求1所述方法，其特征在于：步骤3)中选取高斯分布作为先验分布来简化实际...

【专利技术属性】
技术研发人员：汤昊晨，王睿，
申请(专利权)人：同济大学，
类型：发明
国别省市：