一种用于LDPC码的自学习归一化偏置最小和译码方法技术

本发明专利技术公开了一种用于LDPC码的自学习归一化偏置最小和译码方法，该用于LDPC码的自学习归一化偏置最小和译码方法包括：建立LDPC码译码训练样本集；建立深度学习模型；利用LDPC码译码训练样本集，并采用随机梯度下降的训练方法对所述深度学习模型进行训练，得到训练好的参数；将所述训练好的参数代入到归一化偏置最小和译码算法中进行译码。本发明专利技术用于LDPC码的自学习归一化偏置最小和译码方法既具有较低的计算复杂度，又具有良好的译码性能，十分适合实际通信系统中的应用，具有很好的推广应用前景。

【技术实现步骤摘要】
一种用于LDPC码的自学习归一化偏置最小和译码方法
本专利技术涉及深度学习和通信
，特别是指一种用于LDPC码的自学习归一化偏置最小和译码方法。
技术介绍
低密度奇偶校验码(LowDensityParityCheckCode,LDPC)，是一种译码复杂度低且性能优良的线性分组纠错码。基于早期的研究表明，人们发现当LDPC码长足够长的情况下，误码率能够非常接近Shannon限(香农限)，甚至当达到一定码长时，有比Turbo码更逼近香农限的纠错能力。正是由于LDPC码优异的性能能够满足第五代(Fifth-Generation,5G)移动通信系统中新的通信需求，实现移动设备之间低时延、高速率和高可靠性连接，使其成为了5G标准中的数据信道编码方案。在5GLDPC码译码方案的硬件实现中并没有采用性能优良的SPA算法，而是常用MS算法和MS算法的改进算法，这是因为SPA算法中在从校验节点到变量节点更新时计算复杂度较高，硬件实现复杂、成本高。但是MS算法和MS算法的改进算法在译码性能上都与SPA算法有不小差距。现有技术中5GLDPC码硬件实现时采用的译码算法的译码性能不足。
技术实现思路
针对现有技术的不足之处，本专利技术的目的是提出一种用于LDPC码的自学习归一化偏置最小和译码方法，该基于自学习(深度学习)的信道编码部分的5GLDPC码归一化偏置最小和译码方法可提高译码性能。基于上述目的，本专利技术提供的一种用于LDPC码的自学习归一化偏置最小和译码方法，包括：建立LDPC码译码训练样本集；建立深度学习模型；利用LDPC码译码训练样本集，并采用随机梯度下降的训练方法对所述深度学习模型进行训练，得到训练好的参数；将所述训练好的参数代入到归一化偏置最小和译码算法中进行译码。在本专利技术的一些实施例中，所述LDPC码具有特殊的QC结构，其奇偶校验矩阵是由基图经过扩展和循环移位得到的。在本专利技术的一些实施例中，所述建立LDPC码译码训练样本集的步骤包括：选择基图，根据码长确定提升值Z，得到奇偶校验矩阵，再得到对应生成矩阵，等概0、1信源比特信息序列Y与对应生成矩阵相乘后得到信息比特序列X；信息比特序列X经过二进制相移键控加入高斯白噪声，初始化后得到带高斯噪声的信息比特序列，最后转化成相应的对数似然比信息序列X'，以作为LDPC码译码的训练样本集。在本专利技术的一些实施例中，所述建立深度学习模型的步骤包括：通过置信度传播算法中变量节点到校验节点的横向更新和校验节点到变量节点的纵向更新过程，单步展开，根据LDPC码的特性，一个校验节点只与它相关联的变量节点有关，网络的连接方式为非全链接，建立深度学习模型。在本专利技术的一些实施例中，所述深度学习模型中，神经网络中每两层对应一次迭代译码，神经网络中间层的数目为最大迭代译码次数的两倍，对神经网络的中间层从1开始编号，每层神经元个数为基图中为“1”的元素个数，奇数层为变量节点更新层，奇数层连接输出层，偶数层为校验节点更新层和输出层。在本专利技术的一些实施例中，所述深度学习模型的激活函数由归一化偏置最小和译码算法中节点更新公式决定，其中，奇数层激活函数由变量节点更新公式决定，偶数层由校验节点更新公式决定，输出的对数似然比用sigmoid函数归一化到(0,1)值域上，损失函数为交叉熵函数，优化算法为ADAM算法。在本专利技术的一些实施例中，变量节点更新公式为：其中，为在第i次迭代译码中从校验节点c到变量节点v的似然信息，是一个矢量，因为每个神经元处理的是一个Z长度序列；代表与校验节点c相邻的变量节点集合，代表与校验节点c相邻的包括变量结点v的变量节点集合，为第i轮迭代译码待训练的权重，初始化为1，为带训练的偏置，初始化为0；ReLU(x)＝max(x,0)校验节点更新公式为：其中，为在第i次迭代译码中从校验节点c到变量节点v的似然信息，代表与变量节点v相邻的校验节点集合，代表与变量节点v相邻的不包括校验变结点c的校验节点集合，LLRv为固有的似然信息；输出似然信息的公式为：其中，Sv为变量节点输出的似然信息，可以直接作软判决得到译码比特序列，LLRv为固有的似然信息；输出层的激活函数为sigmoid函数为：交叉熵函数为：其中，X为输出的似然信息序列，S为调制前的信息比特序列，N为序列长度。在本专利技术的一些实施例中，所述采用随机梯度下降的训练方法对深度学习模型进行训练，得到训练好的参数的步骤包括：设定最大训练数和每个batch中的样本数；逐层训练权重和偏置，进行迭代次数为1的译码，只用深度学习模型的前两层，每个batch输入后对第一个奇数层的权重w和偏置b进行调整，当第一层训练完之后把第一个奇数层的权重w和偏置b固定下来，再进行第二层的训练，以此类推直到达到最大迭代次数；训练完成后，取出每轮迭代中的权重和偏置，保存下来。在本专利技术的一些实施例中，所述逐层训练权重和偏置的步骤包括：步骤S1，初始化迭代计数器h＝1。步骤S2，初始化训练batch数目计数器k＝1。步骤S3，随机选则一种码长并生成所述码长组成的一个batch，输入对应的神经网络；步骤S4，在神经网络完成2*h层计算后输出，即只进行迭代次数为h的译码；步骤S5，计算loss并用ADAM优化算法调整第h轮迭代中的权重wh和偏置bh，k加1，返回步骤S3，直到k达到最大训练数；步骤S6，第h轮迭代中的权重wh和偏置bh中的训练完成后，设置为常量固定下来，h加1，返回步骤S2。在本专利技术的一些实施例中，将训练好的所述参数代入到归一化偏置最小和译码算法中进行译码的步骤包括：取出保存的每轮迭代中的权重w和偏置b代入归一化偏置最小和译码算法中进行译码。与现有技术相比，本专利技术具有以下有益效果：本专利技术结合归一化最小和译码算法和偏置最小和算法，简化了校验节点到变量节点计算公式，使得计算复杂度大大降低。另外引入深度学习采用逐层训练的方式训练每一层的权重和偏置，提高了算法的译码性能。综合上述两个特点，本专利技术提出的一种用于LDPC码的自学习归一化偏置最小和译码方法既具有较低的计算复杂度，又具有良好的译码性能。因此，本专利技术用于LDPC码的自学习归一化偏置最小和译码方法十分适合实际通信系统中的应用，具有很好的推广应用前景。附图说明图1为本专利技术实施例的用于LDPC码的自学习归一化偏置最小和译码方法的流程图；图2为本专利技术实施例的用于LDPC码的自学习归一化偏置最小和译码方法的完整流程图；图3为本专利技术实施例的BG1中非零元素的位置，也可以看成对应Tanner图的邻接矩阵，行数为46，列数为68；图4为本专利技术实施例的基于BG1建立的神经网络部分模型的示意图，完整的模型只需要对中间层进行复制，对应的层与层之间连接方式均相同；另外需要说本文档来自技高网...

【技术保护点】
1.一种用于LDPC码的自学习归一化偏置最小和译码方法，其特征在于，包括：/n建立LDPC码译码训练样本集；/n建立深度学习模型；/n利用LDPC码译码训练样本集，并采用随机梯度下降的训练方法对所述深度学习模型进行训练，得到训练好的参数；/n将所述训练好的参数代入到归一化偏置最小和译码算法中进行译码。/n

【技术特征摘要】
1.一种用于LDPC码的自学习归一化偏置最小和译码方法，其特征在于，包括：
建立LDPC码译码训练样本集；
建立深度学习模型；
利用LDPC码译码训练样本集，并采用随机梯度下降的训练方法对所述深度学习模型进行训练，得到训练好的参数；
将所述训练好的参数代入到归一化偏置最小和译码算法中进行译码。


2.根据权利要求1所述的用于LDPC码的自学习归一化偏置最小和译码方法，其特征在于，所述LDPC码具有特殊的QC结构，其奇偶校验矩阵是由基图经过扩展和循环移位得到的。


3.根据权利要求1所述的用于LDPC码的自学习归一化偏置最小和译码方法，所述建立LDPC码译码训练样本集的步骤包括：
选择基图，根据码长确定提升值Z，得到奇偶校验矩阵，再得到对应生成矩阵，等概0、1信源比特信息序列Y与对应生成矩阵相乘后得到信息比特序列X；
信息比特序列X经过二进制相移键控加入高斯白噪声，初始化后得到带高斯噪声的信息比特序列，最后转化成相应的对数似然比信息序列X'，以作为LDPC码译码的训练样本集。


4.根据权利要求1所述的用于LDPC码的自学习归一化偏置最小和译码方法，其特征在于，所述建立深度学习模型的步骤包括：
通过置信度传播算法中变量节点到校验节点的横向更新和校验节点到变量节点的纵向更新过程，单步展开，根据LDPC码的特性，一个校验节点只与它相关联的变量节点有关，网络的连接方式为非全链接，建立深度学习模型。


5.根据权利要求4所述的用于LDPC码的自学习归一化偏置最小和译码方法，其特征在于，所述深度学习模型中，神经网络中每两层对应一次迭代译码，神经网络中间层的数目为最大迭代译码次数的两倍，对神经网络的中间层从1开始编号，每层神经元个数为基图中为“1”的元素个数，奇数层为变量节点更新层，奇数层连接输出层，偶数层为校验节点更新层和输出层。


6.根据权利要求5所述的用于LDPC码的自学习归一化偏置最小和译码方法，其特征在于，所述深度学习模型的激活函数由归一化偏置最小和译码算法中节点更新公式决定，其中，奇数层激活函数由变量节点更新公式决定，偶数层由校验节点更新公式决定，输出的对数似然比用sigmoid函数归一化到(0,1)值域上，损失函数为交叉熵函数，优化算法为ADAM算法。


7.根据权利要求6所述的用于LDPC码的自学习归一化偏置最小和译码方法，其特征在于，变量节点更新公式为：



其中，为在第i次迭代译码中从校验节点c到变量节点v的似然信息，是一个矢量，因为每个神经...

【专利技术属性】
技术研发人员：戴金晟，牛凯，谭凯林，
申请(专利权)人：北京邮电大学，
类型：发明
国别省市：北京;11