基于深度迁移学习的跨频段频谱预测方法技术

本发明专利技术公开了一种基于深度迁移学习的跨频段频谱预测方法。所述频谱预测方法把握频段之间各个信道的相似性，通过在其他频段的信道上测得的历史频谱数据挖掘出频谱数据间内在规律和关联，并迁移至当前频段从而预测当前频段的将来时刻的频谱状态。所述方法步骤如下：选择业务相似的频段，选择最具有相似性的信道，构建数据集，从分类的角度搭建基于深度学习的预测模型，并用训练集训练；将训练成熟的模型参数迁移至目标频段的预测模型中，并在此基础上以较低学习率训练由目标频段数据构建的数据集，并用测试集输入到训练好的预测模型中，得到下一时隙的预测结果。本发明专利技术能够较好地通过跨频段方式帮助目标频段补充数据并预测出频谱演变规律。

【技术实现步骤摘要】
基于深度迁移学习的跨频段频谱预测方法
本专利技术属于无线通信
，具体地说，是一种基于深度迁移学习的长短期记忆模型的跨频段单频点频谱预测方法。
技术介绍
近年来，伴随着软件定义无线电以及认知无线电的发展，动态频谱接入也得到了越来越多人的关注。随着频谱资源越来越稀缺，为了能够结合当前各个频段的使用情况，灵活地使用未被充分使用的频段，需要对各个信道的频谱进行预测分析。当前，对于信道中的频谱预测，已经提出许多的模型从不同的维度对信道中的频谱数据进行预测。在时域维度对频谱进行预测中，即对频谱预测可转换为时间序列的预测问题。早年的研究中，使用的多是线性预测模型。对未来的值的预测通过历史的数据的线性变换得到。且由于这些线性模型较为简单在频谱预测的很多方面均得到了较好的运用。随着深度神经网络的发展，将深度神经网络用于频谱预测的工作也取得了很大的进步，深度神经网络是当前应用最多的非线性模型。然而在实际中，往往存在当频谱数据较为稀缺的时候，频谱数据不足将不能较好的训练深度神经网络的问题，而深度迁移学习是解决这个问题的其中一种方法。深度迁移学习旨在利用成熟的与当前数据集(即为目标域数据集)相似的包含大量数据及成熟的模型的数据集(即为源域数据集)用以解决目标域数据集较少、标签较少、甚至算力不足的情况。对于频谱预测来说，深度迁移学习的方法能有效减轻大量数据重新训练模型带来的时间消耗和算力的巨大要求。同时，深度迁移学习能有效解决频谱预测模型冷启动的问题，帮助弥补初期训练的数据不足的问题。目前运用的最广泛的深度迁移学习的方法是预训练并微调。即在一个具有大量数据的成熟的深度神经网络上训练成熟的参数导出到目标深度神经网络模型上并进行训练。然而，微调的假设是源域和目标域之间数据分布是相同的，这在实际中是基本不存在的。在频谱在时域上的预测问题，转换为时间序列的问题，不同时间序列之间的相似度也是不一样的。由于不同频段之间各个频点的时间序列是不同的，盲目的选择时间序列进行迁移，往往会形成负迁移，反而影响了对时间序列的分类和预测。
技术实现思路
本专利技术的目的在于为频谱预测提供一种新的思路，基于深度迁移学习的长短期记忆模型进行跨频段单频点频谱预测，从而解决当前任务频段数据稀缺的预测问题。实现本专利技术目的的技术解决方案为：一种基于深度迁移学习的长短期记忆模型的跨频段单频点频谱预测方法，包括以下步骤：步骤1，基于GSM上下行传输业务中移动台与基站状态的相似性，选择数据监测天数为2倍以上的GSM1800UL\DL频段频谱占用数据，分别作为目标任务频段GSM900UL\DL的深度迁移学习的源域频段数据；步骤2，将当前任务频段各个频点与源域频段各频点数据进行相似性逐一对比，通过动态时间归整算法DTW度量各个频点之间的相似性并排序，选择当前任务频段与源域频段之间最相似的一对频点数据；步骤3，将当前任务频段及源域频段的所有的原始频谱数据分别进行等间隔量化，量化后的频谱数据采用最大最小值归一化方法将它们的数值映射到[a,b]范围，完成数据的预处理；步骤4，基于预处理后的源域频段单频点频谱数据，采用监督式学习方法构造样本数据集，即固定长度的窗口内的频谱数据作为样本的输入，下一时隙对应的实测值所属的量化类别作为样本的标签，窗口逐时隙地向下滑动，形成一个个样本，数据集随之构造完成，并划分成训练集和测试集；步骤5，将源域频段数据作为单频点频谱预测模型的输入，利用数据集中的训练集训练模型，基于Adam算法调整神经网络参数，使得预测类别和实际类别的交叉熵达到最小值，神经网络训练完成后，利用数据集中的测试集进行测试，根据预测结果计算预测准确率；步骤6，将在源域频段数据训练后的模型的参数进行迁移，作为当前任务频段的单点频谱预测模型的模型初始参数。基于源域频段相同的方式，将源域频段数据作为单频点频谱预测模型的输入，利用数据集中的训练集训练模型，基于Adam算法调整神经网络参数，但将模型学习率调整为原模型的十分之一，经过训练集训练使得预测类别和实际类别的交叉熵达到最小值；步骤7，使用当前任务频段数据集的训练集对长短期记忆神经网络训练完成后，利用当前任务频段数据集中的测试集进行测试，根据预测结果计算预测准确率。进一步地，步骤3所述单频点频谱数据等间隔量化后为一个列向量，将其映射到[a,b]的最大最小值归一化方法为：Xscaler＝Xstd*(b-a)+a(2)其中Xmax,Xmin指的是量化后的所有频谱数据中的最大最小值，b和a分别是映射区间的上界和下界，常常取值1，-1。Xstd表示映射因子，而Xscaler表示经过最大最小值归一化后得到的数值。进一步地，实验中神经网络模型在训练集上进行K维交叉检验。训练集被分成K个子集，某一个子集为测试集时，其余子集担任训练集训练神经网络模型，测试并计算得到相应的预测准确率。K个正确率的均值即为该实验设置下神经网络的预测准确率，预测准确率最高的情况超参数的设置即被选择为最优参数。进一步地，步骤4所述神经网络通过Adam算法使得预测类别和实际类别的交叉熵达到最小值。预测类别和实际类别的交叉熵计算如下：其中y(x)和分别代表样本实际类别和预测类别的概率分布，n为训练样本数。Adam算法在最小化交叉熵时收敛较快，具体流程如下：1、对以下参数进行初始化：学习速率ε，矩估计的指数衰减速率ρ1,ρ2，用于数值稳定的小常数δ，神经网络参数θ。并且初始化一阶矩变量s0＝0、二阶矩变量r0＝0以及时间步t＝0；2、从训练集中采集m个样本{x(1),...,x(m)}的小批量，对应目标为y(i)。计算梯度：3、t增加1，更新有偏一阶矩估计和有偏二阶矩估计:st←ρ1st-1+(1-ρ1)gt(5)rt←ρ2rt-1+(1-ρ2)gt⊙gt(6)4、修正一阶矩和二阶矩的偏差：5、逐元素计算更新：6、循环上述2到5步骤，直到θt收敛。进一步地，步骤5所述根据预测结果统计该频点的正确率，该频点的正确率计算如下：其中N为测试集中样本数目，flagk表示第k个样本的预测状态，当预测类别和标签类别相同时预测状态为1，反之则为0。本专利技术与现有技术相比，其显著优点在于：(1)充分考虑了不同频段之间的相似性，提出更加适应于解决“冷启动”问题的深度学习模型，能更好地在当前历史频谱数据稀缺的情况下，基于相似频段的频谱数据帮助捕捉到历史频谱数据内部的时间演变规律然后预测；(2)充分考虑了不同频段之间的业务活动情况及相似性度量问题，提出基于频段间频点活动相似的的深度学习模型，能更好地捕捉到历史频谱数据内部的时间演变规律然后预测；(3)针对可能存在负迁移的问题，提出基于动态时间规划的相似性度量并排序，选取最为相似的频点进行深度迁移学习。附图表说明图1是本专利技术所提出的基于迁移学习的跨频段频谱预测模型示意图。<本文档来自技高网...

【技术保护点】
1.一种基于深度迁移学习的跨频段频谱预测方法，其特征在于，包括以下步骤：/n步骤1，基于GSM上下行传输业务中移动台与基站状态的相似性，选择数据监测天数为2倍以上的GSM1800UL\DL频段频谱占用数据，分别作为目标任务频段GSM900UL\DL的深度迁移学习的源域频段数据；/n步骤2，将当前任务频段各个频点与源域频段各频点数据进行相似性逐一对比，通过动态时间归整算法DTW度量各个频点之间的相似性并排序，选择当前任务频段与源域频段之间最相似的一对频点数据；/n步骤3，将当前任务频段及源域频段的所有的原始频谱数据分别进行等间隔量化，量化后的频谱数据采用最大最小值归一化方法将它们的数值映射到[a,b]范围，完成数据的预处理；/n步骤4，基于预处理后的源域频段单频点频谱数据，采用监督式学习方法构造样本数据集，即固定长度的窗口内的频谱数据作为样本的输入，下一时隙对应的实测值所属的量化类别作为样本的标签，窗口逐时隙地向下滑动，形成一个个样本，数据集随之构造完成，并划分成训练集和测试集；/n步骤5，将源域频段数据作为单频点频谱预测模型的输入，基于长短期记忆模型，利用数据集中的训练集训练模型，基于Adam算法调整神经网络参数，使得预测类别和实际类别的交叉熵达到最小值，神经网络训练完成后，利用数据集中的测试集进行测试，根据预测结果计算预测准确率；/n步骤6，将在源域频段数据训练后的模型的长短期记忆模型参数进行迁移，作为当前任务频段的单点频谱预测模型的长短期记忆模型初始参数；基于源域频段相同的模型架构和训练方式，将当前任务频段数据作为单频点频谱预测模型的输入，利用数据集中的训练集训练模型，基于Adam算法调整神经网络参数，将长短期记忆模型模型学习率调整为原模型的十分之一，经过训练集训练使得预测类别和实际类别的交叉熵达到最小值；/n步骤7，使用当前任务频段数据集的训练集对长短期记忆神经网络训练完成后，利用当前任务频段数据集中的测试集进行测试，根据预测结果计算预测准确率。/n...

【技术特征摘要】
1.一种基于深度迁移学习的跨频段频谱预测方法，其特征在于，包括以下步骤：
步骤1，基于GSM上下行传输业务中移动台与基站状态的相似性，选择数据监测天数为2倍以上的GSM1800UL\DL频段频谱占用数据，分别作为目标任务频段GSM900UL\DL的深度迁移学习的源域频段数据；
步骤2，将当前任务频段各个频点与源域频段各频点数据进行相似性逐一对比，通过动态时间归整算法DTW度量各个频点之间的相似性并排序，选择当前任务频段与源域频段之间最相似的一对频点数据；
步骤3，将当前任务频段及源域频段的所有的原始频谱数据分别进行等间隔量化，量化后的频谱数据采用最大最小值归一化方法将它们的数值映射到[a,b]范围，完成数据的预处理；
步骤4，基于预处理后的源域频段单频点频谱数据，采用监督式学习方法构造样本数据集，即固定长度的窗口内的频谱数据作为样本的输入，下一时隙对应的实测值所属的量化类别作为样本的标签，窗口逐时隙地向下滑动，形成一个个样本，数据集随之构造完成，并划分成训练集和测试集；
步骤5，将源域频段数据作为单频点频谱预测模型的输入，基于长短期记忆模型，利用数据集中的训练集训练模型，基于Adam算法调整神经网络参数，使得预测类别和实际类别的交叉熵达到最小值，神经网络训练完成后，利用数据集中的测试集进行测试，根据预测结果计算预测准确率；
步骤6，将在源域频段数据训练后的模型的长短期记忆模型参数进行迁移，作为当前任务频段的单点频谱预测模型的长短期记忆模型初始参数；基于源域频段相同的模型架构和训练方式，将当前任务频段数据作为单频点频谱预测模型的输入，利用数据集中的训练集训练模型，基于Adam算法调整神经网络参数，将长短期记忆模型模型学习率调整为原模型的十分之一，经过训练集训练使得预测类别和实际类别的交叉熵达到最小值；
步骤7，使用当前任务频段数据集的训练集对长短期记忆神经网络训练完成后，利用当前任务频段数据集中的测试集进行测试，根据预测结果计算预测准确率。

【专利技术属性】
技术研发人员：陈瑾，林凡迪，丁国如，孙佳琛，
申请(专利权)人：中国人民解放军陆军工程大学，
类型：发明
国别省市：江苏;32