一种基于注意力机制和流量预测模型的资源预留方法技术

本发明专利技术公开了一种基于注意力机制和流量预测模型的资源预留方法，首先获取历史流量数据并进行数据预处理；利用注意力机制对预处理后的数据进行权重系数的计算；构建LSTM时间序列预测模型，输入加权后的数据进行训练及预测后得到预测流量；基于预测得到的预测流量，通过SDN计算所需的预留资源并下达路由器流表从而预留网络资源。本发明专利技术方法对于预测效果影响较大的部分赋有更大的权重，从而提高流量预测的精度，使得基于预测结果的网络资源预留具有较高的准确性，提高网络资源的利用率。

A resource reservation method based on attention mechanism and traffic prediction model

The invention discloses a resource reservation method based on attention mechanism and flow prediction model, which first obtains the historical flow data and preprocesses the data; calculates the weight coefficient of the preprocessed data by using attention mechanism; constructs the LSTM time series prediction model, inputs the weighted data for training and prediction to obtain the predicted flow; and obtains the predicted flow based on the predicted data Predict the traffic, calculate the required reserved resources through SDN and issue router flow table to reserve network resources. The method of the invention has a greater weight for the part having a greater influence on the prediction effect, so as to improve the accuracy of the traffic prediction, make the network resource reservation based on the prediction result have a higher accuracy, and improve the utilization rate of the network resource.

【技术实现步骤摘要】
一种基于注意力机制和流量预测模型的资源预留方法
本专利技术涉及网络服务质量
，更具体地，涉及一种基于注意力机制和流量预测模型的资源预留方法。
技术介绍
随着软件定义网络(Software-DefinedNetworking，SDN)与AI人工智能技术的发展，越来越多的学者和机构开始研究通过AI处理后结合SDN实现智能网络，让SDN做出符和当前系统实际情况的决策，如动态地预留带宽方便“老鼠流”(指通过网络链路进行少量的，短时间的数据传递过程)的通过，及时回收预留带宽以便“大象流”(指通过网络链路进行大量的，长时间的数据传递过程)的通过等的资源预留。其中AI人工智能技术在时间序列预测方面，传统的模型有Holt-Winters模型，ARIMA模型，但这两种模型对数据的平滑性和数量有很高的要求，当不满足这些要求时，预测效果相对较差，对于不同类型的数据，总是需要手动调整参数，使得模型的泛化性能较差。因此为了解决泛化问题，进一步提出了一些基于机器学习的预测方法，如SVM，神经网络等预测模型等，但这些预测模型对于时间序列数据没有一定的先验认知，对数据进行平等处理，不能更好地发现序列数据中的特征数据段，会对时间序列的预测结果造成一定影响，从而影响后续基于SDN的网络资源预留。
技术实现思路
本专利技术为解决现有的网络资源预留方法由于流量预测结果存在误差，导致资源预留过多或过少的问题，提供了一种基于注意力机制和流量预测模型的资源预留方法。为实现以上专利技术目的，而采用的技术手段是：一种基于注意力机制和流量预测模型的资源预留方法，包括以下步骤：S1.获取历史流量数据并进行数据预处理；S2.利用注意力机制对预处理后的数据进行权重系数的计算；S3.构建LSTM时间序列预测模型，输入加权后的数据进行训练及预测后得到预测流量；S4.基于预测得到的预测流量，通过SDN计算所需的预留资源并下达路由器流表从而预留网络资源。上述方案中，通过注意力机制对训练数据进行加权处理，使其中对于预测效果影响较大的部分赋有更大的权重，然后通过LSTM时间序列预测模型对加权后的数据进行训练和预测，得到高精确度的预测流量后再通过SDN接收和处理预测结果，然后下达对应的预留策略。优选的，所述步骤S1具体为：获取历史流量数据，得到流量序列为Seq＝{s1,s2,s3,...sN}，将所述流量序列划分为训练序列Seqtrain＝{s1,s2,s3,...sM}以及测试序列Seqtest＝{sM+1,sM+2,sM+3,...sN}，其中N是所述流量序列的总长度，M是所述训练序列的分段长度；将所述训练序列分成n个序列段，得到序列段集合为：X0＝Seqtrain＝{x1,x2,x3,...,xn}其中其中T是划分后每个序列段的长度，k是进行分段时数据需要向后移动的步长；xn表示第n个序列段。在本优选方案中，对数据进行预处理使其满足注意力机制的输入需求。优选的，所述步骤S2具体为：构造利用注意力机制对预处理后的数据进行权重系数计算的模型，包括：注意力权重衡量流量序列在时间t的重要性的注意力量其中为需要学习的参数，Be为偏差项，为时间t上的第k个片段的值；通过SoftMax函数对以及进行求解，使得的总和为1，得到加权后的序列段集合为在本优选方案中，对预测效果影响较大的部分给予更大的权重，使得在流量预测中更多地关注包括峰值流量和流量突然变化的时期，而不是平等地处理所有时间段，提高流量预测的准确度。优选的，所述步骤S3中所述的LSTM时间序列预测模型包括输入层、输出层和隐藏层，所述隐藏层包括由LSTM细胞构成的LSTM层和以relu函数为激活函数的全连接层；其中LSTM细胞状态ct的更新公式为：其中it是输入门的输出，wxi为输入与输入门的权重矩阵，whi为隐藏层和输入门的权重矩阵，ht-1为t-1时刻的隐藏层输出，bi为输入门偏差量，ft为遗忘门的输出，ct-1为t-1时刻的细胞状态，wxc为输入与细胞状态的权重矩阵，wxc为隐藏层和细胞状态的权重矩阵，bc为细胞状态的偏差量，和tanh分别是元素乘法和双曲正切激活函数；其中隐藏层状态ht的更新公式为：其中ot为输出门的输出；wxo为输入与输出门的权重矩阵，who为隐藏层和输出门的权重矩阵，bobc为输出门的偏差量；其中所述输出层的输出预测值为：pt＝σ(Vht+ct)；采用输出预测值和真实值的均方误差RMSE作为损失函数loss，定义为：其中pi为输出预测值，yi为真实值。在本优选方案中，LSTM作为一种改进的RNN网络，擅长利用时间序列数据之间的非线性关系，因此使用LSTM时间序列预测模型进行流量预测可以取得准确的预测效果。优选的，所述步骤S3中输出加权后的序列段集合并采用反向传播BPTT算法对所述LSTM时间序列预测模型进行训练后，基于训练完毕的LSTM时间序列预测模型对所述测试序列进行预测得到预测流量。优选的，步骤S4中所述的通过SDN计算所需的预留资源具体为：定义时间段0～t1为网络当前的链路状况，时间段t1～t2为所述预测流量，且在t1时刻有一条持续t2-t1时间的大象流通过，时间段t1～t2间的tk时刻有一条老鼠流经过，则对所述老鼠流的预留资源为：Rneed＝Tneed×BneedBleft＝B-Bcurrent其中Rneed为预留给所述老鼠流转发所需要的资源块，Tneed为所述老鼠流持续的时间，Bneed为所述老鼠流需要的带宽；Blef为当前带宽余量，B为带宽总量，Bcurrent为所述大象流占有的带宽总量，所述预留资源在t2时刻之后进行回收。在本优选方案中，为了保证tk时刻的老鼠流能够及时完成交互，SDN会下发计算得到的预留资源块，当t2过后及时回收预留的资源块，使得老鼠流在tk～(tk+Tneed)时间段内能够及时完成数据交互，而不会等到t2时刻之后；同时预留资源块也能及时动态回收，而非静态分配某段带宽给老鼠流通过，提高了网络资源的利用率。与现有技术相比，本专利技术技术方案的有益效果是：本专利技术首先通过注意力机制对训练数据进行加权处理，使其中对于预测效果影响较大的部分赋有更大的权重，然后通过LSTM时间序列预测模型对加权后的数据进行训练和预测，得到高精确度的预测流量后再通过SDN接收和处理预测结果，然后下达对应的预留策略。本专利技术方法首先通过注意力机制和LSTM时间序列预测模型保证预测结果的准确性，从而使得基于预测结果的网络资源预留具有较高的准确性，提高资源利用率，解决了现有的网络资源预留方法由于流量预测结果存在误差，导致资源预留过多或过少的问题。附图说明图1为本实施例的总流程图。图2为本实施例中注意力机制对预处理后的数据进行权重系数计算模型的示意图。图3为本实施例LSTM时间序列预测模型的示意图。图4为本实施例中流量预测的示意图。图5为本实施例中资源预留的示意图。具体实施方式附图仅用于示例性说明，不能理解为对本专利的限制；为了更好说明本实施例，附图某些部件会有省略、放大或缩小，并不代表实际产品的尺寸；对于本领域技术人员来说，附图中某些公知结构及其说明可能省略是可以理解的。下面结合附图和实施例对本专利技术的技术方案做进一步的说明。实施例一种基于注意力机制和流量预测模型的资源预留方法，如图1所示，包括以下步骤：本文档来自技高网...

【技术保护点】
1.一种基于注意力机制和流量预测模型的资源预留方法，其特征在于，包括以下步骤：S1.获取历史流量数据并进行数据预处理；S2.利用注意力机制对预处理后的数据进行权重系数的计算；S3.构建LSTM时间序列预测模型，输入加权后的数据进行训练及预测后得到预测流量；S4.基于预测得到的预测流量，通过SDN计算所需的预留资源并下达路由器流表从而预留网络资源。

【技术特征摘要】
1.一种基于注意力机制和流量预测模型的资源预留方法，其特征在于，包括以下步骤：S1.获取历史流量数据并进行数据预处理；S2.利用注意力机制对预处理后的数据进行权重系数的计算；S3.构建LSTM时间序列预测模型，输入加权后的数据进行训练及预测后得到预测流量；S4.基于预测得到的预测流量，通过SDN计算所需的预留资源并下达路由器流表从而预留网络资源。2.根据权利要求1所述的基于注意力机制和流量预测模型的资源预留方法，其特征在于，所述步骤S1具体为：获取历史流量数据，得到流量序列为Seq＝{s1,s2,s3,...sN}，将所述流量序列划分为训练序列Seqtrain＝{s1,s2,s3,...sM}以及测试序列Seqtest＝{sM+1,sM+2,sM+3,...sN}，其中N是所述流量序列的总长度，M是所述训练序列的分段长度；将所述训练序列分成n个序列段，得到序列段集合为：X0＝Seqtrain＝{x1,x2,x3,...,xn}其中其中T是划分后每个序列段的长度，k是进行分段时数据需要向后移动的步长；xn表示第n个序列段。3.根据权利要求2所述的基于注意力机制和流量预测模型的资源预留方法，其特征在于，所述步骤S2具体为：构造利用注意力机制对预处理后的数据进行权重系数计算的模型，包括：注意力权重衡量流量序列在时间t的重要性的注意力量其中为需要学习的参数，Be为偏差项，为时间t上的第k个片段的值；通过SoftMax函数对以及进行求解，使得的总和为1，得到加权后的序列段集合为4.根据权利要求3所述的基于注意力机制和流量预测模型的资源预留方法，其特征在于，所述步骤S3中所述的LSTM时间序列预测模型包括输入层、输出层和隐藏层，所述隐藏层包括由LSTM细胞构成的LSTM层和以relu函数为激活函数的全连接层；其中LSTM细胞状态ct的更新公式为：其中i...

【专利技术属性】
技术研发人员：程良伦，林芝峰，
申请(专利权)人：广东工业大学，
类型：发明
国别省市：广东,44