基于LSTM的CPU资源负载情况预测方法技术

本发明专利技术提供了一种基于LSTM的CPU资源负载情况预测方法，包括：构建LSTM算法模型；对所述LSTM算法模型进行训练；以及利用训练好的LSTM算法模型进行CPU资源负载情况预测。本发明专利技术基于LSTM的CPU资源负载情况预测方法加快了模型的收敛速度，提高模型的预测准确率，能够提前预警CPU资源负载情况，从而帮助系统管理员提前开展资源调度等工作，高效利用地CPU资源，防止故障发生。止故障发生。止故障发生。

【技术实现步骤摘要】
基于LSTM的CPU资源负载情况预测方法


[0001]本专利技术涉及深度学习和CPU资源负载
，具体涉及一种基于LSTM的CPU资源负载情况预测方法。

技术介绍

[0002]服务器网络环境复杂，各类应用系统资源需求不同，有些服务会消耗大量的物理资源和虚拟资源，可能会造成CPU资源的激增，最终导致系统异常、宕机的状况。
[0003]现有的CPU资源异常告警方法存在如下问题：
[0004](1)常见的资源告警依托于准实时告警，当资源占用率超过一定阈值时进行告警，系统管理员通常只能在收到告警之后进行故障排查与修复，此类告警滞后性高，被动性强。
[0005](2)基于时间序列的分析方法，大多数采用基于时间序列的预测法自回归滑动平均模型(ARMA)，该模型由自回归模型(AR模型)与滑动平均模型(MA模型)为基础混合构成，是研究时间序列的重要方法。自回归滑动平均模型本质上只能捕捉线性关系，并且要求数据是稳定的。在时间序列变化不稳定、时间跨度较长时，自回归滑动平均模型因其主要依赖历史平均值，预测值总是停留在历史范围内，导致预测效果不佳。因此自回归滑动平均模型往往用于短期预测，无法进行中长期预测。
[0006]因此，亟需一种CPU资源负载情况预测方法，用于提前预警CPU资源负载情况，从而帮助系统管理员提前开展资源调度等工作，高效利用地CPU资源，防止故障发生。

技术实现思路

[0007](一)要解决的技术问题
[0008]鉴于上述问题，本专利技术的主要目的在于提供一种基于LSTM的CPU资源负载情况预测方法，以期至少部分地解决上述提及的技术问题中的至少之一。
[0009](二)技术方案
[0010]根据本专利技术的一个方面，提供了一种基于LSTM的CPU资源负载情况预测方法，包括：
[0011]构建LSTM算法模型；
[0012]对所述LSTM算法模型进行训练；以及
[0013]利用训练好的LSTM算法模型进行CPU资源负载情况预测。
[0014]进一步的，在对LSTM算法模型进行训练时，采用非饱和激活函数ReLU函数作为激活函数；其中，ReLU激活函数的表达式为：
[0015][0016]进一步的，在对LSTM算法模型进行训练时，采用Hyperopt进行模型参数调整。
[0017]进一步的，在对所述LSTM算法模型进行训练之前，还包括：
[0018]获取CPU资源使用率训练数据；
[0019]对所述CPU资源使用率训练数据进行数据平滑与归一化处理；
[0020]利用数据平滑与归一化处理后的数据构建训练集与测试集，以对所述LSTM算法模型进行训练。
[0021]进一步的，在利用训练好的LSTM算法模型进行CPU资源负载情况预测之前，还包括：
[0022]获取CPU资源使用率待预测数据；
[0023]对所述CPU资源使用率待预测数据进行数据平滑与归一化处理。
[0024]进一步的，采用滑动平均法对数据做平滑处理，滑动平均法公式为：
[0025]F
t
＝(A
t-1
+A
t-2
+A
t-3
+
…
+A
t-n
)/n
[0026]式中，t为当前时刻，A
t-1
为上一时刻的数据，n为滑动平均的个数；
[0027]所述归一化处理即通过对数据进行压缩与平移，以达到使数据绝对值落在1以内，归一化公式为：
[0028][0029]式中，x为当前数据，x
*
为归一化后的数据，max和min分别为这组数据的最大值和最小值。
[0030]进一步的，在对LSTM算法模型进行训练时，采用Dropout方法降低层间过拟合程度，并采用Adam方法作为最优化方法；其中，Adam方法的计算公式为：
[0031][0032]式中，θ
t
为Adam方法的输出，α表示学习率，θ
t-1
为待更新参数，m
t
为偏一阶矩估计；v
t
为偏二阶矩估计；和为矩估计的指数衰减率；ε为正数。
[0033]进一步的，在对LSTM算法模型进行训练时，采用均方误差对训练数据的输出值同真实值进行误差计算，其中，均方误差公式为：
[0034][0035]式中，m为数据集个数，h(x
i
)为输出值，yi为真实值。
[0036]进一步的，在对LSTM算法模型进行训练时，以预测误差最小为目标函数，采用贝叶斯优化方法对LSTM神经网络隐藏层数目、学习率、训练次数、遗忘率dropout进行参数组合寻优。
[0037]进一步的，在利用训练好的LSTM算法模型进行CPU资源负载情况预测时，采用平自相关系数进行平稳性分析，其中，自相关系数的定义为：
[0038][0039]式中，k为阶数，为原始序列的均值，X
i
对应被拆分的原始序列的第i项，X
i+k
对应
被拆分的原始序列移动k步后的序列的第i项。
[0040](三)有益效果
[0041]从上述技术方案可以看出，本专利技术一种基于LSTM的CPU资源负载情况预测算法至少具有以下有益效果其中之一：
[0042](1)本专利技术基于LSTM的CPU资源负载情况预测方法，能够提前预警CPU资源负载情况，从而帮助系统管理员提前开展资源调度等工作，高效利用地CPU资源，防止故障发生。
[0043](2)本专利技术使用深度学习算法长短期记忆网络(LSTM)实现对CPU资源负载情况的预测，LSTM模型能够通过非线性计算提取出CPU资源负载特征，这样可以有效解决CPU资源使用率不平稳的带来的预测难题。
[0044](3)本专利技术在传统的LSTM算法上做了优化，在激活函数方面，使用非饱和激活函数ReLU函数代替饱和激活函数Tanh函数，由此可以加快模型的收敛速度，提高模型的预测准确率。
[0045](4)本专利技术使用Hyperopt自动调参，进一步提高了模型准确率。
附图说明
[0046]构成本专利技术的一部分的附图用来提供对本专利技术的进一步理解，本专利技术的示意性实施例及其说明用于解释本专利技术，并不构成对本专利技术的不当限定。
[0047]在附图中：
[0048]图1为本专利技术CPU资源负载情况训练和预测阶段流程图。
[0049]图2为本专利技术Sigmoid函数和导数曲线。
[0050]图3为本专利技术Tanh函数和导数曲线。
[0051]图4为本专利技术ReLU函数曲线。
[0052]图5为本专利技术第一组数据自相关图。
[0053]图6为本专利技术第二组数据自相关图。
[0054]图7为本专利技术第一组数据CPU预测效果对比。
[0055]图8为本专利技术第二组数据CPU预测效果对比。
[0056]本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于LSTM的CPU资源负载情况预测方法，其特征在于，包括：构建LSTM算法模型；对所述LSTM算法模型进行训练；以及利用训练好的LSTM算法模型进行CPU资源负载情况预测。2.根据权利要求1所述的基于LSTM的CPU资源负载情况预测方法，其特征在于，在对LSTM算法模型进行训练时，采用非饱和激活函数ReLU函数作为激活函数；其中，ReLU激活函数的表达式为：3.根据权利要求1所述的基于LSTM的CPU资源负载情况预测方法，其特征在于，在对LSTM算法模型进行训练时，采用Hyperopt进行模型参数调整。4.根据权利要求1所述的基于LSTM的CPU资源负载情况预测方法，其特征在于，在对所述LSTM算法模型进行训练之前，还包括：获取CPU资源使用率训练数据；对所述CPU资源使用率训练数据进行数据平滑与归一化处理；利用数据平滑与归一化处理后的数据构建训练集与测试集，以对所述LSTM算法模型进行训练。5.根据权利要求1所述的基于LSTM的CPU资源负载情况预测方法，其特征在于，在利用训练好的LSTM算法模型进行CPU资源负载情况预测之前，还包括：获取CPU资源使用率待预测数据；对所述CPU资源使用率待预测数据进行数据平滑与归一化处理。6.根据权利要求4或5所述的基于LSTM的CPU资源负载情况预测方法，其特征在于，采用滑动平均法对数据做平滑处理，滑动平均法公式为：F
t
＝(A
t-1
+A
t-2
+A
t-3
+
…
+A
t-n
)/n式中，t为当前时刻，A
t-1
为上一时刻的数据，n为滑动平均的个数；所述归一化处理即通过对数据进行压缩与平移，以达到使数据绝...

【专利技术属性】
技术研发人员：樊文杰，陈岚，张贺，
申请(专利权)人：中国科学院微电子研究所，
类型：发明
国别省市：