一种基于深度学习的服务系统在线可靠性预测方法技术方案

本发明专利技术公开了一种基于深度学习的服务系统在线可靠性预测方法，将深度置信神经网络与长短期记忆神经网络相结合，首先利用深度置信神经网络对历史的可靠性序列进行特征提取；然后利用长短期记忆神经网络以及改进的双向长短期记忆神经网络对处理后的可靠性序列进行预测，提高预测的准确性。本发明专利技术可以有效地实现服务系统可靠性的在线预测，能反映服务系统实时可靠性的动荡无规律的特点，可以为基于服务组合的服务系统的质量保障提供有关于系统可靠性方面的早期信息，为有效地预防服务系统的错误及质量异常的发生提供支持。

An Online Reliability Prediction Method for Service Systems Based on Deep Learning

【技术实现步骤摘要】
一种基于深度学习的服务系统在线可靠性预测方法
本专利技术涉及一种利用深度学习来对服务系统的可靠性进行在线预测的技术,属于服务计算

技术介绍
主动式缺陷管理是一种用于提高系统可靠性的较为有效的手段。其核心思想是通过预测系统的缺陷，并提前对系统做出调整，从而达到规避系统错误的目的。由于构成服务系统的每个组件服务都运行在复杂多变的环境下，组件服务的质量会随时发生波动。为了实现服务系统的主动式运行质量管理，以规避服务系统的性能异常，我们需要能够预测服务系统中组件服务的可靠性。在高度动态的运行环境下，每个服务的QoS（QualityofService）会随时间发生波动。为了支持有效的服务选择及服务系统运行时的软件质量保障，服务系统的可靠性预测必须是一种在线的预测，即我们需要预测的是单个服务在不远的未来的一个时间段内的实时的可靠性。因此，本专利技术所研究的在线可靠性时间序列预测问题不同于以往的服务系统的可靠性预测。本专利技术的预测旨在为服务系统组件服务的选择及质量保障提供有关服务可靠性方面的早期信息，为有效地预防服务系统的错误及质量异常的发生提供支持。服务系统是一种跨平台、松耦合的软件应用。与传统的基于组件的系统不同的是，服务系统中的每一个组件服务通常由第三方提供、部署在网络中，通过网络远程调用。由于组合了多个服务，服务系统可以满足用户更为复杂的需求。然而，服务系统运行在高度动态的环境下（例如网络环境的变化、服务本身质量的波动甚至异常），单个服务的变化可能会产生级联效应，导致整个系统不能工作。为了构建高度可靠的服务系统，并保障服务系统的有效运行，可靠性预测是极其必要的。但是由于组件服务运行环境的复杂多变以及不稳定性，使得组件服务的错误的发生在时间上不具备明显的规律性，这导致传统的在线错误预测方法很难适应面向不确定性错误事件的服务系统在线可靠性预测问题。目前，对服务系统的研究主要集中在系统的构建及优化等问题上，对其可靠性预测的研究则比较少。然而，在服务计算领域，可靠性预测问题作为一个热点问题已有了一定的研究基础，也产生了一些比较具有代表性的研究方法。比如，个性化可靠性预测方法、聚类可靠性预测方法，这两种方法都是以历史的平均可靠性来评估Web服务的性能，反映的是从相对较长的时间段来看，每一个组件服务的总体可靠性。因此，这些方法无法支持服务系统的在线可靠性的预测问题。此外，还有一些面向传统的计算机系统的在线错误预测技术的研究。比如，错误跟踪、征兆检测、已检测的错误报告、未检测的错误审计等，这些方法都需要分析系统内部参数，这些参数对于服务系统来说比较难获取。另外还有一些方法如基于条件概率的贝叶斯预测、非参数方法预测、曲线拟合方法、semi-Markov模型、SVM模型等，只能建模错误的发生在时间上满足泊松分布的错误事件，而实际上，服务系统运行环境复杂多变、组件服务本身具有不稳定性，由此导致错误的发生在时间上并不具有明显的规律。因此，这些方法也不能完全支持本专利技术所提出的在线可靠性预测问题。由此可见，服务系统的在线可靠性预测问题的有效解决，将对服务系统的质量保障问题提供一种有效的解决方案，为复杂服务系统的应用提供一定的支撑。
技术实现思路
本专利技术的主要目的是提供一种深度学习的方法来对服务系统的可靠性进行在线预测。这一方法不仅能解决服务系统的在线可靠性预测问题，同时也使得可靠性预测的结果更为精确，更能适应组件系统复杂多变、不稳定的应用环境。为达到上述目的，本专利技术采用的方法是：一种基于深度学习的服务系统在线可靠性预测方法，包括如下步骤：（1）、通过分析组件服务历史的可靠性、吞吐量、响应时间这三组数据，预测前导时间之后的一个有效时间序列周期内服务的实时可靠性；（2）、通过DBN对历史的时间序列进行特征提取，利用DBN中可见层与隐藏层之间非监督贪婪逐层映射的方法，对输入到网络中的数据进行特征选择，从而使DBN可以用更小的维度对原始数据进行重构；（3）、数据处理完毕之后，选用常用于处理时间序列的长短期记忆神经网络LSTM模型，对可靠性时间序列进行预测；（4）、采用双向LSTM神经网络来对上述模型进行进一步休整。作为本专利技术的一种改进，所述的DBN通常由多层RBM组成，以逐层无监督的方式对模型进行训练，并通过使用有标签的监督方法对DBN中的参数进行调整，进行优化网络结构。作为本专利技术的一种改进，DBN组成具体方法为：首先将可见层的单元向上层的隐藏单元进行对数概率计算，并以当前隐藏层单元的输出值作为上一层隐藏层的输入值，将上下两个隐藏层作为新的RBM，并以相同的方式进行训练；最上层为一个BP神经网络，输入为最上面一个RBM的隐藏层的输出，通过采用BP算法对整个网络参数进一步微调。作为本专利技术的一种改进，所述的LSTM由输入层隐藏层输出层构成，不同于多层前馈神经网络，LSTM除了层间的连接外，同时允许在层内添加连接，层内的连接使得LSTM允许在时间域上进行累积,将LSTM在时间域上进行展开，LSTM的每一个时刻都包含了前若干个时刻的信息。在LSTM向前传播时按时间顺序依次计算，向后传播则是从最后一个时刻的梯度开始逐层向前累积。作为本专利技术的一种改进，所述的双向LSTM使用两个隐藏层分别对历史信息和未来信息进行保存，且共用同一个输出层。有益效果：本专利技术可以有效地实现服务系统可靠性的在线预测，相比于目前已存在的一些预测可靠性的方法，本专利技术更能反映服务系统实时可靠性的动荡无规律的特点。因此，本专利技术可以为基于服务组合的服务系统的质量保障提供有关于系统可靠性方面的早期信息，为有效地预防服务系统的错误及质量异常的发生提供支持。附图说明图1是在线预测技术的有效预测时间问题示意图；图2是深度置信神经网络示意图；图3是长短期记忆神经网络的结构图及其在时间域上的展开形式；图4是双向长短期记忆神经网络示意图。具体实施方式下面结合附图（表）对本专利技术进行详细说明。首先，对于输入数据，本专利技术要解决的可靠性预测问题是一种在线的预测，即我们需要预测的是组件服务在不远的未来的一个时间段内的实时的可靠性。如图1所示，即要预测出（有效预测时间）时间段内的可靠性。其中，为前导时间(leadingtime)，该时间段始于当前时间t，直至该组件服务被调用。一般来说，的长度需要大于构造一个组合系统或替换不理想的组件服务所需要的时间；为有效预测时间(predictionperiod)，该时间段应能涵盖服务被调用后的执行周期。由于每个服务被调用的执行周期有长有短，因此，为了满足大多数用户的需求，的长度定义为大于绝大多数服务被调用的周期；为数据窗口时间(datawindowtime)，表示最近的一个历史时间段。经调研，我们发现，服务系统的可靠性主要受以下几个方面的影响：（1）网络带宽的波动及组件服务对当前吞吐量的承载能力；（2）组件服务服务器的工作状态（空闲内存、CPU负载、磁盘I/O、函数调用等）；（3）组件服务自身质量（内存回收机制、支撑平台稳定性、系统bugs等）；（4）系统调用者的调用规模（如果一个组件服务调用了大量的其它组件服务，那么调用者所表现出来的可靠性也将降低）。由于本专利技术研究的是服务系统的组件级服务的可靠性，所以我们主要关注(1)(2)两个因素。然而，对于服务系统来说，不同本文档来自技高网...

【技术保护点】
1.一种基于深度学习的服务系统在线可靠性预测方法，其特征在于，包括如下步骤：（1）、通过分析组件服务历史的可靠性、吞吐量、响应时间这三组数据，预测前导时间之后的一个有效时间序列周期内服务的实时可靠性；（2）、通过DBN对历史的时间序列进行特征提取，利用DBN中可见层与隐藏层之间非监督贪婪逐层映射的方法，对输入到网络中的数据进行特征选择，从而使DBN可以用更小的维度对原始数据进行重构；（3）、数据处理完毕之后，选用常用于处理时间序列的长短期记忆神经网络LSTM模型，对可靠性时间序列进行预测；（4）、采用双向LSTM神经网络来对上述模型进行进一步休整。

【技术特征摘要】
1.一种基于深度学习的服务系统在线可靠性预测方法，其特征在于，包括如下步骤：（1）、通过分析组件服务历史的可靠性、吞吐量、响应时间这三组数据，预测前导时间之后的一个有效时间序列周期内服务的实时可靠性；（2）、通过DBN对历史的时间序列进行特征提取，利用DBN中可见层与隐藏层之间非监督贪婪逐层映射的方法，对输入到网络中的数据进行特征选择，从而使DBN可以用更小的维度对原始数据进行重构；（3）、数据处理完毕之后，选用常用于处理时间序列的长短期记忆神经网络LSTM模型，对可靠性时间序列进行预测；（4）、采用双向LSTM神经网络来对上述模型进行进一步休整。2.根据权利要求1所述的一种基于深度学习的服务系统在线可靠性预测方法，其特征在于：所述的DBN通常由多层RBM组成，以逐层无监督的方式对模型进行训练，并通过使用有标签的监督方法对DBN中的参数进行调整，进行优化网络结构。3.根据权利要求2所述的一种基于深度学习的服务系统在线可靠性预测方法，其特征在于，DB...

【专利技术属性】
技术研发人员：王红兵，林鑫，
申请(专利权)人：东南大学，
类型：发明
国别省市：江苏,32