一种服务质量评估模型的训练方法及装置制造方法及图纸

技术编号:20390102 阅读:41 留言:0更新日期:2019-02-20 02:56
本发明专利技术公开了一种服务质量评估模型的训练方法及装置,其中,该方法包括:按照固定周期采集服务节点的机器性能数据、网络特征数据以及质量监控数据;基于所述机器性能数据和所述网络特征数据确定特征值;基于所述质量监控数据确定目标质量数据;利用所述特征值以及所述目标质量数据;利用所述训练集构建服务质量评估模型。本发明专利技术通过深度神经网络自身的特征工程功能将机器性能数据、网络特征数据等指标与服务质量进行关联,结合反向传播算法进行训练,并拟合其中的非线性关系,能够减少人为进行特征工程的时间消耗,同时提高服务质量评估的准确性。

【技术实现步骤摘要】
一种服务质量评估模型的训练方法及装置
本专利技术涉及CDN
,特别涉及一种服务质量评估模型的训练方法及装置。
技术介绍
CDN的全称是ContentDeliveryNetwork,即内容分发网络,是通过在服务提供方和服务请求方之间的网络各处放置节点服务器所构成的一层智能虚拟网络。为了保障高质量的服务,CDN系统需要实时了解为客户提供的服务质量,及时发现和替换故障节点,避免机器或者网络原因导致服务质量的下降。当前,用来评估CDN系统的服务质量的一种方式,是利用机器性能和网络情况等指标评估服务质量,这种评估方式十分依赖运维人员的经验。而机器性能和网络情况包括大量维度的数据,需要花费大量的时间以及人力成本进行数据预处理,并且人为判断,很容易出现偏差,所以无法快速准确的反映服务质量上的问题。同时如果只凭借人为经验制定出的规则来进行评估,无论是前期的规则制定,还是后期的持续维护,无疑是一项需要耗费巨大精力和时间的工程,并且在具体应用中,无法满足线上机器和网络不断变化的情况。另外一种方式是通过分析服务端的访问日志来评估服务质量,例如计算卡顿率等指标。通过服务端访问日志评估服务质量时需要大量的计算资源去遍历访问日志,导致内部运维的设备与带宽成本非常高;同时这种方式和业务类型耦合程度大,每种业务类型的评估指标差别很大,没办法形成统一的标准,导致内部管理十分困难。
技术实现思路
为了解决现有技术的问题,本专利技术实施例提供了一种服务质量评估模型的训练方法及装置。所述技术方案如下:第一方面,提供了一种服务质量评估模型的训练方法,应用于模型训练节点,所述方法包括:按照固定周期采集服务节点的机器性能数据、网络特征数据以及质量监控数据;基于所述机器性能数据和所述网络特征数据确定特征值;基于所述质量监控数据确定目标质量数据;利用所述特征值以及所述目标质量数据建立训练集;利用所述训练集构建服务质量评估模型。可选的,每个所述服务质量评估模型适用于一种业务类型的质量评估;相应的,按照固定周期采集服务节点的质量监控数据,包括:按照固定周期采集服务节点中一种或多种应用服务对应的质量监控数据,所述一种或多种应用服务属于所述服务质量评估模型所适用的业务类型。可选的,所述机器性能数据包括cpu利用率、内存利用率以及io情况;所述网络特征数据包括ping数据、poll数据以及下载速率。可选的,所述方法还包括:监控节点周期性地向所述服务节点发送检测信号,并得到网络特征数据;相应的,所述按照固定周期采集服务节点的网络特征数据的步骤,包括:按照固定周期从所述监控节点中采集服务节点的网络特征数据。可选的,在基于所述机器性能数据和所述网络特征数据确定特征值的步骤之前,还包括:筛选所述机器性能数据、所述网络特征数据以及所述质量监控数据中的空值和异常值;使用正常值替换所述空值和所述异常值。可选的,筛选所述机器性能数据、所述网络特征数据以及所述质量监控数据中的异常值的步骤,包括:使用聚类算法或者数据标准化后设置置信区间方式,筛选所述机器性能数据、所述网络特征数据以及所述质量监控数据中的空值和异常值;使用正常值替换所述异常值的步骤,包括:使用k-NN方法或者相邻采集周期采集到的数据替换所述异常值。可选的,所述特征值包括所述机器性能数据,各维度机器性能数据的均值、中位数或者方差中的一种或多种,所述网络特征数据,以及各维度网络特征数据的均值、中位数或者方差中的一种或多种。可选的,基于所述质量监控数据确定目标质量数据的步骤,包括:基于所述服务质量评估模型所适用的业务类型确定服务质量的评估指标;利用所述质量监控数据计算所述评估指标的数值,并将所述评估指标的数值确定为目标质量数据。可选的,所述利用训练集构建服务质量评估模型的步骤,还包括:利用所述训练集训练深度神经网络,构建服务质量评估模型,其中,所述深度神经网络为深度残差网络。可选的,所述训练集包括多个训练样本,每个所述训练样本均包括m个时间步长的特征值和一个目标质量数据,其中,m为正整数。可选的,所述利用训练集训练所述深度残差网络,包括:依次将各个所述训练样本的特征值输入所述深度残差网络中,得到质量数据;确定所述质量数据与所述目标质量数据之间的误差;反向传播所述误差,优化模型参数。可选的,所述深度残差网络包括输入层、第一全连接层、卷积层、预设数量的残差块、第二全连接层以及输出层。可选的,利用所述训练集训练所述深度残差网络,包括:将所述训练集的特征值输入所述第一全连接层中进行切分并压缩,输出新特征。可选的,所述卷积层为多通道卷积层。可选的,利用所述训练集训练所述深度残差网络,包括:将所述卷积层输出的数据依次输入预设数量的残差块中进行处理;其中,在每个所述残差块中的数据处理过程,包括:将输入所述残差块的数据依次输入a个通道的1*1卷积层、b个通道的1*3卷积层和c个通道的1*1卷积层,其中a,b,c均为正整数;将从所述c个通道的1*1卷积层输出的数据与输入所述a个通道的1*1卷积层的数据相加;使用Relu函数对相加后的数据进行激励。可选的,利用所述训练集训练所述深度残差网络,还包括:将最后一个所述残差块输出的数据输入至所述第二全连接层中进行非线性变换,得到质量数据。可选的,所述方法还包括:基于所述特征值以及所述目标质量数据建立测试集;利用所述训练集构建服务质量评估模型,包括:利用基于历史数据建立的训练集进行模型训练,并使用所述测试集验证训练之后的模型的拟合效果,如果所述拟合效果不符合预设要求,则调整超参数,并循环该步骤,否则结束该步骤,并得到服务质量评估模型;利用基于实时数据建立的训练集训练所述服务质量评估模型,优化所述服务质量评估模型的参数。可选的,所述服务质量评估模型所建立的输入与输出结果之间的关系为非线性关系。可选的,所述模型训练节点为单个服务器或服务器组。第二方面,提供了一种服务质量评估模型的训练装置,所述装置包括:采集模块,用于按照固定周期采集服务节点的机器性能数据、网络特征数据以及质量监控数据;处理模块,用于基于所述机器性能数据和所述网络特征数据确定特征值;所述处理模块,还用于基于所述质量监控数据确定目标质量数据;所述处理模块,还用于利用所述特征值以及所述目标质量数据建立训练集;训练模块,用于利用所述训练集构建服务质量评估模型。可选的,每个所述服务质量评估模型适用于一种业务类型的质量评估;相应的,所述采集模块,用于:按照固定周期采集服务节点中一种或多种应用服务对应的质量监控数据,所述一种或多种应用服务属于所述服务质量评估模型所适用的业务类型。可选的,所述处理模块,还用于:筛选所述机器性能数据、所述网络特征数据以及所述质量监控数据中的空值和异常值;使用正常值替换所述空值和所述异常值。可选的,所述特征值包括所述机器性能数据,各维度机器性能数据的均值、中位数或者方差中的一种或多种,所述网络特征数据,以及各维度网络特征数据的均值、中位数或者方差中的一种或多种。可选的,所述训练模块,具体用于:利用所述训练集训练深度神经网络,构建服务质量评估模型,其中,所述深度神经网络为深度残差网络。可选的,所述训练集包括多个训练样本,每个所述训练样本均包括m个时间步长的特征值和一个目标质量数据,其中,m为正整数;所述训练模块,用于本文档来自技高网...

【技术保护点】
1.一种服务质量评估模型的训练方法,其特征在于,应用于模型训练节点,所述方法包括:按照固定周期采集服务节点的机器性能数据、网络特征数据以及质量监控数据;基于所述机器性能数据和所述网络特征数据确定特征值;基于所述质量监控数据确定目标质量数据;利用所述特征值以及所述目标质量数据建立训练集;利用所述训练集构建服务质量评估模型。

【技术特征摘要】
1.一种服务质量评估模型的训练方法,其特征在于,应用于模型训练节点,所述方法包括:按照固定周期采集服务节点的机器性能数据、网络特征数据以及质量监控数据;基于所述机器性能数据和所述网络特征数据确定特征值;基于所述质量监控数据确定目标质量数据;利用所述特征值以及所述目标质量数据建立训练集;利用所述训练集构建服务质量评估模型。2.根据权利要求1所述的方法,其特征在于,每个所述服务质量评估模型适用于一种业务类型的质量评估;相应的,按照固定周期采集服务节点的质量监控数据,包括:按照固定周期采集服务节点中一种或多种应用服务对应的质量监控数据,所述一种或多种应用服务属于所述服务质量评估模型所适用的业务类型。3.根据权利要求1所述的方法,其特征在于,所述机器性能数据包括cpu利用率、内存利用率以及io情况;所述网络特征数据包括ping数据、poll数据以及下载速率。4.根据权利要求1所述的方法,其特征在于,所述方法还包括:监控节点周期性地向所述服务节点发送检测信号,并得到网络特征数据;相应的,所述按照固定周期采集服务节点的网络特征数据的步骤,包括:按照固定周期从所述监控节点中采集服务节点的网络特征数据。5.根据权利要求1所述的方法,其特征在于,在基于所述机器性能数据和所述网络特征数据确定特征值的步骤之前,还包括:筛选所述机器性能数据、所述网络特征数据以及所述质量监控数据中的空值和异常值;使用正常值替换所述空值和所述异常值。6.根据权利要求5所述的方法,其特征在于,筛选所述机器性能数据、所述网络特征数据以及所述质量监控数据中的异常值的步骤,包括:使用聚类算法或者数据标准化后设置置信区间方式,筛选所述机器性能数据、所述网络特征数据以及所述质量监控数据中的空值和异常值;使用正常值替换所述异常值的步骤,包括:使用k-NN方法或者相邻采集周期采集到的数据替换所述异常值。7.根据权利要求1所述的方法,其特征在于,所述特征值包括所述机器性能数据,各维度机器性能数据的均值、中位数或者方差中的一种或多种,所述网络特征数据,以及各维度网络特征数据的均值、中位数或者方差中的一种或多种。8.根据权利要求1所述的方法,其特征在于,基于所述质量监控数据确定目标质量数据的步骤,包括:基于所述服务质量评估模型所适用的业务类型确定服务质量的评估指标;利用所述质量监控数据计算所述评估指标的数值,并将所述评估指标的数值确定为目标质量数据。9.根据权利要求1所述的方法,其特征在于,所述利用训练集构建服务质量评估模型的步骤,还包括:利用所述训练集训练深度神经网络,构建服务质量评估模型,其中,所述深度神经网络为深度残差网络。10.根据权利要求9所述的方法,其特征在于,所述训练集包括多个训练样本,每个所述训练样本均包括m个时间步长的特征值和一个目标质量数据,其中,m为正整数。11.根据权利要求10所述的方法,其特征在于,所述利用训练集训练所述深度残差网络,包括:依次将各个所述训练样本的特征值输入所述深度残差网络中,得到质量数据;确定所述质量数据与所述目标质量数据之间的误差;反向传播所述误差,优化模型参数。12.根据权利要求9所述的方法,其特征在于,所述深度残差网络包括输入层、第一全连接层、卷积层、预设数量的残差块、第二全连接层以及输出层。13.根据权利要求12所述的方法,其特征在于,利用所述训练集训练所述深度残差网络,包括:将所述训练集的特征值输入所述第一全连接层中进行切分并压缩,输出新特征。14.根据权利要求12所述的方法,其特征在于,所述卷积层为多通道卷积层。15.根据权利要求12所述的方法,其特征在于,利用所述训练集训练所述深度残差网络,包括:将所述卷积层输出的数据依次输入预设数量的残差块中进行处理;其中,在每个所述残差块中的数据处理过程,包括:将输入所述残差块的数据依次输入a个通道的1*1卷积层、b个通道的1*3卷积层和c个通道的1*1卷积层,其中a,b,c均为正整数;将从所述c个通道的1*1卷积层输出的数据与输入所述a个通道的1*1卷积层的数据相加;使用Relu函数对相加后的数据进行激励。16.根据权利要求12所述的方法,其特征在于,利用所述训练集训练所述深度残差网络,还包括:将最后一个所述残差块输出的数据...

【专利技术属性】
技术研发人员:赵瑞
申请(专利权)人:网宿科技股份有限公司
类型:发明
国别省市:上海,31

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1