【技术实现步骤摘要】
本专利技术涉及服务推荐与深度学习，特别是涉及一种基于注意力机制和多任务学习的时序qos预测方法。
技术介绍
1、随着云计算的快速发展，诸多云计算服务提供商(如谷歌，亚马逊等)和应用开发商(如salesforce、mobileme等)持续在云上发布各种服务以满足用户的需求，云服务的数量不断增长。海量的云服务已经能满足用户的功能需求，用户对服务的要求升级为非功能性需求的满足，其中以保证端到端的服务质量(quantity ofservice，qos)为主。
2、qos可以描述为服务的一组非功能属性(如响应时间、吞吐量等)，这些属性直接反映服务满足用户的非功能性需求的程度，影响着服务提供的总体质量。用户调用云服务获得的qos值是动态变化的。云服务器的负载在不同的时间会发生波动，用户也倾向于在某些时间段进行服务调用，网络状态因各种软硬件因素而频繁变化，这些都导致同一个用户在不同的时刻调用同一个服务所获得的服务质量不同，从而影响用户体验。如何为用户在动态复杂的云环境中推荐质量高的服务、如何在某一服务失效时为用户选择最佳的替代服务是提升用户体验、帮助服务提供商占据市场优势的关键。因此，实现准确的时序qos预测是保障动态服务质量的重要方法。
3、时序qos预测根据用户对云服务的历史调用经验来预测下一时刻的qos值，一般使用协同过滤和基于深度学习的方法。协同过滤方法的基本原理是先找到与目标用户/服务拥有相似体验的用户/服务集合，再聚合集合中的用户/服务特征进行目标qos值预测，主要分为基于记忆的和基于模型的方法，也有不少研
技术实现思路
1、为解决现有技术中存在的上述技术问题，本专利技术提供了一种基于注意力机制和多任务学习的时序qos预测方法。
2、该方法包括：
3、s1：收集qos数据集；
4、s2：设定时间窗口的长度为w，基于qos数据集构建长度为w的序列并输入时序qos预测模型，得到qos属性的预测值；
5、其中，时序qos预测模型的构建过程包括：
6、a、构建多源特征表示层；
7、将时刻k的输入表示为用户id、服务id、时刻id和qos值构成的四元组，并形式化为(ui,sj,tk,qi,j,k)；其中，i为用户id的序号，j为服务id的序号；
8、对用户id和服务id进行独热编码，并通过嵌入计算分别映射为d维的隐藏向量
9、采用time2vec算法将时刻id表征为d维的向量
10、计算时刻k的输入特征ei,j,k，
11、
12、式中，[；]为向量拼接操作；
13、b、构建时序感知层；
14、对作为时间序列的时间窗口，将时刻k至时刻k+w-1的输入特征构成的序列[ei,j,k,ei,j,k+1,…,ei,j,k+w-1]输入时序感知层，有
15、fk＝sigmoid(wf·[hk-1；ei,j,k]+bf)；
16、ik＝sigmoid(wi·[hk-1；ei,j,k]+bi)；
17、ok＝sigmoid(wo·[hk-1；ei,j,k]+bo)；
18、式中，fk、ik、ok分别为时刻k遗忘门、输入门、输出门的计算结果；wf、wi、wo分别为遗忘门、输入门、输出门的权重矩阵，bf、bi、bo分别为遗忘门、输入门、输出门的偏置；hk-1为前一个时刻输出的隐藏状态，h0＝0；
19、通过时刻k的细胞状态ck聚合当前状态和前一个状态，
20、
21、
22、式中，为候选细胞状态；wc、bc分别为细胞状态的权重矩阵和偏置值；
23、计算时刻k的隐藏状态hk，
24、hk＝ok*tanh(ck)，hk∈rd×1；
25、式中，rd×1为一个d维向量；
26、c、构建注意力特化层；
27、拼接待预测时刻tk+w的和并经线性变换后得到查询向量q，
28、
29、式中，wq为权重矩阵，rd×3d表示维度为d×3d的向量；
30、对隐藏状态向量hl进行两次线性变换，分别得到键向量gl和值向量vl，
31、gl＝wg·hl；
32、vl＝wv·hl；
33、式中，wg、wv为权重矩阵，wg∈rd×3d，wv∈rd×3d；
34、其中，k≤l≤k+w-1；
35、通过缩放点积注意力计算当前时刻和每个历史时刻的相似度，
36、
37、式中，αl为查询向量q相对于键向量gl的相似度；为键向量gl的转置；d为隐藏状态向量hl的维度；
38、计算注意力特化表征a，
39、
40、d、构建多任务预测层；
41、为第x种qos属性设置感知模块，进行qos预测，
42、
43、
44、…
45、
46、式中，p为预测层中感知模块的层数；和分别为第p层的权重矩阵和偏置；为第x种qos属性的预测值。
47、优选地，收集qos数据集包括：
48、选择若干用户和若干服务，记录每次调用时的qos值；
49、删除为空和不在预设范围内的异常数据，并保存qos数据集。
50、优选的设置w＝32，d＝128；
51、时序感知层的lstm为2层，第一层的神经元结构为386×128，第二层的神经元结构为128×128；
52、注意力特化层的表征a的维度为128维；
53、设置单个感知模块的全连接层数量为2，第一层的神经元结构为128×128，第二层的神经元结构为128×1。
54、进一步地，时序qos预测模型的训练方法包括：预测训练数据对应的qos值，通过mae函数计算预测值相对于观测值的损失值，再通过反向传播算法计算时序qos预测模型的参数的梯度，并通过adamw优化器实现梯度下降算法，以优化所述参数；
55、循环上述操作，直到损失值达到平稳状态，或达到最大迭代轮次。
本文档来自技高网...
【技术保护点】
1.一种基于注意力机制和多任务学习的时序QoS预测方法，其特征在于，包括：
2.如权利要求1所述的一种基于注意力机制和多任务学习的时序QoS预测方法，其特征在于，所述收集QoS数据集，包括：
3.如权利要求1所述的一种基于注意力机制和多任务学习的时序QoS预测方法，其特征在于，
4.如权利要求1所述的一种基于注意力机制和多任务学习的时序QoS预测方法，其特征在于，所述时序QoS预测模型的训练方法包括：
5.如权利要求4所述的一种基于注意力机制和多任务学习的时序QoS预测方法，其特征在于，还包括：
【技术特征摘要】
1.一种基于注意力机制和多任务学习的时序qos预测方法，其特征在于，包括：
2.如权利要求1所述的一种基于注意力机制和多任务学习的时序qos预测方法，其特征在于，所述收集qos数据集，包括：
3.如权利要求1所述的一种基于注意力机制和多任务学习的时序...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。