移动边缘计算中基于联邦学习的隐私保护主动缓存方法技术

本发明专利技术公开一种移动边缘计算中移动边缘计算中基于联邦学习的隐私保护主动缓存方法，该算法是将联邦学习技术与协同过滤技术进行混合。引入协同过滤技术，通过修改联邦学习中的训练模型，将用户特征向量和项目特征向量作为嵌入层加入到模型的隐藏层中，通过边缘服务器的本地更新和中心服务器的全局聚合，迭代训练得到预测的用户潜在特征向量和项目潜在特征向量，并结合彩票假设思想，在模型训练的过程中起到对用户数据的隐私保护，同时降低了迭代过程中通信成本和训练速率。本发明专利技术将主动缓存决策问题转换为预测用户潜在特征向量，潜在特征向量代表预测的用户行为偏好。该发明专利技术在用户行为偏好建模的问题上充分考虑了用户数据的隐私保护，能够在考虑隐私保护的条件下在众多缓存方案中以较低的通信成本找到缓存策略，在一定程度上解放终端设备的存储资源，保证了用户使用体验，降低服务器及用户间的通信成本。本。

【技术实现步骤摘要】
移动边缘计算中基于联邦学习的隐私保护主动缓存方法


[0001]本专利技术涉及移动边缘网络计算
，特别是涉及联邦学习和隐私保护的主动缓存方法

技术介绍

[0002]随着5G通信的快速发展，移动设备需要处理的数据流量变得庞大，数据通信需要的时间成本大幅增加，进一步影响了用户交互延迟的增加。移动边缘计算的出现为上述问题提供了一种解决方式，与集中式云计算不同的是，移动边缘计算主要特点在于将计算卸载与内容缓存到网络边缘处，使得在资源有限的移动设备上达到降低延迟和提高计算能力的目的。为了防止用户大量的请求造成了通信链路负担，边缘缓存的方法开始被采用。在一个移动边缘计算网络中，存在多个边缘服务器，以保证覆盖到该区域内所有用户。利用边缘服务器更加靠近终端设备的特性和存储资源，对流行内容进行缓存。
[0003]内容缓存的传统技术如RANDOM(随机选择算法)、LRU(最近最少使用算法)、FIFO(先进先出算法)、LFU(最不经常使用算法)都是根据服务请求的时间进行决策的。考虑到边缘节点有限的存储资源，以及边缘节点覆盖到的终端访问内容的多样性。显而易见，这些传统缓存技术并不适用于该场景。预测流行度最高的内容，并将其提前缓存到附近的边缘节点中，是至关重要的。目前已经有一些基于内容预测的缓存方案，如提出了一种多智能体强化学习的策略，在用户偏好未知且需要观察历史用户请求的情况下，预测内容并进行缓存。由于不同区域的用户的偏好存在差异性，所以对内容流行度的预测，应该注重每一个边缘节点覆盖区域内的本地用户请求内容。
[0004]基于上述方案，用户历史数据在缓存过程中变得透明。与传统的数据中心环境相比，在移动边缘计算网络传输过程中，由于服务提供商存在于网络边缘，会导致更多的网络漏洞出现。考虑用户移动性的情况，终端设备将在多个边缘服务器之间发生切换，每次移动到新的区域内都会重新分析用户数据特征，传输次数的增加导致传输过程中被攻击的概率增加，增大了用户隐私数据泄露的可能性。运用联邦学习的思想结合移动边缘计算环境对用户数据进行本地模型训练，再将本地模型上传到中心服务器进行全局聚合，通过减少数据传输的次数，加强了对用户历史数据的隐私保护。然而，用户总是希望敏感数据仅自己可见，但这显然在基于学习的缓存策略中难以实现。针对这类问题，采取将数据发送到网络边缘前进行处理的方案，从而向边缘服务器隐藏真实的数据信息，以达到隐私保护的目的。
[0005]在本专利技术中，提出了一种结合隐私保护的内容主动缓存方案，基于现有的应用于边缘计算领域的联邦学习算法，结合彩票假设的思想，以实现对用户数据的隐私保护目的。本文随后证明，与现有的主动缓存方案推荐，本文提出的方案具有显著的缓存性能。

技术实现思路

[0006]本专利技术结合彩票假说，每个边缘节点与终端之间只通信处理过的参数，而不是用户的基本数据模型，达到了保护用户隐私的目的。在联邦学习的基础上，构建了一种基于协
作的移动边缘计算架构，提供了局部和全局的流行内容缓存策略，从而降低移动用户的通信成本和请求交互延迟。该方案的缓存策略基于协同过滤算法，对用户相似度进行计算，根据全局模型计算出的权重，最终提供K个流行内容缓存的推荐列表。如图1所示，本专利技术公开的移动边缘计算中基于联邦学习的隐私保护主动缓存方法，包括以下步骤：
[0007]步骤1：构建用户行为矩阵：用户行为分析主要采用矩阵分解技术，推测表示潜在的用户特征向量和项目特征向量，并根据已获得的特征向量初始化用户行为矩阵，数据以三元组的形式保存；
[0008]步骤2：模型设置：根据用户数据的维度(包括用户特征向量和项目特征向量的维度)、嵌入层维度作为多层感知机模型初始化的参数。初始化隐藏层和激活函数，并对用户特征向量和项目特征向量采用嵌入编码及横向拼接；
[0009]步骤3：模型初始化：初始化全局模型，为之后进行的N轮模拟通信做准备。针对每一个边缘服务器，首先下载中心服务器上的全局模型，根据模型参数的张量完成掩码模型始化，作为本地模型。
[0010]步骤4：配置边缘网络：根据终端用户分布存在的空间性，同一区域内的用户可能有相似的浏览习惯，将位置接近的m个用户部署在同一个边缘服务器范围内，以构建协作关系的边缘网络。
[0011]步骤5：隐私保护：使用终端用户的本地数据和创建的剪枝掩码，对初始模型进行修剪，得到彩票假设稀疏子网。根据彩票假设稀疏子网，来解决服务器之间通信时的数据隐私保护问题。
[0012]步骤6：主动缓存预测：通过协同过滤的技术实现缓存内容预测，需要进行两个步骤。首先，根据全局模型训练后获得的用户及项目特征和权重，处理原始数据集，计算出新的压缩矩阵。其次，通过余弦相似度技术计算出用户相似度，寻找相似用户，以达成预测目的。
[0013]本专利技术的有益效果：本专利技术将彩票假设和联邦学习主动缓存技术结合，考虑到边缘节点之间会存在的协作关系，以及在请求服务阶段，涉及用户数据传输过程中的隐私保护问题。给出了对应的缓存解决方案，最终达到提高终端用户的主动缓存效率的目的。在本专利技术中，每个用户采用自己的数据参与和维护本地模型更新，在涉及需要与边缘节点与中心服务器进行通信的阶段，该模型经过彩票假设理论，对模型参数进行掩码处理，在中心服务器聚合的过程中，针对这些经过处理的模型参数完成操作。实验结果证明：根据该方案在公开数据集的表现上，证明了该方案在缓存效率方面优于其他现有方法。
附图说明
[0014]图1为本专利技术协同边缘计算网络系统模型
[0015]图2为本专利技术移动边缘计算中基于联邦学习的隐私保护主动缓存方法流程图
[0016]图3为本专利技术结合彩票假设的联邦学习流程图
[0017]图4为本专利技术配置边缘网络环境和更新模型的伪代码
[0018]图5为本专利技术隐私保护操作和主动缓存的伪代码
具体实施方式
[0019]下面结合附图，本专利技术提出一种移动边缘计算中基于联邦学习的隐私保护主动缓存方法进行详细说明。
[0020]如图2所示，本专利技术中提出移动边缘计算中基于联邦学习的隐私保护主动缓存方法，包括以下步骤：
[0021]步骤1：本专利技术的系统建模如图1所示，具体来说有中心服务器、边缘服务器、终端用户三部分组成。为了能够实现主动缓存的目的，首要需求是对用户的数据信息进行处理。本专利技术将用户和项目的潜在特征向量表示为{x1，x2，...，x
m
}∈R
M
×
N
，{y1，y2，...，y
n
}∈R
M
×
N
，其中R
M
×
N
表示一个M行N列的稀疏矩阵，M表示用户数量，N表示项目数量。R
M
×
N
矩阵是稀疏的原因在于用户与项目的交互范围较小。用户i对项目j的交互作用I
ij
体现为用户i对该项目的评分值，本专利技术将用户行为抽象为由用户向量，项目向量，用户行为构成的三元组表示。用户和本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.移动边缘计算中基于联邦学习的隐私保护主动缓存方法，其特征在于，包括以下步骤：步骤1：构建用户行为矩阵：用户行为分析主要采用矩阵分解技术，推测表示潜在的用户特征向量和项目特征向量，并根据已获得的特征向量初始化用户行为矩阵，数据以三元组的形式保存；步骤2：模型设置：根据用户数据的维度(包括用户特征向量和项目特征向量的维度)、嵌入层维度作为多层感知机模型初始化的参数。初始化隐藏层和激活函数，并对用户特征向量和项目特征向量采用嵌入编码及横向拼接；步骤3：模型初始化：初始化全局模型，为之后进行的N轮模拟通信做准备。针对每一个边缘服务器，首先下载中心服务器上的全局模型，根据模型参数的张量完成掩码模型始化，作为本地模型。步骤4：配置边缘网络：根据终端用户分布存在的空间性，同一区域内的用户可能有相似的浏览习惯，将位置接近的m个用户部署在同一个边缘服务器范围内，以构建协作关系的边缘网络。步骤5：隐私保护：使用终端用户的本地数据和创建的剪枝掩码，对初始模型进行修剪，得到彩票假设稀疏子网。根据彩票假设稀疏子网，来解决服务器之间通信时的数据隐私保护问题。步骤6：主动缓存预测：通过协同过滤的技术实现缓存内容预测，需要进行两个步骤。首先，根据全局模型训练后获得的用户及项目特征和权重，处理原始数据集，计算出新的压缩矩阵。其次，通过余弦相似度技术计算出用户相似度，寻找相似用户，以达成预测目的。2.根据权利要求1所述的移动边缘计算中基于联邦学习的隐私保护主动缓存方法，其特征在于：所述步骤1中，本发明将用户潜在特征向量分别表示为{x1，x2，...，x
m
}∈R
M
×
N
，项目潜在特征向量表示为{y1，y2，...，y
n
}∈R
M
×
N
，其中R
M
×
N
表示一个M行N列的稀疏矩阵，M表示用户数量，N表示项目数量。R
M
×
N
矩阵是稀疏的原因在于用户与项目的交互范围较小。用户和项目之间的预测交互作用PI
ij
用以下公式表示：其中PI
ij
是用户和项目的潜在特征向量的点积，该公式描述了在项目j特征中用户i偏好的预测结果，预测交互值尽可能的接近用户i对项目j的原交互作用I
ij
。本发明将这种用户行为表示为由用户特征向量，项目特征向量，用户行为三个元素构成的三元组，这种数据过滤方式能够很好的适用于隐式反馈进行用户偏好推断的情况。3.根据权利要求1所述的移动边缘计算中基于联邦学习的隐私保护主动缓存方法，其特征在于：所述步骤2中，本发明采用推荐系统中广泛使用的结合多层感知神经网络和协同过滤方案，根据用户特征向量和项目特征向量的维度为该模型添加嵌入层信息，作为模型的初始状态。为了保证训练时的用户隐私保护，除了本地训练模型之外，用户向量并不直接存储在模型中，而选择本地存储。每个用户模型开始训练时，首先在网络传播层输入用户，并寻找与之匹配的项目，随后对用户和项目采用嵌入编码及横向拼接，并经过几个全连接层特征提取，最后通过激活函数Sigmoid(x)＝1/(1+e
‑
x
)，将输出向量映射到{0，1}之间。4.根据权利要求1所述的...

【专利技术属性】
技术研发人员：武笑同，谭文安，
申请(专利权)人：南京航空航天大学，
类型：发明
国别省市：