当前位置: 首页 > 专利查询>中山大学专利>正文

基于在线伪标签半监督学习与个性化联邦学习的室内定位方法技术

技术编号:34520670 阅读:13 留言:0更新日期:2022-08-13 21:09
本发明专利技术涉及室内定位技术领域,公开了一种基于在线伪标签半监督学习与个性化联邦学习的室内定位方法,包括以下步骤:S1.用户构建本地数据集,服务器构造云端数据集;S2.服务器设置有机器学习模型,并且服务器分别给各个用户发放机器学习模型,将位于用户端的机器学习模型称为本地模型,将位于用户端的机器学习模型称为本地模型;S3.用户通过本地数据集中带有标签的数据训练本地模型,得到初始本地模型;S4.服务器通过云端数据集中带有标签的数据训练全局模型,得到初始全局模型;S5.通过联邦学习得到训练后的本地模型和更新后的全局模型;S6,用户根据训练后的本地模型和更新后的全局模型,通过混合专家模型进行个性化定位。本发明专利技术解决了现有技术中忽视本地数据高度动态和定位需求差异,无法进行个性化定位的问题,并具有高效率,高精度的特点。高精度的特点。高精度的特点。

【技术实现步骤摘要】
基于在线伪标签半监督学习与个性化联邦学习的室内定位方法


[0001]本专利技术涉及联邦学习
,更具体的,涉及一种基于在线伪标签半监督学习与个性化联邦学习的室内定位方法。

技术介绍

[0002]随着信息通信
不断发展,通信感知一体化技术作为6G的代表应用与方案得到了广泛的关注,业务的信息处理流程呈现出无线通信与无线感知趋于交叠的趋势。基于环境中泛在的无线通信信号,无线指纹定位、无线人体行为识别等无线感知应用得到了蓬勃发展。同时又得益于以深度学习为代表的人工智能算法的发展,能够被有效建模为监督学习任务的无线室内指纹定位技术可以通过利用无线信号的特征和位置坐标之间的指纹匹配特性,训练深度学习模型从而高效准确地完成定位任务。
[0003]然而,人工智能赋能的无线室内定位技术面临着进一步发展的瓶颈。对以深度学习为代表的人工智能技术而言,训练具有高识别准确率的高性能模型需要高密度的计算资源和海量的标注数据。因此目前基于深度学习的无线定位技术一般需要部署在具有强大计算能力的云计算数据中心,以及依赖服务提供平台雇佣工人离线采集和标注无线信号数据。随着目前移动终端设备的高度普及和发展,边缘智能技术与无线感知技术的有机结合已经引起了学术界和工业界的高度关注。以联邦学习为代表的边缘智能技术提出允许将深度学习模型部署在终端设备上,进一步又可以将计算和感知信号的任务共同下沉到边缘侧和端侧。联邦学习这一解决人工智能落地的“最后一公里”的技术能够有效促进无线定位技术的进一步发展。
[0004]针对这一问题,现有一种基于联邦学习的建筑物楼层室内定位方法,利用由一个边缘服务器以及多个移动客户端共同参与的分布式深度学习技术来构建射频指纹定位模型。服务器首先进行模型初始化并利用其少量指纹数据进行集中式预训练,各个客户端使用其本地指纹数据进行进一步的模型训练,随后将训练后的本地模型传输至服务器,服务器对从各个客户端收集来的本地模型进行聚合,得到用于射频指纹定位的全局模型
[0005]然而现有技术存在忽视本地数据高度动态和定位需求差异,无法进行个性化定位的问题,因此如何专利技术一种能够涵盖本地数据高度动态和定位需求差异,可以进行个性化定位的室内定位方案,是本
亟需解决的问题。

技术实现思路

[0006]本专利技术为了解决现有技术中忽视本地数据高度动态和定位需求差异,无法进行个性化定位的问题,提供了一种基于在线伪标签半监督学习与个性化联邦学习的室内定位方法,其具有高效率,高精度的特点。
[0007]为实现上述本专利技术目的,采用的技术方案如下:
[0008]一种基于在线伪标签半监督学习与个性化联邦学习的室内定位方法,包括以下步
骤:
[0009]S1.用户构建本地数据集,服务器构造云端数据集;
[0010]S2.服务器设置有机器学习模型,并且服务器分别给各个用户发放机器学习模型,将位于用户端的机器学习模型称为本地模型,将位于用户端的机器学习模型称为本地模型;
[0011]S3.用户通过本地数据集中带有标签的数据训练本地模型,得到初始本地模型;
[0012]S4.服务器通过云端数据集中带有标签的数据训练全局模型,得到初始全局模型;
[0013]S5.通过联邦学习得到训练后的本地模型和更新后的全局模型;
[0014]S6.用户根据训练后的本地模型和更新后的全局模型,通过混合专家模型进行个性化定位。
[0015]优化的,用户构建本地数据集,具体为:假设有K个用户,在待检测区域内布置K个无线路由器,无线路由发射并接收信号,将无线路由得到的接收信号强度和通过惯导技术得到位置标签作为输入,构建K个接收信号强度向量xi=[r
i1
,r
i2
,

,r
ik
],同时记录位置坐标向量yi,其中分量xi和yi分别为室内平面图横坐标和纵坐标,将信号强度向量和位置坐标向量整合为本地数据集,将接收信号强度称为RSS。
[0016]进一步的,所述的机器学习模型为具有固定超参数的多层感知机模型,将具有固定超参数的多层感知机模型称为MLP模型。
[0017]更进一步的,通过联邦学习得到训练后的本地模型和更新后的全局模型,具体步骤为:
[0018]S401.将本地数据集视为无标注,通过对初始本地模型和初始全局模型进行在线伪标签半监督学习得到伪标签,并通过伪标签标注本地数据集;
[0019]S402.结合伪标签标注后的本地数据集,通过知识蒸馏技术进一步训练初始本地模型,得到训练后的本地模型;
[0020]S403.服务器将训练后的本地模型进行联邦学习得到本地模型权重的平均值,并根据本地模型权重的平均值更新全局模型。
[0021]更进一步的,将本地数据集视为无标注,通过对初始本地模型和初始全局模型进行在线伪标签半监督学习得到伪标签,并通过伪标签标注本地数据集,具体步骤为:
[0022]K1.通过初始全局模型和初始本地模型对本地数据集中的RSS数据进行标注,获得初始全局模型估计的伪标签和初始本地模型估计的伪标签:
[0023][0024][0025]其中,为初始全局模型估计的伪标签,为初始本地模型估计的伪标签;M为MLP模型,为第t轮用户k的RSS数据的特征、为第t轮用户k的全局模型的权重参数、ω
k
为第k个用户的本地模型权重;
[0026]K2.通过将和加权和得到最终伪标签
[0027][0028]其中为平衡两个伪标签估计值的参数;
[0029]K3.通过下式自适应调整
[0030][0031]其中sim函数为欧氏距离的倒数;
[0032]K4.若大于设定的阈值则使用全局模型的伪标签对本地数据集进行标注,否则使用本地模型的伪标签对本地数据进行标注。
[0033]更进一步的,结合伪标签标注后的本地数据集,通过知识蒸馏技术进一步训练初始本地模型,得到训练后的本地模型,具体步骤为:
[0034]A1.将初始全局模型作为教师网络,初始本地模型作为学生网络,修改本地模型训练使用的损失函数;
[0035][0036]其中,为本地模型训练使用的联邦知识蒸馏损失函数,β为知识蒸馏因子,y为位置标签,Mk(x)为本地模型输出的位置预测,MG(x)是全局模型输出的位置预测;
[0037]A2.将本地模型训练使用的函数进一步修改,得到修改后的本地模型训练使用的函数:
[0038][0039]其中,为正则化项损失;
[0040]A3.通过得到的修改后的目标函数结合标注的本地数据集训练本地模型。
[0041]更进一步的,将目标函数进一步修改,具体为:通过公式
[0042][0043]得到并将
[0044][0045]中的||M
k
(x)

M
G
(x)||修改为
[0046]得到修改后的目标函数:
[00本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于在线伪标签半监督学习与个性化联邦学习的室内定位方法,其特征在于:包括以下步骤:S1.用户构建本地数据集,服务器构造云端数据集;S2.服务器设置有机器学习模型,并且服务器分别给各个用户发放机器学习模型,将位于用户端的机器学习模型称为本地模型,将位于用户端的机器学习模型称为本地模型;S3.用户通过本地数据集中带有标签的数据训练本地模型,得到初始本地模型;S4.服务器通过云端数据集中带有标签的数据训练全局模型,得到初始全局模型;S5.通过联邦学习得到训练后的本地模型和更新后的全局模型;S6.用户根据训练后的本地模型和更新后的全局模型,通过混合专家模型进行个性化定位。2.根据权利要求1所述的基于在线伪标签半监督学习与个性化联邦学习的室内定位方法,其特征在于;用户构建本地数据集,具体为:用户通过接收K个无线路由器发射的信号强度构建K个接收信号强度向量xi=[r
i1
,r
i2
,

,r
ik
],同时通过记录位置坐标向量yi,将信号强度向量和位置坐标向量整合为本地数据集。3.根据权利要求1所述的基于在线伪标签半监督学习与个性化联邦学习的室内定位方法,其特征在于:所述的机器学习模型为具有固定超参数的多层感知机模型,将具有固定超参数的多层感知机模型称为MLP模型。4.根据权利要求2所述的基于在线伪标签半监督学习与个性化联邦学习的室内定位方法,其特征在于;通过联邦学习得到训练后的本地模型和更新后的全局模型,具体步骤为:S401.将本地数据集视为无标注,通过对初始本地模型和初始全局模型进行在线伪标签半监督学习得到伪标签,并通过伪标签标注本地数据集;S402.结合伪标签标注后的本地数据集,通过知识蒸馏技术进一步训练初始本地模型,得到训练后的本地模型;S403.服务器将训练后的本地模型进行联邦学习得到本地模型权重的平均值,并根据本地模型权重的平均值更新全局模型。5.根据权利要求4所述的基于在线伪标签半监督学习与个性化联邦学习的室内定位方法,其特征在于:将本地数据集视为无标注,通过对初始本地模型和初始全局模型进行在线伪标签半监督学习得到伪标签,并通过伪标签标注本地数据集,具体步骤为:K1.通过初始全局模型和初始本地模型对本地数据集中的RSS数据进行标注,获得初始全局模型估计的伪标签和初始本地模型估计的伪标签:全局模型估计的伪标签和初始本地模型估计的伪标签:其中,为初始全局模型估计的伪标签,为初始本地模型估计的伪标签;M为MLP模型,为第t轮用户k的RSS数据的特征、为第t轮用户k的全局模型的权重参数、ω
k
为第k个用户的本地模型权重;K2.通过将和加权和得到最终伪标签
其中为平衡两个伪标签估计值的参数;K3.通过下式自适应调整K3.通过下式自适应调整其中sim函数为欧氏距离的倒数;K4.若大于设定的阈值则使用全局模型的伪标签对本地数据集进行标注,否则使用本地模型的伪标签对本地数据进行标注。6.根据权利要求4所述的基于区块链的安全数据共享以及价值转移方法,其特征在于:结合伪标签标注后的本地数据集,通过知识蒸馏技术进一步训练初始本地模型,得到训练后的本地模型,具体步骤...

【专利技术属性】
技术研发人员:伍哲舜吴晓萍龙云亮
申请(专利权)人:中山大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1