一种联邦学习场景下的移动设备算力预测方法和装置制造方法及图纸

本申请实施例公开了一种联邦学习场景下的移动设备算力预测方法和装置，方法包括收集移动设备上的数据信息；将位置信息进行聚类，得到移动设备的热点位置；通过时间信息记录移动设备在热点位置上的停留时间；计算移动设备不同日期下在热点位置的平均网络状态和平均资源状态；将预处理后的数据作为训练数据，输入到循环神经网络模型进行预测，得到预置时间段后移动设备的网络信息和资源状态信息并输出。基于本申请所提供的方式，联邦学习参数服务器能够预测未来阶段内的设备资源状态，有效地提高联邦学习场景下的有效参与设备的比例和减少联邦学习任务的时间成本。和减少联邦学习任务的时间成本。和减少联邦学习任务的时间成本。

【技术实现步骤摘要】
一种联邦学习场景下的移动设备算力预测方法和装置


[0001]本申请涉及人工智能
，尤其涉及一种联邦学习场景下的移动设备算力预测方法和装置。

技术介绍

[0002]联邦学习是目前流行的一种发展前途广泛的分布式机器学习技术，通过让每个参与的设备将全局模型下载到本地，使用本地数据集训练后上传结果，可起到有效的保护每个参与设备本地数据集的隐私作用。
[0003]然而，联邦学习在大规模移动设备训练场景下面临模型训练延迟的巨大挑战。导致延迟过大的原因有以下几个方面：1)联邦学习任务中参与训练的移动设备算力差异大，算力不均衡；2)移动设备的地理位置分布广泛，具有强移动性；3)移动设备网络状态动态变化使得可靠性无法保证。面对这些问题，当前主流的联邦学习主要有两种解决方式：1)不考虑设备状态，冗余式地多选一部分设备参与训练来允许训练过程中某些设备断线的情况；2)考虑候选设备当前时刻的状态，选择当前可用计算与网络资源充足的设备参与每轮训练。然而由于设备时刻处于动态变化中，这两种方式都无法得知设备被选中参与训练后未来是否能顺利完成训练任务。
[0004]因此，在参与设备具有强烈动态性的联邦学习场景下，如何设计一种移动设备算力预测方法，提高联邦学习场景下有效参与设备的比例和减少联邦学习任务的成本，是本领域技术人员亟待解决的技术问题。

技术实现思路

[0005]本申请实施例提供了一种联邦学习场景下的移动设备算力预测方法和装置，使得提高联邦学习场景下有效参与设备的比例和减少联邦学习任务的成本。
[0006]有鉴于此，本申请第一方面提供了一种联邦学习场景下的移动设备算力预测方法，所述方法包括：
[0007]收集移动设备上的数据信息，所述数据信息包括位置信息、时间信息、日期信息、网络信息和资源状态信息；
[0008]将所述位置信息进行聚类，得到所述移动设备的热点位置；
[0009]通过所述时间信息记录所述移动设备在所述热点位置上的停留时间；
[0010]根据所述日期信息、所述停留时间、所述网络信息和所述资源状态信息，计算所述移动设备不同日期下在所述热点位置的平均网络状态和平均资源状态；
[0011]将所述位置信息、所述时间信息、所述日期信息、所述平均网络状态和所述平均资源状态进行预处理，作为训练数据；
[0012]将所述训练数据输入循环神经网络模型进行预测，得到预置时间段后所述移动设备的网络信息和资源状态信息并输出。
[0013]优选的，所述位置信息具体为GPS数据。
[0014]优选的，所述将所述位置信息进行聚类，得到所述移动设备的热点位置具体包括：
[0015]对所述GPS数据进行噪声过滤与采样率调整；
[0016]对过滤和调整后的GPS数据进行聚类，得到所述移动设备的热点位置。
[0017]优选的，所述网络信息具体包括上传网络带宽和下载网络带宽。
[0018]优选的，所述资源状态信息具体为CPU负载率。
[0019]优选的，所述循环神经网络模型具体为长短期记忆模型。
[0020]优选的，所述将所述训练数据输入循环神经网络模型进行预测，得到预置时间段后所述移动设备的网络信息和资源状态信息并输出具体包括：
[0021]将所述训练数据输入长短期记忆模型；
[0022]采用双输出层的模式同时进行预置时间段后的所述热点位置和所述停留时间的预测；
[0023]结合所述热点位置和所述停留时间的预测结果，与所述移动设备的网络信息和所述资源状态信息进行映射，得到预置时间段后所述移动设备的网络信息和资源状态信息并输出。
[0024]本申请第二方面提供一种联邦学习场景下的移动设备算力预测装置，包括：收集模块和状态预测模块；
[0025]所述收集模块具体包括：
[0026]收集单元，用于收集移动设备上的数据信息，所述数据信息包括位置信息、时间信息、日期信息、网络信息和资源状态信息；
[0027]聚类单元，用于将所述位置信息进行聚类，得到所述移动设备的热点位置；
[0028]记录单元，用于通过所述时间信息记录所述移动设备在所述热点位置上的停留时间；
[0029]计算单元，用于根据所述日期信息、所述停留时间、所述网络信息和所述资源状态信息，计算所述移动设备不同日期下在所述热点位置的平均网络状态和平均资源状态；
[0030]所述状态预测模块具体包括：
[0031]预处理单元，用于将所述位置信息、所述时间信息、所述日期信息、所述平均网络状态和所述平均资源状态进行预处理，作为训练数据；
[0032]预测单元，用于将所述训练数据输入循环神经网络模型进行预测，得到预置时间段后所述移动设备的网络信息和资源状态信息并输出。
[0033]优选的，所述循环神经网络模型具体为长短期记忆模型。
[0034]优选的，所述预测单元具体包括：
[0035]输入子单元，用于将所述训练数据输入长短期记忆模型；
[0036]双输出预测子单元，用于采用双输出层的模式同时进行预置时间段后的所述热点位置和所述停留时间的预测；
[0037]输出子单元，用于结合所述热点位置和所述停留时间的预测结果，与所述移动设备的网络信息和所述资源状态信息进行映射，得到预置时间段后所述移动设备的网络信息和资源状态信息并输出。
[0038]从以上技术方案可以看出，本申请实施例具有以下优点：
[0039]本申请实施例中，提供了一种联邦学习场景下的移动设备算力预测方法，包括收
集移动设备上的数据信息，数据信息包括位置信息、时间信息、日期信息、网络信息和资源状态信息；将位置信息进行聚类，得到移动设备的热点位置；通过时间信息记录移动设备在热点位置上的停留时间；根据日期信息、停留时间、网络信息和资源状态信息，计算移动设备不同日期下在热点位置的平均网络状态和平均资源状态；将位置信息、时间信息、日期信息、平均网络状态和平均资源状态进行预处理，作为训练数据；将训练数据输入循环神经网络模型进行预测，得到预置时间段后移动设备的网络信息和资源状态信息并输出。
[0040]基于本申请所提供的移动设备算力预测方式，在联邦学习任务场景中，联邦学习参数服务器能够同时根据设备当前资源状态和预测未来阶段内的设备资源状态做出选择，使得在每一轮的联邦学习任务中选中参数的设备更大概率能够按时完成本地训练并及时上传训练结果，有效地提高联邦学习场景下的有效参与设备的比例和减少联邦学习任务的时间成本。
[0041]与现有主流的冗余式选择方式相比，本申请所提供的移动设备算力预测的方法使得联邦学习任务不再需要选择冗余的候选设备来防止选中设备断连或超时的问题，而是通过预测模型推断出设备未来阶段内的可用状态，从而有效提高所选设备顺利完成训练任务的概率，减少了选择冗余设备带来的资源浪费和额外的训练时长。与只考虑设备当前状态的选择方式相比，本申请所提供的移动设备算力预测的方法可以同时获取设备本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种联邦学习场景下的移动设备算力预测方法，其特征在于，包括：收集移动设备上的数据信息，所述数据信息包括位置信息、时间信息、日期信息、网络信息和资源状态信息；将所述位置信息进行聚类，得到所述移动设备的热点位置；通过所述时间信息记录所述移动设备在所述热点位置上的停留时间；根据所述日期信息、所述停留时间、所述网络信息和所述资源状态信息，计算所述移动设备不同日期下在所述热点位置的平均网络状态和平均资源状态；将所述位置信息、所述时间信息、所述日期信息、所述平均网络状态和所述平均资源状态进行预处理，作为训练数据；将所述训练数据输入循环神经网络模型进行预测，得到预置时间段后所述移动设备的网络信息和资源状态信息并输出。2.根据权利要求1所述的联邦学习场景下的移动设备算力预测方法，其特征在于，所述位置信息具体为GPS数据。3.根据权利要求2所述的联邦学习场景下的移动设备算力预测方法，其特征在于，所述将所述位置信息进行聚类，得到所述移动设备的热点位置具体包括：对所述GPS数据进行噪声过滤与采样率调整；对过滤和调整后的GPS数据进行聚类，得到所述移动设备的热点位置。4.根据权利要求1所述的联邦学习场景下的移动设备算力预测方法，其特征在于，所述网络信息具体包括上传网络带宽和下载网络带宽。5.根据权利要求1所述的联邦学习场景下的移动设备算力预测方法，其特征在于，所述资源状态信息具体为CPU负载率。6.根据权利要求1所述的联邦学习场景下的移动设备算力预测方法，其特征在于，所述循环神经网络模型具体为长短期记忆模型。7.根据权利要求6所述的联邦学习场景下的移动设备算力预测方法，其特征在于，所述将所述训练数据输入循环神经网络模型进行预测，得到预置时间段后所述移动设备的网络信息和资源状态信息并输出具体包括：将所述训练数据输入长短期记忆模型；采用双输出层...

【专利技术属性】
技术研发人员：黄华威，林康颖，郑子彬，
申请(专利权)人：中山大学，
类型：发明
国别省市：