一种移动边缘分布式机器学习系统和方法技术方案

本发明专利技术公开了一种移动边缘分布式机器学习系统和方法，方法中，终端设备间利用D2D通信技术进行数据样本卸载，通过调节参与分布式机器学习的终端设备存储的数据样本数量，使得各终端设备的数据样本量与其计算能力相匹配，平衡了各终端设备的计算和通信所消耗的时间，解决了不同终端设备计算和通信能力差异大带来分布式机器学习模型训练效率低下的问题，同时能够降低数据非独立同分布特性对模型准确度的影响。

A mobile edge distributed machine learning system and method

【技术实现步骤摘要】
一种移动边缘分布式机器学习系统和方法
本专利技术涉及边缘智能应用的
，尤其涉及到一种移动边缘分布式机器学习系统和方法。
技术介绍
随着物联网和人工智能的快速发展，网络边缘智能化已是一个必然的发展趋势。分布式机器学习(distributedmachinelearning)是其中的一个重要研究方向，其有效结合人工智能(artificialintelligence,AI)和移动边缘计算(mobileedgecomputing,MEC)技术，在网络边缘，通过联合边缘服务器和海量的计算和通信能力有限的终端设备实现分布式机器学习。分布式机器学习可分为同步和异步两种训练模式，由于异步训练模式存在很严重的梯度失效问题，因此许多研究工作基于同步训练模式的分布式机器学习进行。本专利技术亦基于同步训练模式的分布式机器学习进行设计，下文若无说明，分布式机器学习均指代同步训练模式的分布式机器学习。先对分布式机器学习的基本模型与实施步骤进行介绍。假设有一个边缘服务器和K个终端设备参与分布式机器学习。设终端设备k存有的数据样本集为其数量为Dk。对于任意一条数据本文档来自技高网...

【技术保护点】
1.一种移动边缘分布式机器学习系统，包括边缘服务器和多个终端设备，其特征在于，所述边缘服务器包括中心决策模块(1)、全局模型参数聚合模块(2)以及服务器通信模块(3)；服务器通信模块(3)包括响应信息接收子模块(3-1)、请求信息及决策信息发送子模块(3-2)、本地模型参数接收子模块(3-3)和全局模型参数发送子模块(3-4)；/n所述多个终端设备均包括中心控制模块(4)、本地模型参数更新模块(5)、数据样本存储模块(6)以及终端通信模块(7)；终端通信模块(7)包括请求信息及决策信息接收子模块(7-1)、响应信息发送子模块(7-2)、全局模型参数接收子模块(7-3)、本地模型参数发送子模块(...

【技术特征摘要】
1.一种移动边缘分布式机器学习系统，包括边缘服务器和多个终端设备，其特征在于，所述边缘服务器包括中心决策模块(1)、全局模型参数聚合模块(2)以及服务器通信模块(3)；服务器通信模块(3)包括响应信息接收子模块(3-1)、请求信息及决策信息发送子模块(3-2)、本地模型参数接收子模块(3-3)和全局模型参数发送子模块(3-4)；
所述多个终端设备均包括中心控制模块(4)、本地模型参数更新模块(5)、数据样本存储模块(6)以及终端通信模块(7)；终端通信模块(7)包括请求信息及决策信息接收子模块(7-1)、响应信息发送子模块(7-2)、全局模型参数接收子模块(7-3)、本地模型参数发送子模块(7-4)、D2D通信接收子模块(7-5)和D2D通信发送子模块(7-6)；
其中，所述中心决策模块(1)用于控制服务器通信模块(3)中的请求信息及决策信息发送子模块(3-2)向终端设备发出获取参与分布式机器学习的终端设备的相关计算与通信参数的请求，并基于接收到的数据进行系统优化计算，得到各终端设备的数据样本卸载量数据和通信资源分配数据；
所述响应信息接收子模块(3-1)用于接收参与分布式机器学习的终端设备的相关计算与通信参数，并将接收到的数据发送到中心决策模块(1)；
所述决策信息发送子模块(3-2)用于将获取参与分布式机器学习的终端设备的相关计算与通信参数的请求以及各终端设备的数据样本卸载量数据和通信资源分配数据发送给各参与分布式机器学习的终端设备；
所述本地模型参数接收子模块(3-3)用于接收终端设备发送过来的本地模型参数，并将接收到的本地模型参数发送给全局模型参数聚合模块(2)；
所述全局模型参数聚合模块(2)用于对各终端设备的本地模型参数进行加权平均操作，得到全局模型参数；
所述全局模型参数发送子模块(3-4)用于将通过全局模型参数聚合模块(2)得到的全局模型参数发送给各终端设备；
所述请求信息及决策信息接收子模块(7-1)用于接收边缘服务器发送过来的请求信息和决策信息，并将接收到的请求信息和决策信息发送给中心控制模块(4)；
所述中心控制模块(4)用于根据请求信息将相关计算与通信参数的响应信息传送到响应信息发送子模块(7-2)，以及依据决策信息控制数据样本存储模块(6)将数据样本传送到D2D通信发送子模块(7-6)；
所述D2D通信接收子模块(7-5)用于接收其他终端设备发送过来的卸载的数据样本，并将接收到的卸载的数据样本发送给数据样本存储模块(6)；
所述全局模型参数接收子模块(7-3)用于接收边缘服务器发送的全局模型参数，并将接收到的全局模型参数发送给本地模型参数更新模块(5)；
所述本地模型参数更新模块(5)用于根据数据样本进行本地模型参数更新，得到其更新的本地模型参数；
所述本地模型参数发送子模块(7-4)用于将本地模型参数...

【专利技术属性】
技术研发人员：许杰，蔡晓然，莫小鹏，陈俊阳，
申请(专利权)人：广东工业大学，
类型：发明
国别省市：广东;44