【技术实现步骤摘要】
用于提高联邦学习性能的自适应模型修剪
[0001]说明性实施例总体上涉及用于提高联邦学习性能的自适应模型修剪。
技术介绍
[0002]车载车辆软件在范围和功能性上不断改进。从历史上看,该软件是通过版本控制来构建和开发的,其中译码器改进软件的未来版本并部署更新版本。然而,机器学习允许软件自行改进,而无需译码器实际改变软件的操作方式。
[0003]机器学习模型通常利用从数千个来源收集的大型数据集。该训练数据可以用于训练中心模型,所述中心模型可以作为改进的模型重新分发给客户端。在一些实例中,可能存在能够独立学习的部署模型,即,它们开始从基本部署模型分支。这为联邦学习提供了机会,从而允许使用经不同训练的模型的权重和偏差来改进集中式模型。这避免了传递由所有实体观察到的所有数据的开销,而是基本上允许各个实体传递其模型已经“学习”的内容作为用于更新全局模型的信息。
技术实现思路
[0004]在第一说明性实施例中,一种系统包括处理器,所述处理器被配置为从多辆车辆接收与全局机器学习模型的经不同训练的版本相关的多个数据集 ...
【技术保护点】
【技术特征摘要】
1.一种系统,其包括:处理器,所述处理器被配置为:从多辆车辆接收与全局机器学习模型的经不同训练的版本相关的多个数据集,所述数据集至少包括在给定车辆上执行的所述全局模型的当前版本所经历的当前局部损失值,针对所述给定车辆,已接收到所述多个数据集中的一个数据集;确定所述多个数据集中的每个接收到的数据集的损失减少,所述损失减少表示自从与所述给定车辆相对应的先前接收到的数据集中包括的先前本地损失值以来的损失减少;确定所述多个数据集中的每个接收到的数据集的所述损失减少是否超过预定义阈值截止值;以及使用联邦学习并基于所述多个数据集中所述损失减少超过所述预定义截止值的所述数据集来训练所述全局模型。2.如权利要求1所述的系统,其中所述损失减少是多个报告循环内的平均损失减少,其中报告循环表示针对所述给定车辆接收的所述数据集的迭代,所述迭代包括所述当前局部损失值。3.如权利要求1所述的系统,其中所述处理器还被配置为:针对所述多辆车辆中所述损失减少不超过所述预定义截止值的每辆车辆设置掩模向量;以及其中所述训练是基于由所述掩模向量修改的所述接收到的多个数据集,使得当训练所述全局模型时,来自所述损失减少不超过所述预定义截止值的每辆车辆的数据集被屏蔽输出。4.如权利要求1所述的系统,其中所述处理器被配置为在训练所述全局模型之前等待所有所述多辆车辆完成自从前一报告循环以来的至少一个报告循环,其中报告循环表示针对所述给定车辆接收的所述数据集的迭代,所述迭代包括所述当前局部损失值。5.如权利要求1所述的系统,其中所述处理器被配置为在训练所述全局模型之前等待所述多辆车辆中的预定义总数或百分比的车辆中的至少一者完成自从前一报告循环以来的至少一个报告循环,其中报告循环表示针对所述给定车辆接收的所述数据集的迭代,所述迭代包括所述当前局部损失值。6.如权利要求5所述的系统,其中所述处理器还被配置为:确定所述损失减少超过所述预定义阈值截止值的车辆的总数或百分比中的至少一者是否超过表示足够训练数据的预定义值;以及响应于所述总数或百分比中的至少一者不超过所述预定义值,等待从所述多辆车辆中的附加数量或附加百分比的车辆接收到数据集。7.如权利要求1所述的系统,其中所述处理器还被配置为:确定所述损失减少超过所述预定义阈值截止值的车辆的总数或百分比中的至少一者是否超过表示足够训练数据的预定义值;以及响应于所述总数或百分比中的至少一者不超过所述预定义值,将所述阈值截止值递减以在所述训练中包括在将所述截止值递减之前所述损失减少不超过所述阈值截止值的附加车辆的数据集。8.一种方法,其包括:
从多辆车辆接收与全局机器学习模型的经不同训练的版本相关的多个数据集,所述数据集至少包括在给定车辆上执行的所述全局模型的当前版本所经历的当前局部损失值,针对所述给定车辆,已接收到所述多个数据集中的一个数据集;确定所述多个数据集中的每个接收到的数据集的损失减少,所述损失减少...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。