用于在边缘设备上评估和选择性蒸馏机器学习模型的系统和方法技术方案

本公开提供了用于在边缘设备上评估和选择性地蒸馏机器学习模型的系统和方法。方法可以包括通过计算系统的用户计算设备执行用户计算设备存储的教师机器学习模型以从输入数据产生输出数据；通过计算系统评估用户计算设备和教师机器学习模型中的一个或多个的特性；通过计算系统基于评估确定训练用户计算设备存储的学生机器学习模型；以及通过用户计算设备基于教师机器学习模型训练学生机器学习模型。型。型。

【技术实现步骤摘要】
【国外来华专利技术】用于在边缘设备上评估和选择性蒸馏机器学习模型的系统和方法


[0001]本公开通常涉及用户数据和机器学习。更具体地，本公开涉及用于在边缘设备上评估和选择性地蒸馏机器学习模型的系统和方法。

技术介绍

[0002]用户计算设备，例如智能手机、平板电脑和/或其他移动计算设备继续变得越来越：(a)无处不在；(b)计算能力强；(c)具有大量本地存储；(d)了解有关用户、他们的行为和他们的环境的潜在敏感数据。此外，在移动设备上交付的应用程序也越来越受数据驱动。例如，在许多场景中，从用户计算设备收集的数据用于训练和评估新的机器学习模型、个性化功能以及计算指标以评估产品质量。
[0003]许多这些任务传统上是集中执行的(例如，由服务器计算设备)。特别地，在一些场景中，数据可以从用户计算设备上传到服务器计算设备。服务器计算设备可以在集中收集的数据上训练各种机器学习模型，然后评估训练的模型。训练的模型可以由服务器计算设备使用或者可以下载到用户计算设备以在用户计算设备处使用。此外，在一些场景中，可以从服务器计算设备传递个性化特性。同样，服务器计算设备可以对集中本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种计算机实现的方法，包括：通过计算系统的用户计算设备执行用户计算设备存储的教师机器学习模型以从输入数据产生输出数据；通过计算系统评估用户计算设备和教师机器学习模型中的一个或多个的特性；通过计算系统并基于评估确定训练用户计算设备存储的学生机器学习模型；以及通过用户计算设备基于教师机器学习模型训练学生机器学习模型。2.根据权利要求1所述的计算机实现的方法，其中，所述特性包括与用户计算设备执行教师机器学习模型相关联的模型性能度量。3.根据权利要求1所述的计算机实现的方法，其中，所述特性包括用户计算设备的电池寿命或处理器能力中的至少一个。4.根据权利要求1所述的计算机实现的方法，其中，所述特性包括与用户计算设备的性能相关联的设备性能度量。5.根据权利要求1所述的计算机实现的方法，其中，所述特性包括在执行教师机器学习模型期间由用户计算设备收集的可用训练数据的量。6.根据权利要求1所述的计算机实现的方法，还包括：在通过用户计算设备基于对特性的评估确定训练学生机器学习模型之前，通过用户计算设备生成学生机器学习模型。7.根据权利要求1所述的计算机实现的方法，还包括：在通过用户计算设备基于对特性的评估确定训练学生机器学习模型之前，通过用户计算设备和从不同于用户计算设备的计算设备接收学生机器学习模型。8.根据权利要求1所述的计算机实现的方法，其中，通过用户计算设备训练学生机器学习模型包括基于训练数据训练学生机器学习模型，所述训练数据包括在通过用户计算设备执行教师机器学习模型时用于从教师机器学习模型产生输出数据的输入数据。9.根据权利要求1所述的计算机实现的方法，其中，通过用户计算设备基于教师机器学习模型训练学生机器学习模型包括基于训练数据训练学生机器学习模型，所述训练数据包括在通过用户计算设备执行时教师机器学习模型产生的输出数据。10.根据权利要求1所述的计算机实现的方法，其中，通过用户计算设备基于教师机器学习模型训练学生机器学习模型包括基于用户计算设备收集的用户特定训练示例训练学生机器学习模型。11.根据权利要求1所述的计算机实现的方法，其中，通过用户计算设备基于教师机器学习模型训练学生机器学习模型包括基于对特性的评估选择学生机器学习模型中的一个或多个目标特性。12.根据权利要求11所述的计算机实现的方法，其中，基于教师机器学习模型的学生机器学习模型的目标特性包括学生机器学习模型的目标存储大小、学生机器学习模型的目标推理时间中的一个或多个。13.根据权利要求11所述的计算机实现的方法，其中，学生机...

【专利技术属性】
技术研发人员：M沙里菲，
申请(专利权)人：谷歌有限责任公司，
类型：发明
国别省市：