模型优化方法、装置及系统制造方法及图纸

本说明书实施例提供模型优化方法、装置及系统，其中模型优化方法应用于客户端，包括：获取服务器下发的全局模型参数，根据全局模型参数构建业务预测模型，其中，业务预测模型用于处理多媒体数据处理任务；确定业务预测模型对应的基准数据表征和样本分布信息，并在本地样本集中选择所述样本分布信息匹配的本地样本数据组成初始样本集；根据初始样本集对应的样本数据表征和所述基准数据表征确定样本分布差异信息，根据所述样本分布差异信息计算样本分布约束条件；按照所述样本分布约束条件对所述初始样本集进行调整，获得目标样本集；利用所述目标样本集对所述业务预测模型进行优化，并将优化后的业务预测模型的模型参数反馈至所述服务器。

【技术实现步骤摘要】

本说明书实施例涉及机器学习，特别涉及模型优化方法、装置及系统。

技术介绍

1、随着计算机和互联网技术的发展，联邦学习在越来越多的场景中得以应用。联邦学习可以很好的解决数据隔离本地，但是需要通过联合建模提升多方知识利用和模型的性能表现的新机器学习范式。联邦学习关注的对分布式的数据进行建模，为了在不泄漏隐私的同时促进模型对多方数据的信息的利用，提升建模的能力。non-iid（non-independentand identical distributed, non-iid）和分布式的数据，让各方数据建模具有个性化的表现，这种个性化会在联合建模时产生级联影响。并且，数据分布在多个非独立同分布数据源，导致模型将不同数据映射到有限的表征空间，高维表征向量变得高度相关并集中分布在一个低维子空间的情况，而无法充分利用整个表征空间，这样导致信息丢失并阻碍模型捕获数据的全部复杂性。此外，联邦学习中，多个本地模型和全局模型协同建模，进一步发生表征坍塌耦合问题，产生本地到全局的级联效应，不仅影响自身本地模型，还影响全局模型和参与联邦学习过程的其他本地模型，导致性能不佳并阻碍学习本文档来自技高网...

【技术保护点】

1.一种模型优化方法，其特征在于，应用于客户端，包括：

2.根据权利要求1所述的模型优化方法，其特征在于，所述获取服务器下发的全局模型参数，根据所述全局模型参数构建业务预测模型，包括：

3.根据权利要求1所述的模型优化方法，其特征在于，所述在本地样本集中选择所述样本分布信息匹配的本地样本数据组成初始样本集步骤执行之前，还包括：

4.根据权利要求1所述的模型优化方法，其特征在于，所述根据所述初始样本集对应的样本数据表征和所述基准数据表征确定样本分布差异信息，根据所述样本分布差异信息计算样本分布约束条件，包括：

5.根据权利要求1所述的模型优化...

【技术特征摘要】

1.一种模型优化方法，其特征在于，应用于客户端，包括：

2.根据权利要求1所述的模型优化方法，其特征在于，所述获取服务器下发的全局模型参数，根据所述全局模型参数构建业务预测模型，包括：

3.根据权利要求1所述的模型优化方法，其特征在于，所述在本地样本集中选择所述样本分布信息匹配的本地样本数据组成初始样本集步骤执行之前，还包括：

4.根据权利要求1所述的模型优化方法，其特征在于，所述根据所述初始样本集对应的样本数据表征和所述基准数据表征确定样本分布差异信息，根据所述样本分布差异信息计算样本分布约束条件，包括：

5.根据权利要求1所述的模型优化方法，其特征在于，所述利...

【专利技术属性】
技术研发人员：陈超超，郑小林，廖馨婷，
申请(专利权)人：浙江大学，
类型：发明
国别省市：