一种分布式模型训练方法、装置、存储介质及计算机设备制造方法及图纸

本申请实施例公开了一种分布式模型训练方法、装置、存储介质及计算机设备；本申请与人工智能的机器学习领域相关；本申请实施例获取目标模型的模型结构和样本数据；向每个图形处理器发送模型消息，触发每个图形处理器对目标模型进行训练；基于样本标签的预设样本数量和图形处理器的数量，对样本数据进行多次数据采样，得到多组训练样本数据；将训练样本数据发送至其对应的图形处理器，触发图形处理器基于训练样本数据对目标模型进行训练，并在图形处理器间对目标模型的训练参数进行更新，以得到训练后的目标模型的更新后训练参数；当更新后训练参数满足预设训练终止条件时，输出训练后的目标模型。本申请可以有效提升模型训练的速率。率。率。

【技术实现步骤摘要】
一种分布式模型训练方法、装置、存储介质及计算机设备


[0001]本申请涉及人工智能领域，具体涉及一种分布式模型训练方法、装置、存储介质及计算机设备。

技术介绍

[0002]随着人工智能科学的高速发展，在日常生活中可以通过神经网络模型解决越来越多的问题，在应用神经网络模型解决问题之前，对神经网络模型进行训练是一个关键步骤，现有技术中，模型训练通常需要大量的样本数据，在训练之前将样本数据传输至训练机器，并通过训练机器进行分布式数据采样，将采样得到的训练样本数据输入神经网络模型进行训练，从而对神经网络模型的网络参数进行更新。
[0003]在对现有技术的研究和实践过程中，本申请的专利技术人发现，样本数据的形式多样，当样本数据为图像时，通过现有技术得到的训练样本数据无法与神经网络模型训练的需求数据匹配度不高，使得整个模型训练的过程耗时较长。

技术实现思路

[0004]本申请实施例提供一种分布式模型训练方法、装置、存储介质及计算机设备，可以有效提升模型训练的速率。
[0005]本申请实施例提供一种分布式模型训练方法，包括：<本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种分布式模型训练方法，其特征在于，包括：获取目标模型的模型结构，以及获取样本数据，所述样本数据包括样本标签、以及样本标签对应的多张样本图像；向每个图形处理器发送模型消息，触发每个图形处理器对所述目标模型进行训练，所述模型消息包括所述目标模型的模型结构；基于样本标签的预设样本数量和图形处理器的数量，对所述样本数据进行多次数据采样，得到多组训练样本数据，其中，一个图形处理器对应一组训练样本数据；将训练样本数据发送至其对应的图形处理器，触发图形处理器基于训练样本数据对目标模型进行训练，并在图形处理器间对目标模型的训练参数进行更新，以得到训练后的目标模型的更新后训练参数；当所述更新后训练参数满足预设训练终止条件时，输出训练后的目标模型。2.根据权利要求1所述的方法，所述基于样本标签的预设样本数量和图形处理器的数量，对所述样本数据进行多次数据采样，得到多组训练样本数据，包括：根据图形处理器的数量，确定对所述样本数据进行数据采样的目标采样次数；基于样本标签的预设样本数量和所述目标采样次数，对所述样本数据进行数据采样，得到多组训练样本数据。3.根据权利要求2所述的方法，所述基于样本标签的预设样本数量和所述目标采样次数，对所述样本数据进行数据采样，得到多组训练样本数据，包括：确定用于数据采样的采样函数；根据样本标签的预设样本数量，设置所述采样函数的采样参数；基于设置后的采样函数和所述目标采样次数，对所述样本数据进行数据采样，得到多组训练样本数据。4.根据权利要求3所述的方法，所述基于设置后的采样函数和所述目标采样次数，对所述样本数据进行数据采样，得到训练样本数据，包括：循环调用设置后的采样函数对所述样本数据进行数据采样，得到训练样本数据，并更新累积采样次数的步骤，直至所述累积采样次数与所述目标采样次数相匹配。5.根据权利要求3所述的方法，所述预设样本数量包括预设第一数量和预设第二数量，所述根据样本标签的预设样本数量，设置所述采样函数的采样参数，包括：根据样本标签的预设第一数量和预设第二数量，确定所述样本标签的目标样本数量；基于所述目标样本数量，设置所述采样函数的采样参数。6.根据权利要求1所述的方法，其特征在于，所述获取样本数据，包括：接收数据存储系统发送的样本数据包；对所述样本数据包进行解析，得到样本数据。7.根据权利要求1所述的方法，其特征在于，所述获取样本数据，包括：接收样本数据存储信息，所述样本数据存储信息包括样本标签、以及样本标签对应的多个样本图像存储地址；基于样本图像存储地址，向目标服务器发起样本数据请求...

【专利技术属性】
技术研发人员：许靳昌，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：