一种面向分布式机器学习的多路径数据传输方法技术

技术编号:43337672 阅读:19 留言:0更新日期:2024-11-15 20:33
本发明专利技术公开了一种面向分布式机器学习的多路径数据传输方法,提出一种名为Mpldtp的面向分布式机器学习应用的用户态协议,通过增强对分布式机器学习过程中参数聚合与分发阶段的高效处理,最大限度地减少通信延迟,从而显著提升学习效率和整个系统的运行性能。与现有解决方案不同的是,本发明专利技术充分考虑了分布式机器学习对有界丢失的容忍特性、参数间的低关联性以及面对高丢包率、高延迟、动态带宽等复杂网络环境的具体特征,从而量身打造适应性更强的传输协议,实现了更准确高效的数据传输。

【技术实现步骤摘要】

本专利技术属于数据传输方法,具体涉及一种面向分布式机器学习的多路径数据传输方法


技术介绍

1、在步入全新的数字经济时代,伴随着6g通信技术的发展、云计算的广泛普及、区块链技术的不断创新、数字孪生技术的勃兴,以及人工智能引领的aigc(人工智能、物联网、物理计算、云计算)等领域的迅猛发展,人类社会正以前所未有的速度拥抱科技与经济、社会的深度融合。作为驱动人工智能发展的关键技术引擎,机器学习与深度学习正经历一场深刻的革命,以满足对智能、自动化及个性化日益增长的需求。在这场变革中,算力的不断提升让更复杂的模型得以有效训练与部署,同时,数据集规模的不断扩大为模型训练提供了更加丰富和多元的信息输入。

2、然而,随着计算模型和数据集规模的指数级增长,单一计算设备的算力已无法满足日益增长的计算需求,传统机器学习方法在处理大规模数据集和复杂模型时遇到了计算和存储能力的瓶颈。为解决这一问题,分布式机器学习应运而生,通过将训练模型和数据集分割并分布在多个计算节点上进行并行计算,从而有效缓解单一节点的压力。然而,分布式机器学习的实际部署不可避免地引入了通信开销,尤本文档来自技高网...

【技术保护点】

1.一种面向分布式机器学习的多路径数据传输方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的面向分布式机器学习的多路径数据传输方法,其特征在于,所述步骤S1中,所述多路径传输协议Mpldtp的交互模式包括梯度发送端和梯度接收端;

3.根据权利要求1所述的面向分布式机器学习的多路径数据传输方法,其特征在于,所述步骤S1中,所述多路径传输协议Mpldtp的数据包包括UDP头部、Mpldtp头部和Mpldtp载荷;

4.根据权利要求3所述的面向分布式机器学习的多路径数据传输方法,其特征在于,在所述Mpldtp头部中:

5.根据权利要求3所...

【技术特征摘要】

1.一种面向分布式机器学习的多路径数据传输方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的面向分布式机器学习的多路径数据传输方法,其特征在于,所述步骤s1中,所述多路径传输协议mpldtp的交互模式包括梯度发送端和梯度接收端;

3.根据权利要求1所述的面向分布式机器学习的多路径数据传输方法,其特征在于,所述步骤s1中,所述多路径传输协议mpldtp的数据包包括udp头部、mpldtp头部和mpldtp载荷;

4.根据权利要求3所述的面向分布式机器学习的多路径数据传输方法,其特征在于,在所述mpldtp头部中:

5.根据权利要求3所述的面向分布式机器学习的多路径数据传输方法,其特征在于,所述步骤...

【专利技术属性】
技术研发人员:罗龙罗颢哲武浩虞红芳孙罡
申请(专利权)人:电子科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1