本发明公开了一种基于异构分布式系统的高效神经网络训练调度方法。本发明首先通过资源探测系统探测并分析分布式系统中的资源动态变化；将训练过程分解为内迭代与外迭代作为任务调度系统的重要子集，并根据资源探测系统提供的分布式系统节点状态信息，随后...

本发明公布一种面向分布式机器学习的参数通信优化方法。本发明将机器学习迭代‑收敛算法的容错特性进行扩展，提出了动态有限容错特性，并基于动态有限容错性实现了一种分布式机器学习参数通信优化策略，通过动态调节各计算节点与参数服务器的同步策略结合...