【技术实现步骤摘要】
机器学习算法选择方法、分布式计算系统
本专利技术实施例涉及机器学习
,尤其涉及一种机器学习算法选择方法、分布式计算系统。
技术介绍
近年来,随着人工智能技术的飞速发展,其技术成果已应用到多个领域,比如,应用人工智能技术,通过对人脸的检测实现无人检票的火车站进站系统,通过对图像的检测实现汽车的无人驾驶,通过自然语言处理算法实现语音识别与翻译等。基于此,越来越多的用户致力于数据挖掘以及机器学习模型建模。用户运用人工智能技术进行数据挖掘以及机器学习模型建模的关键在于选择合适的机器学习算法实现对数据的分类、回归、聚类等,而随着人工智能技术的飞速发展,各种机器学习算法层出不穷,且不同的机器学习算法对数据的适用性也各不相同,因此,如何快速地从多种机器学习算法中选择合适的机器学习算法成为亟待解决的技术问题。
技术实现思路
鉴于此,为解决如何快速地从多种机器学习算法中选择合适的机器学习算法的技术问题,本专利技术实施例提供一种机器学习算法选择方法、分布式计算系统。第一方面,本专利技术实施例提供一种机器 ...
【技术保护点】
1.一种机器学习算法选择方法,其特征在于,应用于分布式计算系统,所述分布式计算系统至少包括Master节点、多个计算节点,所述机器学习算法选择方法包括:/n所述Master节点在接收到机器学习算法选择任务后,从多个所述计算节点中确定N个可用的目标计算节点,以及向N个所述目标计算节点发送机器学习模型训练任务,其中,所述Master节点向不同的目标计算节点发送的所述机器学习模型训练任务对应的机器学习算法不同,所述N为大于1的自然数;/n所述目标计算节点执行接收到的所述机器学习模型训练任务,以及确定训练得到的机器学习模型的模型评价指标值,将所述模型评价指标值发送给所述Master ...
【技术特征摘要】
1.一种机器学习算法选择方法,其特征在于,应用于分布式计算系统,所述分布式计算系统至少包括Master节点、多个计算节点,所述机器学习算法选择方法包括:
所述Master节点在接收到机器学习算法选择任务后,从多个所述计算节点中确定N个可用的目标计算节点,以及向N个所述目标计算节点发送机器学习模型训练任务,其中,所述Master节点向不同的目标计算节点发送的所述机器学习模型训练任务对应的机器学习算法不同,所述N为大于1的自然数;
所述目标计算节点执行接收到的所述机器学习模型训练任务,以及确定训练得到的机器学习模型的模型评价指标值,将所述模型评价指标值发送给所述Master节点;
所述Master节点根据接收到的所述模型评价指标值展示所述机器学习算法选择任务的执行结果。
2.根据权利要求1所述的方法,其特征在于,所述分布式计算系统还包括:数据读取节点,所述方法还包括:
所述Master节点在接收到所述机器学习算法选择任务后,向所述数据读取节点发送所述机器学习算法选择任务对应的数据集;
所述目标计算节点在接收到所述机器学习模型训练任务后,从所述数据读取节点获取所述数据集,以基于所述数据集执行接收到的所述机器学习模型训练任务。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
所述数据读取节点在接收到所述数据集后,将所述数据集划分为训练数据集和测试数据集;
所述目标计算节点在从所述数据读取节点获取到所述数据集后,基于所述训练数据集执行接收到的所述机器学习模型训练任务,以及基于所述测试数据集确定训练得到的机器学习模型的模型评价指标值。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
所述数据读取节点按照设定的分批规则将所述训练数据集和测试数据集分别进行分批存储,以在所述目标计算节点从所述数据读取节点获取所述数据集时,将所述训练数据集和测试数据集分批发送给所述目标计算节点。
5.根据权利要求1所述的方法,其特征在于,所述Master节点在接收到机器学习算法选择任务后,从多个所述计算节点中确定N个可用的目标计算节点,包括:
所述Master节点在接收到机器学习算法选择任务后,从多个所述计算节点中确定N个可用且当前处于空闲状态的目标计算节点;
所述方法还包括:
所述Master节点在从多个所述计算节点中确定N个可用且当前处于空闲状态的目标计算节点之后,将本地记录的所述目标计算节点的工作状态从空闲状态更新为激活状态;
所述Master节点在接收到所述目标计算节点发送的用于指示工作状态由激活状态切换为空闲状态的指示消息之后,将本地记录的所述目标计算节点的工作状态从激活状态更新为空闲状态。
6.一种分布式计算系统,其特征在于,所述分布式计算系统至少包括M...
【专利技术属性】
技术研发人员:任文龙,倪煜,
申请(专利权)人:北京金山云网络技术有限公司,
类型:发明
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。