数据分发方法、装置和计算机设备制造方法及图纸

技术编号:24252340 阅读:15 留言:0更新日期:2020-05-22 23:58
本申请涉及一种数据分发方法、装置和计算机设备,该方法包括:运行至少两个语言版本的机器学习模型;检测至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息;每个语言版本的机器学习模型的响应性能信息和稳定性信息,用于表征所述语言版本的机器学习模型的数据处理性能;从数据库中预设的权重表中,查找与各语言版本的机器学习模型的数据处理性能对应的数据分配权重;将模型输入数据集合进行切片,得到多个数据包;每个数据包中包括至少一条模型输入数据;按照各语言版本的机器学习模型所对应的所述数据分配权重,向配置各语言版本的机器学习模型的机器分发所述数据包。采用本方法能够提高机器性能的稳定性。

Data distribution methods, devices and computer equipment

【技术实现步骤摘要】
数据分发方法、装置和计算机设备
本申请涉及计算机
,特别是涉及一种数据分发方法、装置和计算机设备。
技术介绍
随着科学技术的飞速发展,机器学习技术凭借其良好的数据分析和处理能力,越来越受到欢迎。比如,通过机器学习模型对数据进行分类等应用比较广泛。传统方法中,主要是在一台机器上建立一个机器学习模型,然后,将数据一并发送至该机器学习模型中进行处理。这样一来,会导致运行该机器学习模型的机器的数据处理压力过大,从而造成机器性能不稳定。
技术实现思路
基于此,有必要针对上述技术问题,提供一种能够提高机器性能的稳定性的数据分发方法、装置、计算机设备和存储介质。一种数据分发方法,所述方法包括:运行至少两个语言版本的机器学习模型;不同语言版本的机器学习模型分别配置在机器集群的不同机器中,且,不同语言版本的机器学习模型由不同的编程语言编写得到、并具有相同的处理功能;检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息;每个语言版本的机器学习模型的响应性能信息和稳定性信息,用于表征所述语言版本的机器学习模型的数据处理性能;从数据库中预设的权重表中,查找与各语言版本的机器学习模型的数据处理性能对应的数据分配权重;将模型输入数据集合进行切片,得到多个数据包;每个数据包中包括至少一条模型输入数据;按照各语言版本的机器学习模型所对应的所述数据分配权重,向配置各语言版本的机器学习模型的机器分发所述数据包。在其中一个实施例中,所述方法还包括:将各语言版本的机器学习模型分别对应的数据分配权重发送至消息中间件进行缓存;所述按照各语言版本的机器学习模型所对应的所述数据分配权重,向配置各语言版本的机器学习模型的机器分发所述数据包包括:发送切片得到的所述数据包至所述消息中间件,以指示所述消息中间件,按照缓存的各语言版本的机器学习模型所对应的所述数据分配权重,将各所述数据包以消息的形式,向配置各语言版本的机器学习模型的机器进行分发。在其中一个实施例中,所述检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息包括:针对每个语言版本的机器学习模型,监控所述机器学习模型是否接收到请求;当监控到所述机器学习模型接收到请求、且处于请求响应阶段时,检测与预设的响应性能指标对应的数据,得到响应性能信息。在其中一个实施例中,所述响应性能信息为多项;所述检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息还包括:将各项响应性能信息分别与预设的响应达标条件进行匹配;当匹配成功时,则判定所述响应性能信息达标;根据响应性能信息的达标项数,判断所述机器学习模型是否稳定;根据判断结果,得到所述机器学习模型的稳定性信息。在其中一个实施例中,所述响应性能信息和稳定性信息皆为多项;所述从数据库中预设的权重表中,查找与各语言版本的机器学习模型的数据处理性能对应的数据分配权重包括:针对每个语言版本的机器学习模型,将表征所述机器学习模型的数据处理性能的响应性能信息和稳定性信息,分别与预设的响应达标条件和稳定条件进行匹配;确定与响应达标条件匹配成功的响应性能信息的达标项数、以及与稳定条件匹配成功的稳定性信息的稳定项数;根据所述达标项数和稳定项数,从数据库中预设的权重表中,查找所述机器学习模型的数据分配权重。在其中一个实施例中,所述方法还包括:从数据库中的数据分发记录表中,查找每个语言版本的机器学习模型被分发至的数据包的历史总数量;所述历史总数量,用于表征所述机器学习模型的历史数据处理性能;所述根据所述达标项数和稳定项数,从数据库中预设的权重表中,查找所述机器学习模型的数据分配权重包括:根据所述达标项数、所述稳定项数和表征所述历史数据处理性能的历史总数量,从数据库中预设的权重表中,查找所述机器学习模型的数据分配权重。在其中一个实施例中,所述预设的权重表包括响应性能权重表、稳定性权重表和历史分发权重表;所述根据所述达标项数、所述稳定项数和表征所述历史数据处理性能的历史总数量,从数据库中预设的权重表中,查找所述机器学习模型的数据分配权重包括:在预先设置的响应性能权重表中,查询与所述达标项数对应的第一权重;在预先设置的稳定性权重表中,查询与所述稳定项数对应的第二权重;从历史分发权重表中,查找与所述历史总数量对应的第三权重;根据第一权重、第二权重和第三权重,确定所述机器学习模型对应的数据分配权重。在其中一个实施例中,所述运行至少两个语言版本的机器学习模型包括:获取至少两个语言版本的机器学习模型的配置信息;按照预设的模型导入比例,将各所述配置信息分别导入至机器集群中的机器中;所述模型导入比例,为集群中导入不同语言版本的机器学习模型的机器数量之比;在各机器中根据所导入的配置信息运行相应的机器学习模型。一种数据分发装置,所述装置包括:模型运行模块,用于运行至少两个语言版本的机器学习模型;不同语言版本的机器学习模型分别配置在机器集群的不同机器中,且,不同语言版本的机器学习模型由不同的编程语言编写得到、并具有相同的处理功能;检测模块,用于检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息;每个语言版本的机器学习模型的响应性能信息和稳定性信息,用于表征所述语言版本的机器学习模型的数据处理性能;权重确定模块,用于从数据库中预设的权重表中,查找与各语言版本的机器学习模型的数据处理性能对应的数据分配权重;数据分发模块,用于将模型输入数据集合进行切片,得到多个数据包;每个数据包中包括至少一条模型输入数据;按照各语言版本的机器学习模型所对应的所述数据分配权重,向配置各语言版本的机器学习模型的机器分发所述数据包。一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如下步骤:运行至少两个语言版本的机器学习模型;不同语言版本的机器学习模型分别配置在机器集群的不同机器中,且,不同语言版本的机器学习模型由不同的编程语言编写得到、并具有相同的处理功能;检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息;每个语言版本的机器学习模型的响应性能信息和稳定性信息,用于表征所述语言版本的机器学习模型的数据处理性能;从数据库中预设的权重表中,查找与各语言版本的机器学习模型的数据处理性能对应的数据分配权重;将模型输入数据集合进行切片,得到多个数据包;每个数据包中包括至少一条模型输入数据;按照各语言版本的机器学习模型所对应的所述数据分配权重,向配置各语言版本的机器学习模型的机器分发所述数据包。一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如下步骤:运行至少两个语言版本的机器学习模型;不同语本文档来自技高网...

【技术保护点】
1.一种数据分发方法,所述方法包括:/n运行至少两个语言版本的机器学习模型;不同语言版本的机器学习模型分别配置在机器集群的不同机器中,且,不同语言版本的机器学习模型由不同的编程语言编写得到、并具有相同的处理功能;/n检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息;每个语言版本的机器学习模型的响应性能信息和稳定性信息,用于表征所述语言版本的机器学习模型的数据处理性能;/n从数据库中预设的权重表中,查找与各语言版本的机器学习模型的数据处理性能对应的数据分配权重;/n将模型输入数据集合进行切片,得到多个数据包;每个数据包中包括至少一条模型输入数据;/n按照各语言版本的机器学习模型所对应的所述数据分配权重,向配置各语言版本的机器学习模型的机器分发所述数据包。/n

【技术特征摘要】
1.一种数据分发方法,所述方法包括:
运行至少两个语言版本的机器学习模型;不同语言版本的机器学习模型分别配置在机器集群的不同机器中,且,不同语言版本的机器学习模型由不同的编程语言编写得到、并具有相同的处理功能;
检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息;每个语言版本的机器学习模型的响应性能信息和稳定性信息,用于表征所述语言版本的机器学习模型的数据处理性能;
从数据库中预设的权重表中,查找与各语言版本的机器学习模型的数据处理性能对应的数据分配权重;
将模型输入数据集合进行切片,得到多个数据包;每个数据包中包括至少一条模型输入数据;
按照各语言版本的机器学习模型所对应的所述数据分配权重,向配置各语言版本的机器学习模型的机器分发所述数据包。


2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
将各语言版本的机器学习模型分别对应的数据分配权重发送至消息中间件进行缓存;
所述按照各语言版本的机器学习模型所对应的所述数据分配权重,向配置各语言版本的机器学习模型的机器分发所述数据包包括:
发送切片得到的所述数据包至所述消息中间件,以指示所述消息中间件,按照缓存的各语言版本的机器学习模型所对应的所述数据分配权重,将各所述数据包以消息的形式,向配置各语言版本的机器学习模型的机器进行分发。


3.根据权利要求1所述的方法,其特征在于,所述检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息包括:
针对每个语言版本的机器学习模型,监控所述机器学习模型是否接收到请求;
当监控到所述机器学习模型接收到请求、且处于请求响应阶段时,检测与预设的响应性能指标对应的数据,得到响应性能信息。


4.根据权利要求3所述的方法,其特征在于,所述响应性能信息为多项;所述检测所述至少两个语言版本的机器学习模型运行时的响应性能信息和稳定性信息还包括:
将各项响应性能信息分别与预设的响应达标条件进行匹配;
当匹配成功时,则判定所述响应性能信息达标;
根据响应性能信息的达标项数,判断所述机器学习模型是否稳定;
根据判断结果,得到所述机器学习模型的稳定性信息。


5.根据权利要求1所述的方法,其特征在于,所述响应性能信息和稳定性信息皆为多项;所述从数据库中预设的权重表中,查找与各语言版本的机器学习模型的数据处理性能对应的数据分配权重包括:
针对每个语言版本的机器学习模型,将表征所述机器学习模型的数据处理性能的响应性能信息和稳定性信息,分别与预设的响应达标条件和稳定条件进行匹配;
确定与响应达标条件匹配成功的响应性能信息的达标项数、以及与稳定条件匹配成功的稳定性信息的稳定项数;
根据所述达标项数和稳定项数,从数据库中预设的权...

【专利技术属性】
技术研发人员:江鹏凯张露
申请(专利权)人:平安医疗健康管理股份有限公司
类型:发明
国别省市:上海;31

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1