System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及计算机的,尤其是涉及一种数据分发控制方法、装置、设备及介质。
技术介绍
1、随着大数据、人工智能等领域的迅猛发展,大规模数据处理和任务分配变得更加普遍,在一组计算机集群中,如何对大量的任务数据进行分发,从而合理分配计算机资源以及高效的进行数据处理,变得至关重要。
2、相关技术中,在进行任务数据分发时,往往根据计算机的负载率进行分发,然而由于任务数据非常复杂,仅根据计算机负载率进行分发,无法保证任务数据处理的准确率以及效率。
技术实现思路
1、为了提高任务数据处理的效率以及准确率,本申请提供一种数据分发控制方法、装置、设备及介质。
2、第一方面,本申请提供一种数据分发控制方法,采用如下的技术方案:
3、一种数据分发控制方法,包括:
4、获取待处理任务数据;
5、确定所述待处理任务数据的数据类型;
6、基于所述待处理任务数据的数据类型确定所述待处理任务数据对应的计算机组;
7、基于所述计算机组以及所述待处理任务数据确定分配计算机,所述分配计算机为负载小于负载阈值的计算机。
8、通过采用上述技术方案,当获取到待处理任务数据之后,确定待处理任务数据的数据类型,根据该数据类型选择可以更加准确高效处理该数据类型的计算机组,并根据计算机组内各个计算机的负载确定处理该待处理任务数据的分配计算机,首先根据数据类型选择计算机组,提高了提高任务数据处理的效率以及准确率。
9、可选的,在所
10、获取计算机信息;
11、基于所述计算机信息确定计算机属性,所述计算机属性用于表征计算机处理的数据特征;
12、基于所述计算机属性对所述计算机进行分组,得到至少一个计算机组,每个所述计算机组中的所述计算机对应相同的计算机属性。
13、通过采用上述技术方案,在确定计算机组之前,先根据计算机信息确定计算机属性,根据计算机属性对计算机进行分组,每个计算机组中的计算机对应相同的计算机属性,在进行数据分发时,可以根据计算机组更方便的确定对应的分配计算机,无需从计算机集群中的大量计算机中确定,提高了数据分发的效率。
14、可选的,所述基于所述计算机组以及所述待处理任务数据确定分配计算机,包括:
15、获取计算机组信息,所述计算机组信息包括所述计算机组中每台所述计算机当前的负载;
16、基于所述计算机组信息以及负载阈值计算每台所述计算机的空闲负载,所述空闲负载为每台所述计算机可承担的负载;
17、基于所述待处理任务数据确定任务负载;
18、基于所述任务负载以及所述空闲负载确定所述分配计算机。
19、通过采用上述技术方案,在确定计算机组之后,根据每台计算机的空闲负载以及待处理任务数据的任务负载确定分配计算机,分配计算机可以及时的处理待分配任务数据,从而提高了待处理任务数据处理的效率。
20、可选的,所述基于所述任务负载以及所述空闲负载确定所述分配计算机,包括:
21、若所述空闲负载均小于所述任务负载,则划分所述待处理任务数据,得到多个子任务数据;
22、计算空闲负载总和,所述空闲负载总和为所述计算机组中所有所述计算机的所述空闲负载的总和;
23、若所述空闲负载总和大于或等于所述任务负载,则确定各个所述子任务数据的子任务负载;
24、基于所述子任务负载以及所述空闲负载确定所述分配计算机。
25、通过采用上述技术方案,当待处理任务数据较为复杂从而任务负载较大时,可能每台计算机的空闲负载均无法承担该待处理任务数据的处理过程,将待处理任务数据进行划分,得到多个子任务数据,若空闲负载总和大于或等于任务负载,则根据子任务负载以及空闲负载确定分配计算机,将待处理任务数据划分为多个子任务数据分别进行处理,提高了待处理任务数据处理的效率。
26、可选的,所述计算空闲负载总和之后,所述方法还包括:
27、若所述空闲负载总和小于所述任务负载,则确定各个所述子任务数据的逻辑关系;
28、基于所述逻辑关系确定各个所述子任务数据的任务处理等级,所述任务处理等级包括第一等级,所述第一等级对应的所述子任务数据为需要优先处理的子任务数据;
29、将所述任务处理等级为所述第一等级的所述子任务数据确定为优先子任务数据;
30、将所述优先子任务数据的数量确定为第一数量;
31、将所述计算机组中所述空闲负载大于预设负载的所述计算机的数量确定为第二数量;
32、基于所述第一数量以及所述第二数量的大小关系确定所述分配计算机。
33、通过采用上述技术方案,若空闲负载总和小于任务负载,则将各个子任务数据根据逻辑关系确定任务处理等级,根据优先子任务数据的数量以及第二数量确定分配计算机,在进行子任务数据处理时,考虑到各个子任务数据之间的逻辑关系,提高了待处理任务数据处理的效率。
34、可选的,所述基于所述第一数量以及所述第二数量的大小关系确定所述分配计算机,包括:
35、若所述第一数量大于所述第二数量,则基于所述优先子任务数据的数据类型确定第二计算机组;
36、获取所述第二计算机组中所述计算机对应的空闲负载;
37、基于所述子任务负载以及所述空闲负载确定所述分配计算机。
38、通过采用上述技术方案,若第一数量大于第二数量,则当前计算机组无法及时承担处理需求,再次确定第二计算机组,两个计算机组协同处理待处理任务数据,提高了待处理任务数据处理的效率。
39、可选的,在所述基于所述计算机组以及所述待处理任务数据确定分配计算机之后,所述方法还包括:
40、获取所述分配计算机的状态数据;
41、基于所述状态数据判断所述分配计算机是否存在异常;
42、若所述分配计算机存在异常,则确定存在异常的所述分配计算机对应的所述待处理任务数据;
43、基于所述待处理任务数据的所述任务负载确定分配计算机。
44、通过采用上述技术方案,通过分配计算机的状态数据判断分配计算机是否异常,若存在异常,则将对应的待处理任务数据重新分配,实时对分配计算机进行监控,减少了分配计算机异常从而无法及时处理待分配任务数据的可能性。
45、第二方面,本申请提供一种数据分发控制装置,采用如下的技术方案:
46、一种数据分发控制装置,包括:
47、数据获取模块,用于获取待处理任务数据;
48、类型确定模块,用于确定所述待处理任务的数据类型;
49、组合确定模块,用于基于所述待处理任务的数据类型确定所述待处理任务对应的计算机组;
50、分配确定模块,用于基于所述计算机组以及所本文档来自技高网...
【技术保护点】
1.一种数据分发控制方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,在所述基于所述待处理任务数据的数据类型确定所述待处理任务数据对应的计算机组之前,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述基于所述计算机组以及所述待处理任务数据确定分配计算机,包括:
4.根据权利要求3所述的方法,其特征在于,所述基于所述任务负载以及所述空闲负载确定所述分配计算机,包括:
5.根据权利要求4所述的方法,其特征在于,在所述计算空闲负载总和之后,所述方法还包括:
6.根据权利要求5所述的方法,其特征在于,所述基于所述第一数量以及所述第二数量的大小关系确定所述分配计算机,包括:
7.根据权利要求1所述的方法,其特征在于,在所述基于所述计算机组以及所述待处理任务数据确定分配计算机之后,所述方法还包括:
8.一种数据分发控制装置,其特征在于,包括:
9.一种电子设备,其特征在于,包括处理器,所述处理器与存储器耦合;
10.一种计算机可读存储介质,其特征在于,包
...【技术特征摘要】
1.一种数据分发控制方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,在所述基于所述待处理任务数据的数据类型确定所述待处理任务数据对应的计算机组之前,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述基于所述计算机组以及所述待处理任务数据确定分配计算机,包括:
4.根据权利要求3所述的方法,其特征在于,所述基于所述任务负载以及所述空闲负载确定所述分配计算机,包括:
5.根据权利要求4所述的方法,其特征在于,在所述计算空闲负载总和之后,所述方法还包括:
6.根...
【专利技术属性】
技术研发人员:董万根,周恩著,田冬雷,于建,陈霞玲,魏祖志,王金海,杨军,
申请(专利权)人:金品计算机科技天津有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。