System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术实施例涉及计算机,尤其涉及一种数据分析方法、装置、电子设备及存储介质。
技术介绍
1、各行各业每天都在产生大量的数据,因此对大数据的处理分析成为各行业间的竞争热点。
2、现有技术中,数据分析方法往往是在一台计算机上进行的,其首先会将数据读入计算机内存,然后在内存中完成相关的计算步骤。
3、上述做法通常局限于单一计算机,受限于单一计算机的内存容量,在对海量数据进行分析的过程中,时常会出现内存溢出的情况,使得数据分析过程不顺畅且效率低。
技术实现思路
1、本专利技术提供了一种数据分析方法、装置、电子设备及存储介质,以实现通过分布式系统对多个数据组中的数据进行数据分析处理,不仅可避免出现内存溢出的情况,还能够提高数据分析效率。
2、根据本专利技术的一方面,提供了一种数据分析方法,该方法包括:
3、在接收到数据分析请求时,确定与所述数据分析请求对应的多个待分析数据组,其中,所述待分析数据组包括至少一个待分析数据;
4、确定与各所述待分析数据组对应的执行节点,其中,所述执行节点由至少一个数据分析任务按照预设顺序组合得到的;
5、针对每个执行节点,控制所述执行节点以所述预设顺序执行所述数据分析任务,得到与所述执行节点对应的数据分析结果;
6、基于各所述数据分析结果,得到与所述数据分析请求对应的目标分析结果。
7、可选地,各所述数据分析结果包括组间平均效应值和组内平均效应值;所述基于各所述数
8、可选地,所述方法还包括:针对每两个待分析数据组,确定所述两个待分析数据组之间的总体差异度,基于所述总体差异度确定是否保留所述两个待分析数据组。
9、可选地,所述基于所述总体差异度确定是否保留所述两个待分析数据组,包括:将所述总体差异度和预设差异度阈值进行大小比较,得到比较结果;如果所述比较结果为所述总体差异度超过预设差异度阈值,则对所述两个待分析数据组中的任意一组进行删除处理;如果所述比较结果为所述总体差异度未超过预设差异度阈值,则保留所述两个待分析数据组。
10、可选地,所述执行节点包括第一节点和第二节点;其中,所述第一节点对应的数据分析任务依次包括每两个待分析数据组之间的组间波动计算子任务和组间平均效应计算子任务,所述第二节点对应的数据分析任务依次包括单个待分析数据组的组内波动计算子任务和组内平均效应计算子任务。
11、可选地,所述控制所述执行节点以所述预设顺序执行所述数据分析任务,得到与所述执行节点对应的数据分析结果,包括:在所述执行节点为所述第一节点的情况下,控制所述第一节点执行所述组间波动计算子任务,得到与所述组间波动计算子任务对应的两个待分析数据组之间的组间波动值;基于所述组间波动值,控制所述第一节点执行所述组间平均效应计算子任务,得到所述两个待分析数据组之间的组间平均效应值。
12、可选地,所述控制所述执行节点以所述预设顺序执行所述数据分析任务,得到与所述功能执行节点对应的数据分析结果,包括:在所述执行节点为所述第二节点的情况下,控制所述第二节点执行所述组内波动计算子任务,得到与所述组内波动计算子任务对应的待分析数据组的组内波动值,基于所述组内波动值,控制所述第二节点执行所述组内平均效应计算子任务,得到所述待分析数据组的组内平均效应值。
13、根据本专利技术的另一方面,提供了一种数据分析装置。该装置包括:
14、数据获取模块,用于在接收到数据分析请求时,确定与所述数据分析请求对应的多个待分析数据组,其中,所述待分析数据组包括至少一个待分析数据;
15、执行节点确定模块,用于确定与各所述待分析数据组对应的执行节点,其中,所述执行节点由至少一个数据分析任务按照预设顺序组合得到的;
16、执行节点控制模块,用于针对每个执行节点,控制所述执行节点以所述预设顺序执行所述数据分析任务,得到与所述执行节点对应的数据分析结果;
17、分析结果得到模块,用于基于各所述数据分析结果,得到与所述数据分析请求对应的目标分析结果。
18、根据本专利技术的另一方面,提供了一种电子设备,所述电子设备包括:
19、至少一个处理器;以及
20、与所述至少一个处理器通信连接的存储器;其中,
21、所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本专利技术任一实施例所述的数据分析方法。
22、根据本专利技术的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的数据分析方法。
23、本专利技术实施例的技术方案提供一种应用于分布式系统的数据分析方法,在接收到数据分析请求时,通过确定与所述数据分析请求对应的多个待分析数据组,其中,所述待分析数据组包括至少一个待分析数据;确定与各所述待分析数据组对应的执行节点,其中,所述执行节点由至少一个数据分析任务按照预设顺序组合得到的;针对每个执行节点,控制所述执行节点以所述预设顺序执行所述数据分析任务,得到与所述执行节点对应的数据分析结果;基于各所述数据分析结果,得到与所述数据分析请求对应的目标分析结果。本专利技术实施例的技术方案,实现了通过分布式系统对多个数据组中的数据进行数据分析处理,不仅可避免出现内存溢出的情况,还能够提高数据分析效率。
24、应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
本文档来自技高网...【技术保护点】
1.一种数据分析方法,其特征在于,应用于分布式系统,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,各所述数据分析结果包括组间平均效应值和组内平均效应值;所述基于各所述数据分析结果,得到与所述数据分析请求对应的目标分析结果,包括:
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
4.根据权利要求3所述的方法,其特征在于,所述基于所述总体差异度确定是否保留所述两个待分析数据组,包括:
5.根据权利要求1所述的方法,其特征在于,所述执行节点包括第一节点和第二节点;其中,所述第一节点对应的数据分析任务依次包括每两个待分析数据组之间的组间波动计算子任务和组间平均效应计算子任务,所述第二节点对应的数据分析任务依次包括单个待分析数据组的组内波动计算子任务和组内平均效应计算子任务。
6.根据权利要求5所述的方法,其特征在于,所述控制所述执行节点以所述预设顺序执行所述数据分析任务,得到与所述执行节点对应的数据分析结果,包括:
7.根据权利要求1所述的方法,其特征在于,所述控制所述执行节点以所述预设顺序执
8.一种数据分析装置,其特征在于,包括:
9.一种电子设备,其特征在于,所述电子设备包括:
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的数据分析方法。
...【技术特征摘要】
1.一种数据分析方法,其特征在于,应用于分布式系统,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,各所述数据分析结果包括组间平均效应值和组内平均效应值;所述基于各所述数据分析结果,得到与所述数据分析请求对应的目标分析结果,包括:
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
4.根据权利要求3所述的方法,其特征在于,所述基于所述总体差异度确定是否保留所述两个待分析数据组,包括:
5.根据权利要求1所述的方法,其特征在于,所述执行节点包括第一节点和第二节点;其中,所述第一节点对应的数据分析任务依次包括每两个待分析数据组之间的组间波动计算子任务和组间平均效应计算子任务,所述第二节点对应的数据分析任务...
【专利技术属性】
技术研发人员:张春烽,
申请(专利权)人:联仁健康医疗大数据科技股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。