System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及大数据处理,尤其涉及一种跨云环境的数据处理方法、装置、设备及存储介质。
技术介绍
1、云环境是指能够从动态虚拟化的资源池中向用户或者各种应用系统按需提供计算能力、存储能力或者虚拟机服务等的互联网或者大数据环境。对于企业来说,不同子公司或者业务部门之间因为业务需要、技术需要等,需要使用跨地、多中心云环境的服务能力进行相关业务的开展,多云环境现状使得不同位置云环境应对和处理的业务、数据存在不同,比如不同业务产生的数据会存储到各自的云环境下,不同业务部门会根据自身业务所处的云环境进行各自的数据处理、分析和应用。
2、为了使得企业的各子公司或者多个业务部门的数据能够实现数据价值最大化,可以将各子公司或者多个业务部门的数据进行集中处理,按需分发到各个部门或子公司进行数据使用。
3、现有技术中,一般将多个云环境中的数据集中到中心云环境,然后在中心云环境进行数据集中处理后,将集中处理后的数据回传到各云环境。但是当某一云环境的日常业务中不需要其他云环境中的数据时,这种将中心云环境的所有数据传输到各云环境的方法会使得数据传输过程消耗大量的网络传输时间和成本。
技术实现思路
1、有鉴于此,本申请提供了一种跨云环境的数据处理方法及装置,旨在中心云环境在进行数据回传时,通过本申请中的数据处理方法,使得在数据回传过程中减少不必要的数据传输,进而减少了数据传输时所占用的网络资源,同时缩短了数据传输所需要的时间。
2、第一方面,本申请提供了一种跨云环境的数据处理方法
3、获取云环境中的增量数据;
4、将多个云环境中的增量数据传输到中心云环境;对传输到所述中心云环境的增量数据进行数据汇集处理,得到具有多个云环境增量数据的增量数据集;
5、对所述增量数据集中的数据进行数据筛选,得到各云环境对应的回传增量数据;
6、将所述各云环境对应的回传增量数据回传到各云环境中。
7、可选的,所述对所述增量数据集中的数据进行数据筛选之前,所述方法还包括:
8、对所述增量数据集中的数据进行分区存储。
9、可选的,所述对所述增量数据集中的数据进行分区存储包括:
10、按照业务名称和/或增量数据的增量周期对所述增量数据集中的数据进行分区存储。
11、可选的,所述对所述增量数据集中的数据进行数据筛选,得到各云环境对应的回传增量数据包括:
12、获取第一云环境的主关键字,若所述增量数据集和其他云环境中均存在所述主关键字,则所述主关键字对应的增量数据为所述第一云环境的回传增量数据;所述其他云环境为所述多个云环境中除所述第一云环境外的云环境。
13、可选的,所述增量数据集中记录了增量数据来源。
14、可选的,所述对所述增量数据集中的数据进行数据筛选,得到各云环境对应的回传增量数据包括:
15、根据所述增量数据集中的数据来源,筛选出各云环境对应的回传增量数据。
16、第二方面,本申请提供了一种跨云环境的数据处理装置,该装置包括:
17、获取单元,用于获取云环境中的增量数据;
18、传输单元,用于将多个云环境中的增量数据传输到中心云环境;
19、数据处理单元,用于对传输到所述中心云环境的增量数据进行数据汇集处理,得到具有多个云环境增量数据的增量数据集;
20、数据筛选单元,用于对所述增量数据集中的数据进行数据筛选,得到各云环境对应的回传增量数据;
21、将所述各云环境对应的回传增量数据回传到各云环境中。
22、可选的,所述装置还包括:数据存储单元,用于在对所述增量数据集中的数据进行数据筛选之前,对所述增量数据集中的数据进行分区存储。
23、可选的,所述数据存储单元具体用于:按照业务名称和/或增量数据的增量周期对所述增量数据集中的数据进行分区存储。
24、可选的,所述数据筛选单元具体用于,获取第一云环境的主关键字,若所述增量数据集和其他云环境中均存在所述主关键字,则所述主关键字对应的增量数据为所述第一云环境的回传增量数据;所述其他云环境为所述多个云环境中除所述第一云环境外的云环境。
25、可选的,所述增量数据集中记录了增量数据来源。
26、可选的,所述数据筛选单元具体用于,根据所述增量数据集中的数据来源,筛选出各云环境对应的回传增量数据。
27、第三方面,本申请提供了一种计算设备,所述计算设备包括存储器和处理器,所述存储器用于存储指令或代码,所述处理器用于执行所述指令或代码,以使所述计算设备执行前述第一方面任一项所述的跨云环境的数据处理方法。
28、第四方面,本申请提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有代码,当所述代码被运行时,运行所述代码的设备实现前述第一方面任一项所述的跨云环境的数据处理方法。
29、本申请提供了一种跨云环境的数据处理方法。在执行所述方法时,先获取云环境中的增量数据,然后将多个云环境中的增量数据传输到中心云环境;对传输到所述中心云环境的增量数据进行数据汇集处理,得到具有多个云环境增量数据的增量数据集,再对所述增量数据集中的数据进行数据筛选,得到各云环境对应的回传增量数据,最后将所述各云环境对应的回传增量数据回传到各云环境中。如此,在从中心云环境向各云环境进行增量数据回传时,只需传输与各云环境有关的增量数据,而无需将中心云环境中的所有增量数据全部传输给各个云环境,进而减少了数据传输时所占用的网络资源,同时缩短了数据传输所需要的时间。
本文档来自技高网...【技术保护点】
1.一种跨云环境的数据处理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述对所述增量数据集中的数据进行数据筛选之前,所述方法还包括:
3.根据权利要求2所述的方法,其特征在于,所述对所述增量数据集中的数据进行分区存储包括:
4.根据权利要求1所述的方法,其特征在于,所述对所述增量数据集中的数据进行数据筛选,得到各云环境对应的回传增量数据包括:
5.根据权利要求1所述的方法,其特征在于,所述增量数据集中记录了增量数据来源。
6.根据权利要求5所述的方法,其特征在于,所述对所述增量数据集中的数据进行数据筛选,得到各云环境对应的回传增量数据包括:
7.一种跨云环境的数据处理装置,其特征在于,所述装置包括:
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:
9.一种计算设备,其特征在于,所述计算设备包括:存储器、处理器;
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权
...【技术特征摘要】
1.一种跨云环境的数据处理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述对所述增量数据集中的数据进行数据筛选之前,所述方法还包括:
3.根据权利要求2所述的方法,其特征在于,所述对所述增量数据集中的数据进行分区存储包括:
4.根据权利要求1所述的方法,其特征在于,所述对所述增量数据集中的数据进行数据筛选,得到各云环境对应的回传增量数据包括:
5.根据权利要求1所述的方法,其特征在于,所述增量数据集中记录了增量数据来源。
...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。