批量文件同步方法、装置、电子设备及存储介质制造方法及图纸

技术编号:38355840 阅读:30 留言:0更新日期:2023-08-05 17:27
本申请提出了一种批量文件同步方法、装置及电子设备,涉及大数据技术领域,方法包括:获取待同步的目标文件;判断目标文件是否执行过同步操作;在目标文件执行过同步操作的情况下,获取目标文件的同步结果;在目标文件的同步结果指示同步失败的情况下,获取目标文件的断点信息;根据断点信息同步目标文件。由此,通过维护批量文件是否执行过同步操作、同步结果以及在同步结果指示同步失败的情形下的断点信息,从而可实现在每次同步批量文件时,同步或传输同步失败的各文件,而不同步或传输同步成功的各文件,可以避免发生文件重复同步的情况,降低批量文件的同步时长、网络和资源的开销。且,可实现批量文件的断点续传,降低批量文件的同步成本。件的同步成本。件的同步成本。

【技术实现步骤摘要】
批量文件同步方法、装置、电子设备及存储介质


[0001]本申请涉及大数据
,尤其涉及一种批量文件同步方法、装置、电子设备及存储介质。

技术介绍

[0002]随着互联网技术的不断发展,每天产生海量的数据或文件。对于文件上云场景,在文件的上传过程中,如果发生网络不稳定、网络故障等情况,则会导致文件上传失败。当文件上传失败时,需要重新上传相关文件,增加了文件的传输时间、网络和资源等开销。
[0003]对于文件异构上云场景,如将源文件服务器中的批量文件同步至目的文件服务器中,需要定时或周期性地同步批量文件,而在周期性同步批量文件的过程中,如果发生网络不稳定、网络故障等情况,则需要重新同步所有的文件,严重增加了文件的同步成本。
[0004]而相关技术中,只能实现单个文件的断点续传,而未有针对批量文件的断点续传的技术方案,因此,如何实现批量文件的断点续传是非常重要的。

技术实现思路

[0005]本申请的目的旨在至少在一定程度上解决上述技术问题之一。
[0006]为此,本申请提出了一种批量文件同步方法、装置、电子本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种批量文件同步方法,其特征在于,维护了所述批量文件是否执行过同步操作,同步结果,以及在同步失败的情形下的断点信息;所述方法包括:获取待同步的目标文件;判断所述目标文件是否执行过同步操作;在所述目标文件执行过同步操作的情况下,获取所述目标文件的同步结果;在所述目标文件的同步结果指示所述目标文件同步失败的情况下,获取所述目标文件的断点信息;根据所述断点信息同步所述目标文件。2.根据权利要求1所述的方法,其特征在于,维护了与所述批量文件中执行过同步操作的文件对应的第一同步记录信息;所述第一同步记录信息包括所述执行过同步操作的文件的同步状态和在同步失败的情形下的断点信息;所述判断所述目标文件是否执行过同步操作,包括:在查询到与所述目标文件对应的第一目标同步记录信息的情形下,确定所述目标文件执行过同步操作;在未查询到与所述目标文件对应的第一目标同步记录信息的情形下,确定所述目标文件未执行过同步操作;所述获取所述目标文件的同步结果,包括:根据所述第一目标同步记录信息中的同步状态,确定所述目标文件的同步结果;所述获取所述目标文件的断点信息,包括:从所述第一目标同步记录信息获取所述目标文件的断点信息。3.根据权利要求1所述的方法,其特征在于,维护了与所述批量文件中每一文件对应的第二同步记录信息;所述第二同步记录信息包括对应文件是否执行过同步操作,同步结果和在同步失败的情形下的断点信息;所述判断所述目标文件是否执行过同步操作,包括:查询与所述目标文件对应的第二目标同步记录信息;在所述第二目标同步记录信息指示所述目标文件执行过同步操作的情形下,确定所述目标文件执行过同步操作;在所述第二目标同步记录信息指示所述目标文件未执行过同步操作的情形下,确定所述目标文件未执行过同步操作;所述获取所述目标文件的同步结果,包括:从所述第二目标同步记录信息获取所述目标文件的同步结果;所述获取所述目标文件的断点信息,包括:从所述第二目标同步记录信息获取所述目标文件的断点信息。4.根据权利要求2或3所述的方法,其特征在于,第一同步记录信息还包括执行过同步操作的文件的第一文件元信息,第二同步记录信息还包括对应文件的第二文件元信息;所述根据所述断点信息同步所述目标文件,包括:获取所述目标文件的当前文件元信息;判断所述当前文件元信息与第三目标同步记录信息中的第三文件元信息是否匹配;其中,所述第三目标同步记录信息包括所述第一同步记录信息或所述第二同步记录信息;
在所述当前文件元信息与所述第三文件元信息匹配的情况下,根据所述断点信息同步所述目标文件。5.根据权利要求4所述的方法,其特征在于,所述方法还包括:在所述当前文件元信息与所述第三文件元信息不匹配的情况下,重新同步所述目标文件中的所有数据。6.根据权利要求4所述的方法,其特征在于,所述判断所述当前文件元信息与第三目标同步记录信息中的第三文件元信息是否匹配,包括:判断所述当前文件元信息中的第一更新时间与所述第三文件元信息中的第二更新时间是否匹配;判断...

【专利技术属性】
技术研发人员:张鹏
申请(专利权)人:杭州数梦工场科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1