System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种实现MinIO数据实时同步的方法及系统技术方案_技高网

一种实现MinIO数据实时同步的方法及系统技术方案

技术编号:40964406 阅读:3 留言:0更新日期:2024-04-18 20:44
本发明专利技术涉及IT与软件开发技术领域,特别是涉及一种实现MinIO数据实时同步的方法及系统,该系统包括:转换子系统用于获取用户的操作信息,并将用户的操作信息转化成控制指令;控制子系统用于根据转换子系统转化后的控制指令将MinIO数据库中的源端MinIO对象数据同步至MinIO数据库中的目标端MinIO中;并该同步操作的标准格式日志,并根据该同步操作的标准格式日志中的异常数据生成为异常报警信息,进行发送;存储子系统用于对转换子系统获取的用户的操作信息,控制子系统获取到的同步操作的标准格式日志以及控制子系统生成的异常报警信息进行存储。通过转换子系统、控制子系统和存储子系统有效的实现高效数据同步和异常监测,有助于数据管理和可靠性维护。

【技术实现步骤摘要】

所属的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统的具体工作过程及有关说明,可以参考前述方法实施例中的对应过程,在此不再赘述。需要说明的是,上述实施例提供的系统,仅以上述各功能模块的划分进行举例说明,在实际应用中,可以根据需要而将上述功能分配由不同的功能模块来完成,即将本专利技术实施例中的模块或者步骤再分解或者组合,例如,上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块,以完成以上描述的全部或者部分功能。对于本专利技术实施例中涉及的模块、步骤的名称,仅仅是为了区分各个模块或者步骤,不视为对本专利技术的不当限定。本领域技术人员应该能够意识到,结合本文中所公开的实施例描述的各示例的模块、方法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,软件模块、方法步骤对应的程序可以置于随机存储器(ram)、内存、只读存储器(rom)、电可编程rom、电可擦除可编程rom、寄存器、硬盘、可移动磁盘、cd-rom、或内所公知的任意其它形式的存储介质中。为了清楚地说明电子硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以电子硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本专利技术的范围。术语“包括”或者任何其它类似用语旨在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备/装置不仅包括那些要素,而且还包括没有明确列出的其它要素,或者还包括这些过程、方法、物品或者设备/装置所固有的要素。至此,已经结合附图所示的优选实施方式描述了本专利技术的技术方案,但是,本领域技术人员容易理解的是,本专利技术的保护范围显然不局限于这些具体实施方式。在不偏离本专利技术的原理的前提下,本领域技术人员可以对相关技术特征作出等同的更改或替换,这些更改或替换之后的技术方案都将落入本专利技术的保护范围之内。以上,仅为本专利技术的较佳实施例而已,并非用于限定本专利技术的保护范围。


技术介绍

1、minio是一个开源的对象存储服务器,可以用来存储和检索大量的数据对象。minio的数据是指存储在minio服务器上的各种数据对象,通常以二进制格式存储,如照片、视频、文档、日志文件等等。minio可以被用于构建私有或公共云存储服务,也可以用作数据湖或数据仓库的后端存储。其中minio的主要特点包括高度可扩展性、高性能、容错性和安全性。它支持标准的s3对象存储api,这意味着您可以使用现有的s3客户端工具与minio进行交互。minio还提供了许多功能,如数据加密、访问控制、版本控制、事件通知等,以满足各种不同的存储需求。

2、目前,minio数据同步主要依赖minio官方提供的minio client(mc)和其mirror命令,虽然可实现对整个minioserver、桶(bucket)、单个文件的同步,加上“--watch”选项也支持实时增量同步。然而,这种方法存在以下问题:首先,操作人员需要高度专业知识,使用命令行工具操作较为繁琐,缺乏友好的可视化界面;其次,实时进度追踪不方便,难以确认文件同步状态和延迟情况;此外,在文件同步异常时缺乏及时报警机制以及简便的重传方式。

3、鉴于此,急需专利技术一种实现minio数据同步的技术方法,用于如何实现一种全量同步、全量实时同步、增量同步以及增量实时同步,同时提供实时监控和管理功能,包括查看当前所有同步计划、实时进度、同步文件状态(包括开始和完成时间)、同步延迟情况,以及智能报警系统,可在同步延迟超出设定阈值时自动触发警报,还支持文件同步失败时的重传操作的minio数据实时同步技术。


技术实现思路

1、本专利技术的目的是:提供一种实现minio数据实时同步的方法及系统,旨用于如何实现一种全量同步、全量实时同步、增量同步以及增量实时同步,同时提供实时监控和管理功能,包括查看当前所有同步计划、实时进度、同步文件状态(包括开始和完成时间)、同步延迟情况,以及智能报警系统,可在同步延迟超出设定阈值时自动触发警报,还支持文件同步失败时的重传操作的minio数据实时同步技术。

2、一方面,本专利技术实施例提供了一种实现minio数据实时同步的系统,包括:

3、转换子系统,用于获取用户的操作信息,并将所述用户的操作信息转化成控制指令;

4、控制子系统,分别与所述转换子系统和minio数据库电连接,所述控制子系统用于根据所述转换子系统转化后的所述控制指令将所述minio数据库中的源端minio对象数据同步至所述minio数据库中的目标端minio中;所述控制子系统还用于获取所述minio数据库中的源端minio对象数据同步至所述minio数据库中的目标端minio中的同步操作的标准格式日志,并根据所述minio数据库中的源端minio对象数据同步至所述minio数据库中的目标端minio中的异常数据生成为异常报警信息,所述控制子系统还用于将生成的所述异常报警信息进行发送;

5、存储子系统,与所述转换子系统和控制子系统电连接,所述存储子系统用于对所述转换子系统获取的用户的操作信息,所述控制子系统获取到的所述minio数据库中的源端minio对象数据同步至所述minio数据库中的目标端minio中的同步操作的标准格式日志以及所述控制子系统生成的所述异常报警信息进行存储。

6、进一步的,所述控制子系统,包括:

7、同步单元,用于将所述minio数据库中的源端minio对象数据同步至所述minio数据库中的目标端minio中;所述同步单元还用于监听所述minio数据库中的源端minio对象数据的变更操作数据,所述同步单元还用于将监听的所述minio数据库中的源端minio对象数据的变更操作数据同步至所述minio数据库中的目标端minio中;

8、控制单元,分别与所述同步单元、存储子系统和转换子系统电连接,所述控制单元用于根据所述转换子系统转化后的控制指令控制所述同步单元将所述minio数据库中的源端minio对象数据同步至所述minio数据库中的目标端minio中;所述控制单元还用于获取所述minio数据库中的源端minio对象数据同步至所述minio数据库中的目标端minio中的同步操作的标准格式日志,并将所述标准格式日志上传至所述存储子系统进行存储;所述控制单元还用于根据所述minio数据库中的源端minio对象数据同步至所述minio数据库中的目标端minio中的异常数据生成为异常报警信息;所述控制单元还用于将生成的所述异常报警信息进行发送;所述控制单元还用于将生成的所述异常报警信息上传至所述存储子系统进行存储。

9、进一步的,所述控制单元,包括:

10、控制监听子单元,分别与所述同步单元、存储子系统和转换子系统电连接,所述控制监听子单元用于接收所述转换子系统转化的控制指令后控制所述同步单元将所述minio数据库中的源端minio对象数据同步至所述minio本文档来自技高网...

【技术保护点】

1.一种实现MinIO数据实时同步的系统,其特征在于,包括:

2.如权利要求1所述的实现MinIO数据实时同步的系统,其特征在于,所述控制子系统,包括:

3.如权利要求2所述的实现MinIO数据实时同步的系统,其特征在于,所述控制单元,包括:

4.如权利要求3所述的实现MinIO数据实时同步的系统,其特征在于,所述同步单元,包括:

5.如权利要求4所述的实现MinIO数据实时同步的系统,其特征在于,所述控制监听子单元,包括:

6.如权利要求5所述的实现MinIO数据实时同步的系统,其特征在于,所述日志记录子单元,包括:

7.如权利要求6所述的实现MinIO数据实时同步的系统,其特征在于,所述存储子系统,包括:

8.如权利要求7所述实现MinIO数据实时同步的系统,其特征在于,所述数据存储单元由MySQL模块组成,其中,所述MySQL模块用于根据所述日志存储单元存储的标准格式日志和转换子系统获取到的用户的操作信息进行同步记录提取,并将提取到的所述同步记录进行永久存储;所述MySQL模块还用于将所述转换子系统获取到的用户的操作信息进行永久存储;所述MySQL模块还用于将所述数据同步服务模块生成的所述统计信息以及所述数据同步服务模块提取到的所述统计信息中的异常数据信息进行永久存储。

9.如权利要求8所述的实现MinIO数据实时同步的系统,其特征在于,所述转换子系统包括:

10.一种实现MinIO数据实时同步的方法,适用于如权利要求1-9任一项所述的实现MinIO数据实时同步的系统中,其特征在于,包括:

...

【技术特征摘要】

1.一种实现minio数据实时同步的系统,其特征在于,包括:

2.如权利要求1所述的实现minio数据实时同步的系统,其特征在于,所述控制子系统,包括:

3.如权利要求2所述的实现minio数据实时同步的系统,其特征在于,所述控制单元,包括:

4.如权利要求3所述的实现minio数据实时同步的系统,其特征在于,所述同步单元,包括:

5.如权利要求4所述的实现minio数据实时同步的系统,其特征在于,所述控制监听子单元,包括:

6.如权利要求5所述的实现minio数据实时同步的系统,其特征在于,所述日志记录子单元,包括:

7.如权利要求6所述的实现minio数据实时同步的系统,其特征在于,所述存储子系统,包括:

8.如权利...

【专利技术属性】
技术研发人员:粟振超
申请(专利权)人:天翼云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1