数据互通方法、装置、终端及存储介质制造方法及图纸

技术编号:21771637 阅读:40 留言:0更新日期:2019-08-03 21:33
本公开实施例公开了一种数据互通方法、装置、终端及存储介质。其中,该数据互通方法包括:通过第二数据库接收第一数据库通过第一数据管道TPIPE组件实时传输的待同步数据;控制所述第二数据库通过第二数据管道TPIPE组件向所述第二数据库的从数据库传输所述第二数据库中的全量数据;其中,第一数据管道TPIPE组件和第二数据管道TPIPE组件用于有序传输所述待同步数据。本公开实施例的技术方案,能够通过第一数据管道TPIPE组件以及第二数据管道TPIPE组件实现数据的有序传输,在无需停机的状态下,既不影响历史数据的传输也不影响增量数据地实现数据库的数据互通。

Data Interworking Methods, Devices, Terminals and Storage Media

【技术实现步骤摘要】
数据互通方法、装置、终端及存储介质
本公开实施例涉及计算机应用
,尤其涉及一种数据互通方法、装置、终端及存储介质。
技术介绍
Redis是Nosql数据库中使用较为广泛的非关系型内存数据库。Redis内部是一个key-value存储系统。由于Redis具有易扩展、大数据量提高性能以及多样灵活的数据模型等优点,被广泛应用。近年来,异地多活成为越来越多大型互联网公司采用的数据管理方案,几乎也是大型应用发展到一定阶段的必然选择。异地多活一般是指在不同城市建立独立的数据中心,这些机房在日常的业务中也需要走流量,做业务支撑。即在不同城市的两个机房的数据库之间进行数据互通,使得用户在其中一个地点访问另一个地点的数据。以两个Redis数据库之间的数据互通为例,现有的Redis数据库数据互通方法,通常是直接将两个Redis数据库之间的数据进行传输,由于Redis数据库可能包括历史数据又有实时写入的增量数据,使得数据传输的过程中极易出错,往往很难在不影响数据的情况下实现数据互通,用户体验较差。
技术实现思路
本公开实施例提供了一种数据互通方法、装置、终端及存储介质,解决现有技术中数据库与数据库直接进本文档来自技高网...

【技术保护点】
1.一种数据互通方法,其特征在于,包括:通过第二数据库接收第一数据库通过第一数据管道TPIPE组件实时传输的待同步数据;控制所述第二数据库通过第二数据管道TPIPE组件向所述第二数据库的从数据库传输所述第二数据库中的全量数据;其中,所述待同步数据包括所述第一数据库的历史数据和所述第一数据库中的第一增量数据,所述全量数据包括所述第一数据库传输的待同步数据和所述第二数据库中的本端写入数据,所述第一数据管道TPIPE组件用于有序传输所述待同步数据,所述第二数据管道TPIPE组件用于有序传输所述全量数据。

【技术特征摘要】
1.一种数据互通方法,其特征在于,包括:通过第二数据库接收第一数据库通过第一数据管道TPIPE组件实时传输的待同步数据;控制所述第二数据库通过第二数据管道TPIPE组件向所述第二数据库的从数据库传输所述第二数据库中的全量数据;其中,所述待同步数据包括所述第一数据库的历史数据和所述第一数据库中的第一增量数据,所述全量数据包括所述第一数据库传输的待同步数据和所述第二数据库中的本端写入数据,所述第一数据管道TPIPE组件用于有序传输所述待同步数据,所述第二数据管道TPIPE组件用于有序传输所述全量数据。2.根据权利要求1所述的方法,其特征在于,还包括:当满足第一同步条件时,控制所述第二数据库接收所述第二数据库的第一双写组件写入的所述第一数据库实时传输的待同步数据。3.根据权利要求2所述的方法,其特征在于,所述第一同步条件包括下述条件中的至少一个:接收到用户的第一切换指令;当前数据同步时间达到预设的第一同步时长阈值;已接收到所述第一数据库实时传输所述第一数据库的所有的历史数据;第二数据库待接收的待同步数据满足预设条件,其中,所述预设条件包括所述待接收的待同步数据的数据量处于预设的阈值范围内。4.根据权利要求2所述的方法,其特征在于,还包括:当满足第二同步条件时,控制所述第二数据库通过所述第一双写组件向所述从数据库中写入所述第二数据库中的第二增量数据。5.根据权利要求4所述的方法,其特征在于,还包括:控制所述第二数据库接收所述从数据库通过所述从数据库的第二双写组件写入的所述从数据库的所述第二增量数据。6.根据权利要求1所述的方法,其特征在于,还包括:当所述从数据库接收到用户的访问请求时,根据所述用户的属性信息确定所述用户的访问权限。7.一种数据互通方法,其特征在于,包括:控制第一数据库向第一数据管道TPIPE组件传输所述第一数据库的待同步数据;控制所述第一数据管道TPIPE组件向第二数据库实时传输的所述第一数据库的待同步数据;其中,所述待同步数据包括所述第一数据库的历史数据和所述第一数据库中的第一增量数据所述第一数据管道TPIPE组件用于有序传输所述待同步数据,所述第二数据管道TPIPE组件用于有序传输所述全量数据。8.根据权利要求7所述的方法,其特征在于,所述控制第一数据库向第一数据管道TPIPE组件传输所述第一数据库的待同步数据,包括:控制第一数据库通过第一数据管道TPI...

【专利技术属性】
技术研发人员:宋维捷
申请(专利权)人:北京字节跳动网络技术有限公司
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1