一种数据传输方法技术

本发明专利技术公开了一种数据传输方法，所述方法应用于源消息队列集群，包括：确定所述源消息队列集群中源消费者所消费的当前消费数据；向目标消息队列集群发送包含所述当前消费数据的当前写入请求以及包含源消费位移的当前提交请求，所述当前写入请求用于请求将所述当前消费数据写入所述目标消息队列集群，所述当前提交请求用于请求将所述源消费位移提交至所述目标消息队列集群，所述源消费位移为所述消费数据在所述源消息队列集群中的消费位移，所述目标消息队列集群为所述源消息队列集群所连接的消息队列集群。该方法能够使目标消息队列集群在同一目标事务中，保证数据传输的一致性，进而提高数据传输的效率。进而提高数据传输的效率。进而提高数据传输的效率。

【技术实现步骤摘要】
一种数据传输方法


[0001]本专利技术涉及通信
，尤其涉及一种数据传输方法。

技术介绍

[0002]随着业务的发展，越来越多的分布式部署架构下用户的业务系统分散在不同网络域内，为保证业务系统的可靠运行需要对其进行相关的可观测性分析，而可观测性分析需要保证数据传输的一致性。
[0003]现有传输方法中通过TCP、UDP或syslog等方式直接传输时，会受网络环境等方面的影响往往无法有效保证数据汇聚的一致性。而当接收端采用消息队列的方式进行传输时，则需要在确保数据送达后再提交消息队列的消费位移，但发送端可能无法准确获取数据送达的回调消息，将会导致数据的重复发送，使得接收端需要额外的程序来保证对重复数据的对比和剔除，故此类传输方法的传输效率较低。

技术实现思路

[0004]本专利技术提供了一种数据传输方法，以在保证数据传输一致性的基础上，提高数据传输的效率。
[0005]根据本专利技术的一方面，提供了一种数据传输方法，所述方法应用于源消息队列集群，包括：
[0006]确定所述源消息队列集群中源消费者所消费的当前消费数据；
[0007]向目标消息队列集群发送包含所述当前消费数据的当前写入请求以及包含源消费位移的当前提交请求，所述当前写入请求用于请求将所述当前消费数据写入所述目标消息队列集群，所述当前提交请求用于请求将所述源消费位移提交至所述目标消息队列集群，所述源消费位移为所述消费数据在所述源消息队列集群中的消费位移，所述目标消息队列集群为所述源消息队列集群所连接的消息队列集群。
[0008]可选的，在所述确定所述源消息队列集群中源消费者所消费的当前消费数据之前，还包括：
[0009]向所述目标消息队列集群发送位移读取请求，并接收所述目标消息队列集群返回的上一目标消费位移；
[0010]所述确定所述源消息队列集群中源消费者所消费的当前消费数据，包括：
[0011]基于所述上一目标消费位移确定所述源消息队列集群中源消费者所消费的当前消费数据。
[0012]可选的，在所述向目标消息队列集群发送包含所述当前消费数据的当前写入请求以及包含源消费位移的当前提交请求之后，还包括：
[0013]接收所述目标消息队列集群发送的响应信息，所述响应信息与所述当前提交请求对应。
[0014]可选的，在所述确定所述源消息队列集群中源消费者所消费的当前消费数据之
前，还包括：
[0015]创建所述源消息队列集群的源消费者。
[0016]可选的，所述源消息队列集群为Kafka集群。
[0017]可选的，在所述确定所述源消息队列集群中源消费者所消费的当前消费数据之后，还包括：
[0018]若所述源消息队列集群与所述目标消息队列集群连接异常，则重新建立所述源消息队列集群与所述目标消息队列集群的连接，返回执行所述确定所述源消息队列集群中源消费者所消费的当前消费数据的步骤。
[0019]根据本专利技术的另一方面，提供了一种数据传输方法，所述方法应用于目标消息队列集群，包括：
[0020]接收源消息队列集群发送的包含当前消费数据的当前写入请求以及包含源消费位移的当前提交请求；
[0021]在同一目标事务中，将所述当前消费数据存储至所述目标消息队列集群，以及基于所述源消费位移确定当前目标消费位移，所述当前目标消费位移为所述当前消费数据在所述目标消息队列集群中的消费位移。
[0022]可选的，在所述接收源消息队列集群发送的包含当前消费数据的当前写入请求以及包含源消费位移的当前提交请求之前，还包括：
[0023]接收所述源消息队列集群发送的位移读取请求，并返回上一目标消费位移至所述源消息队列集群，所述上一目标消费位移与所述位移读取请求相对应。
[0024]可选的，在所述将所述当前消费数据存储至所述目标消息队列集群，以及基于所述源消费位移确定当前目标消费位移之后，还包括：
[0025]发送响应信息至所述源消息队列集群，所述响应信息与所述当前提交请求对应，所述响应信息用于表征已将所述源消费位移提交至所述目标消息队列集群。
[0026]可选的，在所述接收源消息队列集群发送的包含当前消费数据的当前写入请求以及包含源消费位移的当前提交请求之前，还包括：
[0027]创建所述目标消息队列集群对应的至少一个虚拟消费者；
[0028]所述基于所述源消费位移确定当前目标消费位移，包括：
[0029]根据所述当前提交请求通过目标虚拟消费者组将所述源消费位移提交至所述目标消息队列集群，所述目标虚拟消费者组包括目标虚拟消费者。
[0030]可选的，所述目标消息队列集群为Kafka集群。
[0031]本专利技术实施例提供了一种数据传输方法，所述方法应用于源消息队列集群，包括：确定所述源消息队列集群中源消费者所消费的当前消费数据；向目标消息队列集群发送包含所述当前消费数据的当前写入请求以及包含源消费位移的当前提交请求，所述当前写入请求用于请求将所述当前消费数据写入所述目标消息队列集群，所述当前提交请求用于请求将所述源消费位移提交至所述目标消息队列集群，所述源消费位移为所述消费数据在所述源消息队列集群中的消费位移，所述目标消息队列集群为所述源消息队列集群所连接的消息队列集群。利用上述技术方案，通过向目标消息队列集群发送包含当前消费数据的当前写入请求以及包含源消费位移的当前提交请求，能够使目标消息队列集群在同一目标事务中，实现将当前消费数据存储至目标消息队列集群，以及基于源消费位移确定当前目标
消费位移，从而在保证数据传输一致性的基础上，提高了数据传输的效率。
[0032]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0033]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0034]图1是根据本专利技术实施例一提供的一种数据传输方法的流程图；
[0035]图2是根据本专利技术实施例二提供的一种数据传输方法的流程图；
[0036]图3是根据本专利技术实施例二提供的另一种数据传输方法的流程图。
具体实施方式
[0037]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0038]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“目标”、“原始”等是用于区别类似的对本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据传输方法，其特征在于，所述方法应用于源消息队列集群，包括：确定所述源消息队列集群中源消费者所消费的当前消费数据；向目标消息队列集群发送包含所述当前消费数据的当前写入请求以及包含源消费位移的当前提交请求，所述当前写入请求用于请求将所述当前消费数据写入所述目标消息队列集群，所述当前提交请求用于请求将所述源消费位移提交至所述目标消息队列集群，所述源消费位移为所述消费数据在所述源消息队列集群中的消费位移，所述目标消息队列集群为所述源消息队列集群所连接的消息队列集群。2.根据权利要求1所述的方法，其特征在于，在所述确定所述源消息队列集群中源消费者所消费的当前消费数据之前，还包括：向所述目标消息队列集群发送位移读取请求，并接收所述目标消息队列集群返回的上一目标消费位移；所述确定所述源消息队列集群中源消费者所消费的当前消费数据，包括：基于所述上一目标消费位移确定所述源消息队列集群中源消费者所消费的当前消费数据。3.根据权利要求1所述的方法，其特征在于，在所述向目标消息队列集群发送包含所述当前消费数据的当前写入请求以及包含源消费位移的当前提交请求之后，还包括：接收所述目标消息队列集群发送的响应信息，所述响应信息与所述当前提交请求对应。4.根据权利要求1所述的方法，其特征在于，在所述确定所述源消息队列集群中源消费者所消费的当前消费数据之前，还包括：创建所述源消息队列集群的源消费者。5.根据权利要求1所述的方法，其特征在于，所述源消息队列集群为Kafka集群。6.根据权利要求1所述的方法，其特征在于，在所述确定所述源消息队列集群中源消费者所消费的当前消费数据之后，还包括：若所述源消息队列集群与所述目标消息队列集群连接异常，则重新建立所述源消息队列集群与所述目标消息...

【专利技术属性】
技术研发人员：赵文月，李金龙，王文静，
申请(专利权)人：湖南省爱数信息技术有限公司，
类型：发明
国别省市：