消息处理方法和装置、存储介质和电子装置制造方法及图纸

本申请提供了一种消息处理方法和装置、存储介质和电子装置，其中，该方法包括：获取具有目标消息标识的待处理数据，其中，待处理数据为从与目标流处理任务对应的多个节点处收集的数据，目标流处理任务为目标消息由被生产节点生产到被消费节点消费的流处理任务，目标消息标识用于唯一标识目标消息；在根据待处理数据确定目标消息未被正常消费的情况下，将目标消息添加到目标消息队列中，其中，目标消息队列中存储有与待处理的流处理任务对应的消息。通过本申请，解决了相关技术中的数据分发方式存在的数据易丢失的问题，保证了数据正确性，节省了人力成本。

Message processing method and device, storage medium and electronic device

【技术实现步骤摘要】
消息处理方法和装置、存储介质和电子装置
本申请涉及计算机领域，尤其涉及一种消息处理方法和装置、存储介质和电子装置。
技术介绍
目前，一些公司的消息服务提供数据变更消息，调用RPC(RemoteProcedureCall，远程过程调用)接口获取实体数据。消息服务的单个实体的数据量大，为节省开发和资源成本，可以统一对接消息服务，采用kafka(一种开源流处理平台)将实时数据进行分发，服务于各个业务方。虽然kafka具有高吞吐量，高并发，低延迟等特性，但是容易产生数据丢失。例如，在使用checkpoint(检查点)进行流处理任务处理时，kafka集群升级需要手动删除，或者，启动两个流程序同时运行，或者，将偏移量存储外部数据库。然而，kafka集群升级或者业务逻辑错误易导致数据丢失，且难以发现，需要人工干预，维护成本很高。因此，相关技术中的数据分发方式，存在数据易丢失的问题。
技术实现思路
本申请实施例提供了一种消息处理方法和装置、存储介质和电子装置，以至少解决相关技术中的数据分发方式存在的数据易丢失的问题。本文档来自技高网...

【技术保护点】
1.一种消息处理方法，其特征在于，包括：/n获取具有目标消息标识的待处理数据，其中，所述待处理数据为从与目标流处理任务对应的多个节点处收集的数据，所述目标流处理任务为目标消息由被生产节点生产到被消费节点消费的流处理任务，所述目标消息标识用于唯一标识所述目标消息；/n在根据所述待处理数据确定所述目标消息未被正常消费的情况下，将所述目标消息添加到目标消息队列中，其中，所述目标消息队列中存储有与待处理的流处理任务对应的消息。/n

【技术特征摘要】
1.一种消息处理方法，其特征在于，包括：
获取具有目标消息标识的待处理数据，其中，所述待处理数据为从与目标流处理任务对应的多个节点处收集的数据，所述目标流处理任务为目标消息由被生产节点生产到被消费节点消费的流处理任务，所述目标消息标识用于唯一标识所述目标消息；
在根据所述待处理数据确定所述目标消息未被正常消费的情况下，将所述目标消息添加到目标消息队列中，其中，所述目标消息队列中存储有与待处理的流处理任务对应的消息。


2.根据权利要求1所述的方法，其特征在于，所述获取具有目标消息标识的待处理数据包括：
从数据库中读取目标时间段内的目标数据，其中，所述数据库中存储有从节点集群中的各个节点收集的数据，所述目标时间段的起始时刻与当前时刻的时间差为目标差值；
使用所述目标消息标识从所述目标数据中匹配出具有所述目标消息标识的所述待处理数据。


3.根据权利要求2所述的方法，其特征在于，在所述获取具有目标消息标识的待处理数据之前，所述方法还包括：
接收所述多个节点发送的所述待处理数据，其中，所述待处理数据包括所述生产节点发送的第一数据和其他节点发送的第二数据，所述第一数据包括所述目标消息、所述目标消息标识和时间戳，所述其他节点为所述多个节点中除了所述生产节点以外的节点，所述第二数据包括所述目标消息标识和时间戳；
将所述待处理数据保存到所述数据库中。


4.根据权利要求1所述的方法，其特征在于，在所述获取具有目标消息标识的待处理数据之后，所述方法还包括：
根据具有所述目标消息标识的所述待处理数据，确定所述目标消息在各个相邻节点的后一个节点处是否被正常消费，其中，所述相邻节点为所述多个节点中按照所述目标流处理任务具有相邻关系的两个节点；
在确定出所述目标消息在所述多个节点中的目标节点未被正常消费的情况下，确定所述目标消息未被正常消费。


5.根据权利要求4所述的方法，其特征在于，
在所述将所述目标消息添加到目标消息...

【专利技术属性】
技术研发人员：杨学毅，李仓良，祝梦遥，
申请(专利权)人：北京奇艺世纪科技有限公司，
类型：发明
国别省市：北京;11