【技术实现步骤摘要】
消息延迟消费方法及相关产品
[0001]本申请涉及信息处理
,具体涉及一种消息延迟消费方法及相关产品。
技术介绍
[0002]kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写,是一种高吞吐量的分布式发布订阅消息系统。由于其具有更好的吞吐量,内置的分区,多副本和容错功能,这使其成为大规模消息处理应用程序的良好解决方案。
[0003]但是在某些业务场景下,在一个事务内的最后一步是发送kafka消息,但是这个事物确未提交,消费端收到通知后读取数据并做处理。但是由于kafka几乎是即时收到消息,导致偶尔出现“在发完kafka和提交事务的间隙,消费端收到了消息并读取到了事务提交前的数据”,导致消息处理失败。
[0004]因此如何解决由于kafka的即时性带来的消息处理失败问题是目前亟待解决的问题。
技术实现思路
[0005]本申请实施例提供了一种消息延迟消费方法及相关产品,通过延迟消费kafka中的消息,解决了由于kafka的即时性带来的消息处理失败问题。
[0006]第一方面,本申请实施例提供一种消息延迟消费方法,应用于延迟消费系统的第一服务器,其中,所述延迟消费系统还包括第二服务器和第三服务器,其中,所述第一服务器位于延迟服务端、所述第二服务器位于生产端以及所述第三服务器位于消费端;所述方法包括:
[0007]所述第一服务器从消息队列的预设主题中消费待消费延迟消息,并将所述待消费延迟消息存储到预设数据库,其中,所述待消费延迟消息是 ...
【技术保护点】
【技术特征摘要】
1.一种消息延迟消费方法,其特征在于,应用于延迟消费系统的第一服务器,其中,所述延迟消费系统还包括第二服务器和第三服务器,其中,所述第一服务器位于延迟服务端、所述第二服务器位于生产端以及所述第三服务器位于消费端;所述方法包括:所述第一服务器从消息队列的预设主题中消费待消费延迟消息,并将所述待消费延迟消息存储到预设数据库,其中,所述待消费延迟消息是由所述第二服务器发布到所述消息队列的所述预设主题中的,所述待消费延迟消息包括原始消息、所述原始消息的原始主题以及所述原始消息的延迟时间;所述第一服务器周期性的扫描所述预设数据库,从所述预设数据库中获取目标延迟消息,其中,目标延迟消息为所述预设数据库中当前存储的所有延迟消息中延迟时间小于或等于第一时长的延迟消息,其中,所述第一时长为当前时刻和所述第一服务器消费所述目标延迟消息的时刻之间的差值;所述第一服务器获取所述目标延迟消息的目标主题,并将所述目标延迟消息中的原始消息发回到所述消息队列中的所述目标主题,以便所述第三服务器从所述目标主题中消费所述目标延迟消息中的原始消息。2.根据权利要求1所述的方法,其特征在于,所述消费待消费延迟消息是所述第二服务器通过执行以下步骤得到的:所述第二服务器对生产者生产的所述原始消息进行类型识别,确定所述原始消息为需要进行延迟消费的消息;所述第二服务器对所述原始信息进行主题识别,得到所述原始消息的原始主题;所述第二服务器根据所述生产者在多个特征维度下的多个用户特征数据,确定所述原始消息的延迟时间;所述第二服务器将所述原始消息、所述原始消息的原始主题以及所述原始消息的延迟时间封装为所述待消费延迟消息。3.根据权利要求2所述的方法,其特征在于,所述第二服务器根据所述生产者在多个特征维度下的多个用户特征数据,确定所述原始消息的延迟时间,包括:所述第二服务器根据所述生产者在所述多个特征维度下的多个用户特征数据以及每个候选用户在所述多个特征维度下的多个用户特征数据,从多个候选用户中获取多个目标用户,其中,所述多个目标用户中的任意一个所述目标用户与所述生产者至少在一个所述特征维度下具有相同的用户特征数据;所述第二服务器根据所述生产者在所述多个特征维度下的多个用户特征数据,以及每个所述目标用户在所述多个特征维度下的多个用户特征数据,确定所述原始消息的延迟时间。4.根据权利要求3所述的方法,其特征在于,所述第二服务器根据所述生产者在所述多个特征维度下的多个用户特征数据,以及每个所述目标用户在所述多个特征维度下的多个用户特征数据,确定所述原始消息的延迟时间,包括:所述第二服务器通过语义提取模型对所述生产者在所述多个特征维度下的多个用户特征数据进行向量化,得到所述生产者的第一特征向量;所述第二服务器通过所述语义提取模型分别对每个所述目标用户在所述多个特征维度下的多个用户特征数据进行向量化,得到每个所述目标用户的第二特征向量;
所述第二服务器基于所述生产者的权重以及每个所述目标用户的权重,对所述生产者的第一特征向量以及每个所述目标用户的第二特征向量进行加权,得到目标特征向量;所述第二服务器将所述目标特征向量输入到多层感知器中进行时间预测,得到所述原始消息的延迟时间。5.根据权利要求3或4所述的方法,其特征在于,所述第二服务器基于所述生产者的权重以及每个所述目标用户的权重,对所述生产者的第一特征向量以及每个所述目标用户的第二特征向量进行加权之前,所述方法还包括:所述...
【专利技术属性】
技术研发人员:舒司廷,
申请(专利权)人:平安普惠企业管理有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。