消息复制方法、装置、设备及计算机可读介质制造方法及图纸

技术编号:29458527 阅读:20 留言:0更新日期:2021-07-27 17:26
本发明专利技术涉及软件工程技术领域,尤其涉及一种消息复制方法、装置、设备及计算机可读介质。该方法用于按消息拉取时间间隔将来自消息源的消息复制到复制数据库,包括:获取所述消息拉取时间间隔的配置信息,所述配置信息至少包括剩余存储消息容量信息;从所述消息拉取时间间隔内拉取到的消息中,按照获取的剩余存储消息容量信息,选择要复制到复制数据库中的目标消息;将选择的目标消息发送到所述复制数据库。本发明专利技术实施例的方法大大减轻了庞大的线上流量对系统造成的压力,提高了消息复制过程的存储效率、灵活性和准确性。

【技术实现步骤摘要】
消息复制方法、装置、设备及计算机可读介质
本专利技术涉及软件工程
,尤其涉及一种消息复制方法、装置、设备及计算机可读介质。
技术介绍
消息复制平台的主要功能包括流量存储过程和回放过程,流量存储针对不同的数据源(例如数据库、日志、异步消息等),其操作方式不同。在实现本专利技术的过程中,专利技术人发现:从异步消息中获取线上流量的方式由于其接收消息采用监听方式,存在线上流量过大、系统压力过大、无法自由控制消息接收过程等问题,而且,数据量开关配置是从数据库中读取,采用监听方式时会对每一个消息读取一次配置,数据库压力大,然而,将开关配置读取到内存中而定时同步数据库与内存缓存中的配置信息则会发生数据不一致的情况。针对上述的问题,目前尚未提出有效的解决方案,迫切需要一种新的消息复制方法来解决上述问题。
技术实现思路
鉴于此,为了解决上述技术问题或者至少部分地解决上述技术问题,本专利技术实施例提供了一种消息复制方法、装置、设备及计算机可读介质。第一方面,本专利技术实施例提供一种消息复制方法,用于按消息拉取时间间本文档来自技高网...

【技术保护点】
1.一种消息复制方法,用于按消息拉取时间间隔将来自消息源的消息复制到复制数据库,包括:/n获取所述消息拉取时间间隔的配置信息,所述配置信息至少包括剩余存储消息容量信息;/n从所述消息拉取时间间隔内拉取到的消息中,按照获取的剩余存储消息容量信息,选择要复制到复制数据库中的目标消息;/n将选择的目标消息发送到所述复制数据库。/n

【技术特征摘要】
1.一种消息复制方法,用于按消息拉取时间间隔将来自消息源的消息复制到复制数据库,包括:
获取所述消息拉取时间间隔的配置信息,所述配置信息至少包括剩余存储消息容量信息;
从所述消息拉取时间间隔内拉取到的消息中,按照获取的剩余存储消息容量信息,选择要复制到复制数据库中的目标消息;
将选择的目标消息发送到所述复制数据库。


2.根据权利要求1所述的消息复制方法,其中,所述将选择的目标消息发送到所述复制数据库,包括:
更新所述复制数据库中的配置信息而得到更新配置信息,将所述更新配置信息作为下一消息拉取时间间隔的配置信息。


3.根据权利要求1所述的消息复制方法,其中,所述获取所述消息拉取时间间隔的配置信息,包括:
向所述复制数据库发送配置信息请求;
接收从所述复制数据库返回的所述配置信息。


4.根据权利要求1所述的消息复制方法,其中,所述配置信息还包括过滤条件,
所述从所述消息拉取时间间隔内拉取到的消息中,按照获取的剩余存储消息容量信息,选择要复制到复制数据库中的目标消息,包括:
从所述消息拉取时间间隔内拉取到的消息中,选择符合所述过滤条件、且数量不超过所述剩余存储消息容量信息的消息,作为要复制到复制数据库中的目标消息。


5.根据权利要求4所述的消息复制方法,其中,所述过滤条件是指定的关键字。


6.根据权利要求4所述的消息复制方法,其中,所述从所述消息拉取时间间隔内拉取到的消息中,选择符合所述过滤条件、且数量不超过所述剩余存储消息容量信息的消息,作为要复制到复制数据库中的目标消息,包括:
从所述消息拉取时间间隔内拉取到的消息中,选择符合所述过滤条件的消息;
如果符合所述过滤条件的消息的数目大于所述剩余存储消息容量信息指示的数目,则从符合所述过滤条件的消息中保留所述剩余存储消息容量信息指示的数目的消息,作为要复制到复制数据库中的目标消息。


7.根据权利要求4所述的消息复制方法,其中,所述从所述消息拉取时间间隔内拉取到的消息中,选择符合所述过滤条件、且数量不超过所述剩余存储消息容量信息指示的数目的消息,作为要复制到复制数据库中的目标消息,包括:
设置计数器的初始值等于所述剩余存储消息容量信息指示的数目;
确定所述消息拉取时间间隔内拉取到的消息中的一个消息,如果该...

【专利技术属性】
技术研发人员:赵薇
申请(专利权)人:京东数字科技控股股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1