【技术实现步骤摘要】
基于顺序消息的扩、缩容方法和装置以及电子设备
本专利技术涉及计算机
,尤其涉及一种基于顺序消息的扩、缩容方法和装置以及电子设备。
技术介绍
在分布式消息系统中,消息数据都有特定的主题(Topic)属性,其具有顺序追加、全局有限的特点,因此称之为顺序消息。当系统的存储或计算资源不足时,需要添加新的服务器,即,进行系统扩容;当某台服务器异常宕机或者出于系统规划需求而减少部分资源时,则需要去掉相应的服务器,即,进行系统缩容。在进行系统扩缩容的同时,对存储于原有拓扑结构各服务器中的数据(顺序消息)进行重新分配,使得资源均衡分布于新的拓扑结构中。传统的分布式系统扩缩容主要包括以下三个方面:1、全量复制,即,将原有的数据重新分布到新的拓扑结构中;2、增量同步,即,把新增的数据重新分布到新的拓扑结构中;3、停写切换,即,在全量复制完成后,增量正在同步时,选择合适的时机对原有服务器采取停写操作,然后把原有的数据路由拓扑切换到新的路由拓扑上。专利技术人在实现本专利技术的过程中,发现现有技术至少存在如下问题:传统的扩缩容技术,在全量复制、增量同步和停写切换三个方面均存在局限性。 ...
【技术保护点】
1.一种基于顺序消息的扩容方法,其特征在于,所述顺序消息依次存储于数据文件中,所述顺序消息的地址存储于多个目录文件中,每个所述目录文件对应一个消费者,所述方法包括:分别记录各待扩容目录文件的最大位点快照,每个所述待扩容目录文件的最大位点用于指向与之相对应的最新写入的所述顺序消息;同时,控制待扩容服务器开启写模式;当各所述待扩容目录文件中,消费位点均大于或等于所述最大位点快照时,控制所述待扩容服务器开启读模式,所述消费位点用于指向所述消费者当前读取的所述顺序消息。
【技术特征摘要】
1.一种基于顺序消息的扩容方法,其特征在于,所述顺序消息依次存储于数据文件中,所述顺序消息的地址存储于多个目录文件中,每个所述目录文件对应一个消费者,所述方法包括:分别记录各待扩容目录文件的最大位点快照,每个所述待扩容目录文件的最大位点用于指向与之相对应的最新写入的所述顺序消息;同时,控制待扩容服务器开启写模式;当各所述待扩容目录文件中,消费位点均大于或等于所述最大位点快照时,控制所述待扩容服务器开启读模式,所述消费位点用于指向所述消费者当前读取的所述顺序消息。2.根据权利要求1所述的基于顺序消息的扩容方法,其特征在于,在所述分别记录各待扩容目录文件的最大位点快照之前,还包括:在各所述目录文件中,比较所述消费位点与最小位点的大小,所述最小位点用于指向最早写入的所述顺序消息;当所述消费位点大于或者等于所述最小位点时,将所述目录文件确定为所述待扩容目录文件。3.根据权利要求1所述的基于顺序消息的扩容方法,其特征在于,还包括:在控制待扩容服务器开启写模式的同时,开启计时器;当所述计时器的计时时间达到预设时间阈值时,控制所述待扩容服务器开启读模式。4.一种基于顺序消息的缩容方法,其特征在于,所述顺序消息依次存储于数据文件中,所述顺序消息的地址存储于多个目录文件中,每个所述目录文件对应一个消费者,所述方法包括:分别记录各待缩容目录文件的最大位点快照,每个所述待缩容目录文件的最大位点用于指向与之相对应的最新写入的所述顺序消息;同时,控制待缩容服务器关闭写模式;当各所述待缩容目录文件中,消费位点均大于或等于所述最大位点快照时,控制所述待缩容服务器关闭读模式,所述消费位点用于指向所述消费者当前读取的所述顺序消息。5.根据权利要求4所述的基于顺序消息的缩容方法,其特征在于,在所述分别记录各待缩容目录文件的最大位点快照之前,还包括:在各所述目录文件中,比较所述消费位点与最小位点的大小,所述最小位点用于指向最早写入的所述顺序消息;当所述消费位点大于或者等于所述最小位点时,将所述目录文件确定为所述待缩容目录文件。6.根据权利要求4所述的基于顺序消息的缩容方法,其特征在于,还包括:在控制待缩容服务器关闭写模式的同时,开启计时器;当所述计时器的计时时间达到预设时间阈值时,控制所述待缩容服务器关闭读模式。7.一种基于顺序消息的扩容装置,其特征在于,所述顺序消息依次存储于数据文件中,所述顺序消息的地址存储于多个目录文件中,每...
【专利技术属性】
技术研发人员:冯嘉,王小瑞,周唯,
申请(专利权)人:阿里巴巴集团控股有限公司,
类型:发明
国别省市:开曼群岛,KY
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。