【技术实现步骤摘要】
大数据集群的更新方法、装置、计算机设备和存储介质
本申请涉及到计算机领域,特别是涉及到一种大数据集群的更新方法、装置、计算机设备和存储介质。
技术介绍
现在大数据管理工具有很多,大部分工具都是针对单个集群进行管理,没有多集群监控管理工具。对于大公司而言,集群多样化是正常需求,基本上都会十几套集群,目前的方案或者对每套集群都单独管理(例如更新),维护成本高,管理不便;或者专门搭建一个管理平台,对多个大数据集群进行统一管理,那么则需要额外搭建专门用于管理的平台,费时费力;或者由每个终端都自行管理,则难以实现统一管理,效率低且错误率高。因此,目前的技术方案缺乏对多个大数据集群进行高效更新的方法。
技术实现思路
本申请的主要目的为提供一种大数据集群的更新方法、装置、计算机设备和存储介质,旨在提高多个大数据集群进行更新的效率。为了实现上述专利技术目的,本申请提出一种大数据集群的更新方法,应用于指定终端,所述指定终端同时归属于多个大数据集群,包括:获取所述指定终端归属的大数据集群的数量,并判断所述大数 ...
【技术保护点】
1.一种大数据集群的更新方法,其特征在于,应用于指定终端,所述指定终端同时归属于多个大数据集群,包括:/n获取所述指定终端归属的大数据集群的数量,并判断所述大数据集群的数量是否大于预设的数量阈值;/n若所述大数据集群的数量大于预设的数量阈值,则从预设的数据库中获取更新数据;其中所述更新数据标注有指定版本号,所述数据库被设置为仅允许第一节点进行访问,所述第一节点同时归属的大数据集群的数量大于所述数量阈值;/n判断所述指定版本号是否满足预设的更新触发条件;/n若所述指定版本号满足预设的更新触发条件,则根据预设的更新策略获取规则,获取与所述指定版本号对应的指定更新策略;/n判断所 ...
【技术特征摘要】 【专利技术属性】
1.一种大数据集群的更新方法,其特征在于,应用于指定终端,所述指定终端同时归属于多个大数据集群,包括:
获取所述指定终端归属的大数据集群的数量,并判断所述大数据集群的数量是否大于预设的数量阈值;
若所述大数据集群的数量大于预设的数量阈值,则从预设的数据库中获取更新数据;其中所述更新数据标注有指定版本号,所述数据库被设置为仅允许第一节点进行访问,所述第一节点同时归属的大数据集群的数量大于所述数量阈值;
判断所述指定版本号是否满足预设的更新触发条件;
若所述指定版本号满足预设的更新触发条件,则根据预设的更新策略获取规则,获取与所述指定版本号对应的指定更新策略;
判断所述指定更新策略中是否记载有除所述指定终端之外的其他终端;
若所述指定更新策略中未记载除所述指定终端之外的其他终端,则根据所述指定更新策略,利用所述更新数据,更新所述指定终端。
2.根据权利要求1所述的大数据集群的更新方法,其特征在于,所述数据库在获取新的数据时会生成快照;
所述从预设的数据库中获取更新数据的步骤,包括:
获取创建时间离当前时间最近的第一快照卷,以及获取创建时间离所述第一快照卷的创建时间最近的第二快照卷;
比较所述第一快照卷和所述第二快照卷,从而获得所述第一快照卷相对于所述第二快照卷的差异数据,其中,所述差异数据标注有指定版本号;
将所述差异数据记为所述更新数据,并获取所述更新数据。
3.根据权利要求2所述的大数据集群的更新方法,其特征在于,所述第一快照卷以指定哈希值作为密钥进行加密为第一密文,所述指定哈希值通过对所述第二快照卷采用指定哈希算法计算而生成,所述获取创建时间离当前时间最近的第一快照卷,以及获取创建时间离所述第一快照卷的创建时间最近的第二快照卷的步骤,包括:
获取所述第一密文和所述第二快照卷,其中所述第一密文的创建时间离当前时间最近,所述第二快照卷的创建时间离所述第一密文最近;
对所述第二快照卷采用所述指定哈希算法进行哈希计算,从而得到所述指定哈希值;
采用所述指定哈希值作为密钥对所述第一快照卷密文进行解密,从而得到所述第一快照卷。
4.根据权利要求1所述的大数据集群的更新方法,其特征在于,所述指定版本号为a1.a2.a3.….am;
所述判断所述指定版本号是否满足预设的更新触发条件的步骤,包括:
根据公式:A=(k1·a1,k2·a2,k3·a3,…,km·am),生成版本号向量A,其中k1、k2、k3、…、km为预设的参数;
根据公式:计算得到相似程度值D,其中A为版本号向量,B为预设的标准向量,Ai为所述版本号向量A的第i个分向量,Bi为所述标准向量B的第i个分向量;
判断所述相似程度值D是否大于预设的相似程度阈值;
若所述相似程度值D大于预设的相似程度阈值,则判定所述指定版本号满足预设的更新触发条件。
5.根据权利要求4所述的大数据集群的更新方法,其特征在于,所述根据预设的更新策略获取规则,获取与所述指定版本号对应的指定更新策略的步骤,包括:
技术研发人员:姚文彤,万书武,贺波,
申请(专利权)人:平安科技深圳有限公司,
类型:发明
国别省市:广东;44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。