【技术实现步骤摘要】
分析型数据库和全文检索引擎的融合方法以及相关装置
[0001]本申请涉及分布式分析型数据库
,特别是涉及一种分析型数据库和全文检索引擎的融合方法以及相关装置。
技术介绍
[0002]随着互联网的普及和物联网的广泛应用,各种业务系统的数据量也出现了飞速的增长。原先单机分析型数据库系统可以搞定的技术,在如此巨大的数据量情况下已经变得举步维艰。由于单机分析型数据库无法做到水平扩展,所以分布式分析型数据库也就应运而生。但分布式分析型数据库在解决了一个问题的同时,又引入了一系列新的问题。分布式分析型数据库百花齐放,但没有哪一款分布式分析型数据库可以集百家之所长,即无法做到基于同一款分析型数据库,在增加服务器数量的情况下,大规模数据量和单机的小规模数据量能达到同样的性能。
[0003]以数学公式举例(DB1表示单机分析型数据库,DB2、DB3表示不同种类的分布式分析型数据库,Data表示单机分析型数据库处理范围内的一定量数据,Node表示服务器节点):DB1*Data/Node≠DB2*N*Data/N*Node;DB1* ...
【技术保护点】
【技术特征摘要】
1.一种分析型数据库和全文检索引擎的融合方法,其特征在于,包括:在分析型数据库中建立ES外部表;其中,所述ES外部表包括客户端指定的至少一个索引,用于保存全文检索引擎的相关配置信息,所述相关配置信息包括所述至少一个索引的相关属性;针对所述ES外部表中的每个索引,响应于验证出所述索引的相关属性没有问题,且响应于所述索引的自动创建功能开启,在所述全文检索引擎中创建所述索引,并利用所述索引在所述ES外部表中建立所述分析型数据库与所述全文检索引擎之间的关联关系;响应于所述关联关系建立成功,连接所述全文检索引擎并从所述全文检索引擎中获取所述索引的关联信息;响应于所述关联信息无异常,将所述关联信息保存至所述ES外部表中。2.根据权利要求1所述的融合方法,其特征在于,所述响应于所述关联信息无异常,将所述关联信息保存至所述ES外部表中的步骤之后,包括:每隔预设时间间隔唤醒所述ES外部表,并将所述ES外部表连接所述全文检索引擎以周期性同步所述ES外部表中关联的所述关联信息。3.根据权利要求1所述的融合方法,其特征在于,所述响应于所述关联信息无异常,将所述关联信息保存至所述ES外部表中的步骤之后,包括:重置对象构建器并从所述分析型数据库中读入下一个待插入元组;其中,所述对象构建器用于将所述待插入元组转化为对应的字符串对象,所述字符串对象可为所述全文检索引擎所识别;响应于所述分析型数据库中仍然存在待插入元组,用所述对象构建器构建批量插入请求body;响应于所述批量插入请求body中包含的待插入元组的数量达到第一阈值,连接从所述全文检索引擎获取的一主控节点,并将所述待插入元组批量写入所述主控节点中对应的索引;响应于成功将所述待插入元组批量写入所述主控节点中对应的索引,获得返回的第一解析http反馈信息;响应于所述第一解析http反馈信息中没有错误,返回至所述重置对象构建器并从所述分析型数据库中读入下一个待插入元组的步骤。4.根据权利要求3所述的融合方法,其特征在于,所述重置对象构建器并从所述分析型数据库中读入下一个待插入元组的步骤之后,还包括:响应于所述分析型数据库中不存在所述待插入元组,且响应于所述对象构建器中为非空状态,进入至所述连接从所述全文检索引擎获取的一主控节点,并将所述待插入元组批量写入所述主控节点中对应的索引的步骤。5.根据权利要求1所述的融合方法,其特征在于,所述响应于所述关联信息无异常,将所述关联信息保存至所述ES外部表中的步骤之后,还包括:响应于所述分析型数据库接收到...
【专利技术属性】
技术研发人员:朱林浩,陶帅,周明伟,
申请(专利权)人:浙江大华技术股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。