数据查询方法和装置制造方法及图纸

技术编号:17733904 阅读:28 留言:0更新日期:2018-04-18 11:24
本申请公开了数据查询方法和装置。所述方法的一具体实施方式包括:数据查询监控系统以第一预设时间为周期从第一服务器集群中获取数据查询日志,对数据查询日志进行分析,获取当前周期内各数据的URL的查询次数;热点数据发现系统将查询次数大于第一预设阈值的数据的URL作为热点数据的URL,从网站服务器集群中获取热点数据;第一服务器集群写入热点数据的URL和热点数据;第二服务器接收数据查询请求,确定目标第一服务器,向目标第一服务器发送数据查询请求;当确定待查询数据的URL是热点数据的URL,目标第一服务器将待查询数据发送给客户端。第一服务器集群中的各第一服务器仅存储热点数据,有效地减小了其内存开销。

Data query methods and devices

【技术实现步骤摘要】
数据查询方法和装置
本申请涉及计算机
,具体涉及互联网
,尤其涉及数据查询方法和装置。
技术介绍
随着互联网技术的迅猛发展和广泛应用,越来越多的用户通过互联网获取数据,因此导致数据的加载速度大幅降低,不能满足用户快速获取数据的需求。现有技术中通常是将所有的数据均存储在服务器集群中的各服务器中,当用户发起数据查询请求时,可以直接从服务器集群中的任一服务器中获取数据,从而提高数据的加载速度。然而,将所有的数据均存储在服务器集群中的各服务器中,导致服务器集群中的各服务器的内存开销较大。
技术实现思路
本申请的目的在于提出一种改进的数据查询方法和装置,来解决以上
技术介绍
部分提到的技术问题。第一方面,本申请提供了一种数据查询方法,所述方法包括:数据查询监控系统以第一预设时间为周期从第一服务器集群中的各第一服务器中获取数据查询日志,对所述数据查询日志进行分析,获取当前周期内各数据的统一资源定位符URL的查询次数;热点数据发现系统从所述数据查询监控系统获取各所述数据的URL的查询次数,将查询次数大于第一预设阈值的数据的URL作为热点数据的URL,从网站服务器集群中获取与所述热点数据的URL对应的热点数据,并将所述热点数据的URL和所述热点数据发送给所述第一服务器集群中的各第一服务器;所述第一服务器集群中的各第一服务器写入所述热点数据的URL和所述热点数据;第二服务器接收客户端发送的数据查询请求,从所述第一服务器集群中确定目标第一服务器,向所述目标第一服务器发送所述数据查询请求,其中,所述数据查询请求包括待查询数据的URL;所述目标第一服务器将所述数据查询请求写入所述数据查询日志中,并将所述待查询数据的URL与所述热点数据的URL进行匹配,响应于所述待查询数据的URL与所述热点数据的URL的匹配,获取所述待查询数据,并将所述待查询数据发送给所述客户端。在一些实施例中,所述方法还包括:响应于所述待查询数据的URL与所述热点数据的URL的不匹配,所述目标第一服务器从主从内存数据库集群中的从内存数据库集群中获取所述待查询数据,并将所述待查询数据发送给所述客户端,其中,所述主从数据库集群包括主内存数据库集群和所述从内存数据库集群,所述主内存数据库集群用于存储所述网站服务器集群中的数据,所述从内存数据库集群用于复制所述主内存数据库集群中存储的数据。在一些实施例中,所述方法还包括:所述网站服务器集群确定所述网站服务器集群中的数据发生变更,将变更后的数据更新到所述主内存数据库集群中。在一些实施例中,所述方法还包括:所述网站服务器集群生成数据变更消息,并将所述数据变更消息发送给所述热点数据发现系统,其中,所述数据更新消息包括待更新数据的URL和变更后的数据;所述热点数据发现系统将所述待更新数据的URL与所述热点数据的URL进行匹配;响应于所述待更新数据的URL与所述热点数据的URL的匹配,所述第一服务器集群中的各第一服务器将所述变更后的数据更新到与所述待更新数据的URL对应的数据中。在一些实施例中,所述第一服务器集群中的各第一服务器中存储的所述热点数据具有第一预设存储期限;所述方法还包括:响应于第一预设存储期限的到达,所述第一服务器集群中的各第一服务器删除所述热点数据的URL和所述热点数据。在一些实施例中,所述从所述第一服务器集群中确定目标第一服务器,包括:所述第二服务器基于负载均衡算法,从所述第一服务器集群中选取出所述目标第一服务器。第二方面,本申请提供了一种数据查询装置,所述装置包括:数据查询监控系统,配置用于以第一预设时间为周期从第一服务器集群中的各第一服务器中获取数据查询日志,对所述数据查询日志进行分析,获取当前周期内各数据的统一资源定位符URL的查询次数;热点数据发现系统,配置用于从所述数据查询监控系统获取各所述数据的URL的查询次数,将查询次数大于第一预设阈值的数据的URL作为热点数据的URL,从网站服务器集群中获取与所述热点数据的URL对应的热点数据,并将所述热点数据的URL和所述热点数据发送给所述第一服务器集群中的各第一服务器;所述第一服务器集群中的各第一服务器,配置用于写入所述热点数据的URL和所述热点数据;第二服务器,配置用于接收客户端发送的数据查询请求,从所述第一服务器集群中确定目标第一服务器,向所述目标第一服务器发送所述数据查询请求,其中,所述数据查询请求包括待查询数据的URL;所述目标第一服务器,配置用于将所述数据查询请求写入所述数据查询日志中,并将所述待查询数据的URL与所述热点数据的URL进行匹配,响应于所述待查询数据的URL与所述热点数据的URL的匹配,获取所述待查询数据,并将所述待查询数据发送给所述客户端。在一些实施例中,所述目标第一服务器进一步配置用于:响应于所述待查询数据的URL与所述热点数据的URL的不匹配,从主从内存数据库集群中的从内存数据库集群中获取所述待查询数据,并将所述待查询数据发送给所述客户端,其中,所述主从数据库集群包括主内存数据库集群和所述从内存数据库集群,所述主内存数据库集群用于存储所述网站服务器集群中的数据,所述从内存数据库集群用于复制所述主内存数据库集群中存储的数据。在一些实施例中,所述网站服务器集群进一步配置用于:确定所述网站服务器集群中的数据发生变更,将变更后的数据更新到所述主内存数据库集群中。在一些实施例中,所述网站服务器集群进一步配置用于:生成数据变更消息,并将所述数据变更消息发送给所述热点数据发现系统,其中,所述数据更新消息包括待更新数据的URL和变更后的数据;所述热点数据发现系统进一步配置用于:将所述待更新数据的URL与所述热点数据的URL进行匹配;所述第一服务器集群中的各第一服务器进一步配置用于:响应于所述待更新数据的URL与所述热点数据的URL的匹配,将所述变更后的数据更新到与所述待更新数据的URL对应的数据中。在一些实施例中,所述第一服务器集群中的各第一服务器中存储的所述热点数据具有第一预设存储期限;所述第一服务器集群中的各第一服务器进一步配置用于:响应于第一预设存储期限的到达,删除所述热点数据的URL和所述热点数据。在一些实施例中,所述第二服务器进一步配置用于:基于负载均衡算法,从所述第一服务器集群中选取出所述目标第一服务器。本申请提供的数据查询方法和装置,首先数据查询监控系统周期性地获取各数据的URL的查询次数,其次热点数据发现系统获取查询次数大于第一预设阈值的热点数据的URL,再次基于热点数据的URL从网站服务器集群中获取热点数据,最后第一服务器集群中的各第一服务器写入热点数据的URL和热点数据,当用户查询热点数据时,可以从第一服务器集群中的任一第一服务器中获取数据,第一服务器集群中的各第一服务器仅存储热点数据,从而有效地减小了第一服务器集群中的各第一服务器的内存开销。附图说明通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:图1是本申请可以应用于其中的示例性系统架构图;图2是根据本申请的数据查询方法的一个实施例的流程图;图3是根据本申请的数据查询方法的又一个实施例的流程图;图4是根据本申请的数据查询装置的一个实施例的结构示意图;图5是适于用来实现本申请实施例的服务器的计算机系本文档来自技高网...
数据查询方法和装置

【技术保护点】
一种数据查询方法,其特征在于,所述方法包括:数据查询监控系统以第一预设时间为周期从第一服务器集群中的各第一服务器中获取数据查询日志,对所述数据查询日志进行分析,获取当前周期内各数据的统一资源定位符URL的查询次数;热点数据发现系统从所述数据查询监控系统获取各所述数据的URL的查询次数,将查询次数大于第一预设阈值的数据的URL作为热点数据的URL,从网站服务器集群中获取与所述热点数据的URL对应的热点数据,并将所述热点数据的URL和所述热点数据发送给所述第一服务器集群中的各第一服务器;所述第一服务器集群中的各第一服务器写入所述热点数据的URL和所述热点数据;第二服务器接收客户端发送的数据查询请求,从所述第一服务器集群中确定目标第一服务器,向所述目标第一服务器发送所述数据查询请求,其中,所述数据查询请求包括待查询数据的URL;所述目标第一服务器将所述数据查询请求写入所述数据查询日志中,并将所述待查询数据的URL与所述热点数据的URL进行匹配,响应于所述待查询数据的URL与所述热点数据的URL的匹配,获取所述待查询数据,并将所述待查询数据发送给所述客户端。

【技术特征摘要】
1.一种数据查询方法,其特征在于,所述方法包括:数据查询监控系统以第一预设时间为周期从第一服务器集群中的各第一服务器中获取数据查询日志,对所述数据查询日志进行分析,获取当前周期内各数据的统一资源定位符URL的查询次数;热点数据发现系统从所述数据查询监控系统获取各所述数据的URL的查询次数,将查询次数大于第一预设阈值的数据的URL作为热点数据的URL,从网站服务器集群中获取与所述热点数据的URL对应的热点数据,并将所述热点数据的URL和所述热点数据发送给所述第一服务器集群中的各第一服务器;所述第一服务器集群中的各第一服务器写入所述热点数据的URL和所述热点数据;第二服务器接收客户端发送的数据查询请求,从所述第一服务器集群中确定目标第一服务器,向所述目标第一服务器发送所述数据查询请求,其中,所述数据查询请求包括待查询数据的URL;所述目标第一服务器将所述数据查询请求写入所述数据查询日志中,并将所述待查询数据的URL与所述热点数据的URL进行匹配,响应于所述待查询数据的URL与所述热点数据的URL的匹配,获取所述待查询数据,并将所述待查询数据发送给所述客户端。2.根据权利要求1所述的数据查询方法,其特征在于,所述方法还包括:响应于所述待查询数据的URL与所述热点数据的URL的不匹配,所述目标第一服务器从主从内存数据库集群中的从内存数据库集群中获取所述待查询数据,并将所述待查询数据发送给所述客户端,其中,所述主从数据库集群包括主内存数据库集群和所述从内存数据库集群,所述主内存数据库集群用于存储所述网站服务器集群中的数据,所述从内存数据库集群用于复制所述主内存数据库集群中存储的数据。3.根据权利要求2所述的数据查询方法,其特征在于,所述方法还包括:所述网站服务器集群确定所述网站服务器集群中的数据发生变更,将变更后的数据更新到所述主内存数据库集群中。4.根据权利要求3所述的数据查询方法,其特征在于,所述方法还包括:所述网站服务器集群生成数据变更消息,并将所述数据变更消息发送给所述热点数据发现系统,其中,所述数据更新消息包括待更新数据的URL和变更后的数据;所述热点数据发现系统将所述待更新数据的URL与所述热点数据的URL进行匹配;响应于所述待更新数据的URL与所述热点数据的URL的匹配,所述第一服务器集群中的各第一服务器将所述变更后的数据更新到与所述待更新数据的URL对应的数据中。5.根据权利要求1所述的数据查询方法,其特征在于,所述第一服务器集群中的各第一服务器中存储的所述热点数据具有第一预设存储期限;所述方法还包括:响应于第一预设存储期限的到达,所述第一服务器集群中的各第一服务器删除所述热点数据的URL和所述热点数据。6.根据权利要求1所述的数据查询方法,其特征在于,所述从所述第一服务器集群中确定目标第一服务器,包括:所述第二服务器基于负载均衡算法,从所述第一服务器集群中选取出所述目标第一服务器。7.一种数据查询装置,其特...

【专利技术属性】
技术研发人员:贺长荣
申请(专利权)人:北京京东尚科信息技术有限公司北京京东世纪贸易有限公司
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1