监控数据存储、查询方法及其相应的装置、设备、介质制造方法及图纸

技术编号:27685324 阅读:26 留言:0更新日期:2021-03-17 03:50
本申请公开一种监控数据统计及查询方法及其装置、设备、介质,所述方法包括:根据属于监控数据的源数据所属的项目类型及数据类型,将源数据服务器提供的源数据分发存储至该数据类型相对应的数据表中,每一数据表用于存储一种项目类型中的一种数据类型相对应的源数据;以第一时间间隔定时访问各个数据表,按照每个数据表中在当前时刻之前特定时长范围内的历史数据生成对应的统计快照进行存储,所述统计快照包括以预设标准时长为存储粒度统计生成的多个统计数据;以第二时间间隔定时清理所述数据表中的历史数据,使其仅保留预定时长范围内的历史数据。本申请通过定时统计及清理历史数据,控制服务器稳定地为用户提供统计数据,防止服务器过载。

【技术实现步骤摘要】
监控数据存储、查询方法及其相应的装置、设备、介质
本申请属于互联网
,具体涉及一种监控数据存储、查询方法,及其相应的装置、电子设备、非易失性存储介质。
技术介绍
互联网影响了全球人类生活的方方面面,同时也是我国最重要的行业之一,是我国GDP的主要组成部分。互联网公司为了收集用户的各类型数据,需要储存并统计各个用户的数据信息并加以计算统计用户的数据,开发人员可通过相应的配套页面获取并了解用户的各项数据,分析用户的数据并加以利用到实际的开发当中。如今,大部分互联网公司采用实时方式来储存并统计用户数据,但若互联网公司的应用程序上拥有大量的用户,其所接收到的用户数据也将非常庞大,而实时对巨量的用户数据进行储存及统计,会使执行储存及统计的服务器非常不稳定,大量的用户数据不仅会使得服务器统计的过程过于缓慢,且开发人员在查询用户数据进行分析时,服务器反馈时间也将非常漫长,甚至可能因用户数据过多,使服务器无法有序的处理大量的用户数据,造成数据堵塞,导致服务器宕机,造成用户数据损坏,不但可能没有帮助开发人员,反而影响了开发人员的开发进度。且互联网公司无构建相应的功能进行自动地清理堆积在相关的服务器数据库中的大量用户数据,而是采用人工的方式进行清理,可能造成服务器因存储大量的用户数据而无空闲的储存内存存储最新接收到的用户数据,使得监控计算模块无法计算及统计最新的用户数据供开发人员分析参考。针对以上因监控计算模块不足的各类问题,亟待提供一些有效的解决方案。
技术实现思路
鉴于现有技术所存在的不足,本申请的首要目的,旨在提供一种监控数据存储方法及其相应的监控数据存储装置、电子设备、非易失性存储介质。本申请的另一个目的,旨在提供一种监控数据查询方法及其相应的监控数据查询装置、电子设备、非易失性存储介质。为满足本申请的各个目的,本申请采用如下技术方案:适应本申请的首要目的之一而提供的一种监控数据存储方法,其包括如下步骤:根据属于监控数据的源数据所属的项目类型及数据类型,将源数据服务器提供的源数据分发存储至该数据类型相对应的数据表中,每一数据表用于存储一种项目类型中的一种数据类型相对应的源数据;以第一时间间隔定时访问各个数据表,按照每个数据表中在当前时刻之前特定时长范围内的历史数据生成对应的统计快照进行存储,所述统计快照包括以预设标准时长为存储粒度统计生成的多个统计数据;以第二时间间隔定时清理所述数据表中的历史数据,使其仅保留预定时长范围内的历史数据。进一步的实施例中,按照每个数据表中在当前时刻之前特定时长范围内的历史数据生成对应的统计快照进行存储的步骤,包括:基于数据表获取当前时刻之前特定时长范围内的历史数据;以标准时长为单位,以预定算法计算每标准时长的历史数据的统计数据;以按照所述标准时长分割存储粒度生成的多个统计数据为集合元素,构成所述的统计快照进行存储。较佳的实施例中,以按照所述标准时长分割存储粒度生成的多个统计数据为集合元素,构成所述的统计快照进行存储的步骤之后,包括如下步骤:以所述存储粒度为单位清理与当前统计快照重复的更早前的统计数据。进一步的实施例中,所述特定时长大于为所述第一时间间隔的多个倍数,所述第一时间间隔大于所述标准时长。较佳的实施例中,所述特定时长以每自然小时为单位,为当前时刻至前一自然小时之间的时间长度;所述第一时间间隔为1至10分钟,所述标准时长为1或2分钟。进一步的实施例中,还包括如下步骤:从产生所述监控源数据的外部服务器同步所述的监控数据。适应本申请的另一目的之一而提供的一种监控数据查询方法,其包括如下步骤:响应终端设备查询所述监控数据的用户请求,解析获取该用户请求中包含的项目类型、数据类型及查询时段;从属于所述项目类型的所述数据类型的统计快照中,查询获取与所述查询时段相匹配的统计数据,所述统计数据为以相同时长为存储粒度统计所述监控数据生成的数据;向终端设备发送所述统计数据以完成对该用户请求的响应。适应于本申请的首要目的之一而提供的一种监控数据存储装置,其包括:存储数据模块,用于根据属于监控数据的源数据所属的项目类型及数据类型,将源数据服务器提供的源数据分发存储至该数据类型相对应的数据表中,每一数据表用于存储一种项目类型中的一种数据类型相对应的源数据;统计数据模块,以第一时间间隔定时访问各个数据表,按照每个数据表中在当前时刻之前特定时长范围内的历史数据生成对应的统计快照进行存储,所述统计快照包括以预设标准时长为存储粒度统计生成的多个统计数据;清理数据模块,以第二时间间隔定时清理所述数据表中的历史数据,使其仅保留预定时长范围内的历史数据。适应于本申请的另一目的之一而提供的一种监控数据查询装置,其包括:响应请求模块,响应终端设备查询所述监控数据的用户请求,解析获取该用户请求中包含的项目类型、数据类型及查询时段;查询数据模块,从属于所述项目类型的所述数据类型的统计快照中,查询获取与所述查询时段相匹配的统计数据,所述统计数据为以相同时长为存储粒度统计所述监控数据生成的数据;发送数据模块,向终端设备发送所述统计数据以完成对该用户请求的响应。适应于本申请的目的之一而提供的一种电子设备,包括中央处理器和存储器,所述中央处理器用于调用运行存储于所述存储器中的计算机程序以执行所述的监控数据存储方法或监控数据查询方法。适应于本申请的目的之一而提供一种非易失性存储介质,其以计算机可读指令的形式存储用依据所述的监控数据存储方法或监控数据查询方法所述实现的计算机程序,该计算机程序被计算机调用时,执行该方法所包括的步骤。相对于现有技术,本申请具有如下优势:首先,本申请采用定时循环统计数据的方式,通过将接收至源数据库所上报的监控数据所包含的源数据进行分表储存,根据源数据的项目类型及数据类型将其储存至相应项目类型所属的相应数据表中,并在第一时间间隔定时访问各个数据表,计算当前时刻之前特定时长范围内中每个预设标准时长的统计数据作为统计快照进行储存,通过这一逻辑所实现的定时计算及存储数据的方式,定时地计算某一时段内各个时间节点的数据作为该时段内的统计数据,以便开发人员通过查询某一时段内的统计数据,分析用户习惯,并将之加以利用到开发中,与传统的实时统计数据的方式相比,通过定时的方式,可防止服务器无法统计大量的数据发生数据堵塞,造成服务器发送崩溃。其次,本申请采用定时自动清除已统计的数据,释放已完成统计的数据所占用的服务器的储存内存,通过在第二时间间隔定时清理数据表中以完成统计的历史数据,使其仅保留预订时长范围内的历史数据,通过科学自动地定时清理已完成统计的数据,使服务器能拥有更多的空闲存储内存,获取更多的源数据进行计算,防止大量已完成统计的数据占用服务器的存储内存,导致服务器内存过载,除了无法获得更多的源数据外,还可能导致服务器导致,造成整个统计系统的崩溃。附图说明<本文档来自技高网...

【技术保护点】
1.一种监控数据存储方法,其特征在于,包括如下步骤:/n根据属于监控数据的源数据所属的项目类型及数据类型,将源数据服务器提供的源数据分发存储至该数据类型相对应的数据表中,每一数据表用于存储一种项目类型中的一种数据类型相对应的源数据;/n以第一时间间隔定时访问各个数据表,按照每个数据表中在当前时刻之前特定时长范围内的历史数据生成对应的统计快照进行存储,所述统计快照包括以预设标准时长为存储粒度统计生成的多个统计数据;/n以第二时间间隔定时清理所述数据表中的历史数据,使其仅保留预定时长范围内的历史数据。/n

【技术特征摘要】
1.一种监控数据存储方法,其特征在于,包括如下步骤:
根据属于监控数据的源数据所属的项目类型及数据类型,将源数据服务器提供的源数据分发存储至该数据类型相对应的数据表中,每一数据表用于存储一种项目类型中的一种数据类型相对应的源数据;
以第一时间间隔定时访问各个数据表,按照每个数据表中在当前时刻之前特定时长范围内的历史数据生成对应的统计快照进行存储,所述统计快照包括以预设标准时长为存储粒度统计生成的多个统计数据;
以第二时间间隔定时清理所述数据表中的历史数据,使其仅保留预定时长范围内的历史数据。


2.根据权利要求1所述的方法,其特征在于,按照每个数据表中在当前时刻之前特定时长范围内的历史数据生成对应的统计快照进行存储的步骤,包括:
基于数据表获取当前时刻之前特定时长范围内的历史数据;
以标准时长为单位,以预定算法计算每标准时长的历史数据的统计数据;
以按照所述标准时长分割存储粒度生成的多个统计数据为集合元素,构成所述的统计快照进行存储。


3.根据权利要求2所述的方法,其特征在于,以按照所述标准时长分割存储粒度生成的多个统计数据为集合元素,构成所述的统计快照进行存储的步骤之后,包括如下步骤:
以所述存储粒度为单位清理与当前统计快照重复的更早前的统计数据。


4.根据权利要求1所述的方法,其特征在于,所述特定时长大于为所述第一时间间隔的多个倍数,所述第一时间间隔大于所述标准时长。


5.根据权利要求4所述的方法,其特征在于,所述特定时长以每自然小时为单位,为当前时刻至前一自然小时之间的时间长度;所述第一时间间隔为1至10分钟,所述标准时长为1或2分钟。


6.根据权利要求1至5中任意一项所述的方法,其特征在于,还包括如下步骤:从产生所述监控源数据的外部服务器同步所述的监控数据。


7.一种监控数据查询方法,其特征在于,包括如下步骤:
响应终端设备查询所述监控数据的用户请求,解析获...

【专利技术属性】
技术研发人员:郭锦荣方佛财陈武彬成佳龙
申请(专利权)人:广州华多网络科技有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1