一种数据分析方法、装置、设备以及计算机存储介质制造方法及图纸

技术编号:37911921 阅读:14 留言:0更新日期:2023-06-21 22:34
本申请公开了一种数据分析方法、装置、设备以及计算机存储介质,该方法包括:获取当前时间窗口对应的时间窗口信息;根据时间窗口信息,确定目标标签信息和目标规则信息;从预设数据库中获取目标标签信息对应的待处理数据,并在所述当前时间窗口对应的时间段内,根据目标规则信息对待处理数据进行数据分析,得到分析结果。这样,由于预设数据库中的实时数据与时间窗口信息之间具有关联关系,使得基于时间窗口信息选择待处理数据并采用该时间窗口信息对应的规则对待处理数据进行分析,能够实现数据接收与数据分析异步处理,从而有效提升了系统数据分析性能。系统数据分析性能。系统数据分析性能。

【技术实现步骤摘要】
一种数据分析方法、装置、设备以及计算机存储介质


[0001]本申请涉及安全数据分析
,尤其涉及一种数据分析方法、装置、设备以及计算机存储介质。

技术介绍

[0002]数据分析是适当的统计分析方法对收集来的大量数据进行分析,提取有用信息和形成结论而对数据加以详细研究和概括总结的过程。在安全设备日志分析,以及其他实时数据的实时分析场景中,数据分析可帮助人们做出判断,以便采取适当行动。
[0003]在相关技术中,当前存在一些开源的规则引擎,各类规则引擎将数据加载到内存,在内存中运行脚本进行数据匹配,整个匹配过程线性串行对宿主机的性能要求很高,并且无法适应灵活多变的需求,不适用大数据量的处理场景,而且不具备良好的横向扩展性,也无法适应灵活多变的使用场景;另外,当前大数据组件提供了很丰富的实时分析组件,但是这类组件本身依靠大数据系统,需要部署很多配套的组件支撑,太过重量级,而且投入成本过高,导致实用性差,对服务器集群具有很高的要求,也必然需要投入更多的成本,这也一定程度上限制了该类组件的使用场景。

技术实现思路
<br/>[0004]本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据分析方法,其特征在于,所述方法包括:获取当前时间窗口对应的时间窗口信息;根据所述时间窗口信息,确定目标标签信息和目标规则信息;从预设数据库中获取所述目标标签信息对应的待处理数据,并在所述当前时间窗口对应的时间段内,根据所述目标规则信息对所述待处理数据进行数据分析,得到分析结果。2.根据权利要求1所述的方法,其特征在于,所述获取当前时间窗口对应的时间窗口信息,包括:从预设消息队列中,获取当前时间窗口;基于所述当前时间窗口,从所述预设数据库中获取所述当前时间窗口对应的时间窗口信息。3.根据权利要求2所述的方法,其特征在于,所述方法还包括:在定时任务启动后,按照预设时间间隔创建第一时间窗口,并将所述第一时间窗口对应的第一时间窗口信息写入所述预设数据库;从预设缓存区获取第二时间窗口信息,并利用所述第一时间窗口信息替换所述第二时间窗口信息存储至所述预设缓存区;将所述第二时间窗口写入所述预设消息队列;其中,所述第一时间窗口信息是根据定时任务最新创建的时间窗口信息,所述第二时间窗口信息是上一次使用中的时间窗口信息。4.根据权利要求1所述的方法,其特征在于,所述目标标签信息包括目标数据类型和目标窗口标识;所述从预设数据库中获取所述目标标签信息对应的待处理数据,包括:从所述预设数据库中,选取所述目标数据类型对应的目标数据表;从所述目标数据表中,选取所述目标窗口标识对应的所述待处理数据。5.根据权利要求1

4任一项所述的方法,其特征在于,所述方法还包括:接收待分析的初始数据;对所述初始数据进行数组转换,得到节点数组;从所述节点数组中获取数据类型,根据所述数据类型进行反序列化操作,得到至少一个数据表;其中,每一数据表中包括若干个中间数据;根据所述每一数据表对应的数据类型对所述至少一个数据表进行更新,确定至少一个候选数据表;其中,每一候选数据表包括所述若干个中间数据以及所述中间数据对应的窗口标识;将所述至少一个候选数据表存储至所述预设数据库。6.根据权利要求1所述的方法,其特征在于,所述目...

【专利技术属性】
技术研发人员:潘鹏
申请(专利权)人:中国移动通信集团有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1