【技术实现步骤摘要】
一种数据分析方法、装置、设备以及计算机存储介质
[0001]本申请涉及安全数据分析
,尤其涉及一种数据分析方法、装置、设备以及计算机存储介质。
技术介绍
[0002]数据分析是适当的统计分析方法对收集来的大量数据进行分析,提取有用信息和形成结论而对数据加以详细研究和概括总结的过程。在安全设备日志分析,以及其他实时数据的实时分析场景中,数据分析可帮助人们做出判断,以便采取适当行动。
[0003]在相关技术中,当前存在一些开源的规则引擎,各类规则引擎将数据加载到内存,在内存中运行脚本进行数据匹配,整个匹配过程线性串行对宿主机的性能要求很高,并且无法适应灵活多变的需求,不适用大数据量的处理场景,而且不具备良好的横向扩展性,也无法适应灵活多变的使用场景;另外,当前大数据组件提供了很丰富的实时分析组件,但是这类组件本身依靠大数据系统,需要部署很多配套的组件支撑,太过重量级,而且投入成本过高,导致实用性差,对服务器集群具有很高的要求,也必然需要投入更多的成本,这也一定程度上限制了该类组件的使用场景。
技术实现思路
< ...
【技术保护点】
【技术特征摘要】
1.一种数据分析方法,其特征在于,所述方法包括:获取当前时间窗口对应的时间窗口信息;根据所述时间窗口信息,确定目标标签信息和目标规则信息;从预设数据库中获取所述目标标签信息对应的待处理数据,并在所述当前时间窗口对应的时间段内,根据所述目标规则信息对所述待处理数据进行数据分析,得到分析结果。2.根据权利要求1所述的方法,其特征在于,所述获取当前时间窗口对应的时间窗口信息,包括:从预设消息队列中,获取当前时间窗口;基于所述当前时间窗口,从所述预设数据库中获取所述当前时间窗口对应的时间窗口信息。3.根据权利要求2所述的方法,其特征在于,所述方法还包括:在定时任务启动后,按照预设时间间隔创建第一时间窗口,并将所述第一时间窗口对应的第一时间窗口信息写入所述预设数据库;从预设缓存区获取第二时间窗口信息,并利用所述第一时间窗口信息替换所述第二时间窗口信息存储至所述预设缓存区;将所述第二时间窗口写入所述预设消息队列;其中,所述第一时间窗口信息是根据定时任务最新创建的时间窗口信息,所述第二时间窗口信息是上一次使用中的时间窗口信息。4.根据权利要求1所述的方法,其特征在于,所述目标标签信息包括目标数据类型和目标窗口标识;所述从预设数据库中获取所述目标标签信息对应的待处理数据,包括:从所述预设数据库中,选取所述目标数据类型对应的目标数据表;从所述目标数据表中,选取所述目标窗口标识对应的所述待处理数据。5.根据权利要求1
‑
4任一项所述的方法,其特征在于,所述方法还包括:接收待分析的初始数据;对所述初始数据进行数组转换,得到节点数组;从所述节点数组中获取数据类型,根据所述数据类型进行反序列化操作,得到至少一个数据表;其中,每一数据表中包括若干个中间数据;根据所述每一数据表对应的数据类型对所述至少一个数据表进行更新,确定至少一个候选数据表;其中,每一候选数据表包括所述若干个中间数据以及所述中间数据对应的窗口标识;将所述至少一个候选数据表存储至所述预设数据库。6.根据权利要求1所述的方法,其特征在于,所述目...
【专利技术属性】
技术研发人员:潘鹏,
申请(专利权)人:中国移动通信集团有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。