一种分布式事件高速采集分析系统技术方案

技术编号:40466364 阅读:28 留言:0更新日期:2024-02-22 23:20
本发明专利技术公开了一种分布式事件高速采集分析系统及方法,包括分布式事件采集探针与分析平台;所述分布式事件采集探针分布式部署,根据分析平台管理策略调整工作状态,接收设备发送的事件;所述分析平台能监测事件探针的运行状态,并能够向分布式事件采集探针下发管理策略,调整事件采集探针的工作状态,同时根据不同的事件采集探针,进行不同维度的接收与解析。本发明专利技术提供的分布式事件采集方案,支持复杂环境和数据量巨大条件下的数据采集与处理,能够自适应的在管理域中的适当位置动态的调整事件采集探针,提高事件接收及转发效率,减小负载不均衡,提高传输效率。

【技术实现步骤摘要】

本专利技术涉及网络数据技术,具体涉及数据的采集与处理。


技术介绍

1、日志采集和流量采集是两种常见的事件采集方案。日志采集通常用于捕获应用程序、系统或设备生成的详细日志信息,这些日志可以记录操作、错误、警告等事件。日志可以以文本文件或通过特定协议发送到中央日志服务器进行集中存储和分析。流量采集则是通过监视网络通信流量来获取数据,它可以捕获网络包的详细信息,包括源ip、目标ip、端口、协议等。这两种采集方案在不同的应用场景中都具有重要作用,但它们也各自面临一些采集效率和可靠性方面的问题。

2、在日志采集方案中,采集效率受到多个因素的影响。首先,日志的产生频率和数量可能会剧增,特别是在高负载环境下。这可能导致存储和传输方面的性能问题,需要使用高效的存储和传输机制来处理大量的日志数据。此外,过多的日志可能会导致分析过程变得复杂,降低了实时性。可靠性方面,日志采集可能面临日志丢失的问题,尤其是在系统故障或高负载时,有可能会丢失关键的事件信息。此外,日志的时间戳可能无法准确保证顺序,这可能会影响事件的时间顺序分析。合适的日志存储和保留策略也是必要的,否则本文档来自技高网...

【技术保护点】

1.分布式事件高速采集分析系统,其特征在于,包括分布式事件采集探针与分析平台;

2.根据权利要求1所述的分布式事件高速采集分析系统,其特征在于,所述分布式事件采集探针分布在不同的网络节点上,并基于自适应算法监控网络变化,实时获取网络状态信息,并传输至分析平台;所述分布式事件采集探针能够接收分析平台根据实时的网络状态信息形成的管理策略,并根据管理策略自动调整相应事件采集探针工作状态,以实现分布式事件采集探针分布状态的动态调整。

3.根据权利要求1所述的分布式事件高速采集分析系统,其特征在于,所述分布式事件采集探针能够基于分析平台下发的传输协议选择策略,根据实时网络环...

【技术特征摘要】

1.分布式事件高速采集分析系统,其特征在于,包括分布式事件采集探针与分析平台;

2.根据权利要求1所述的分布式事件高速采集分析系统,其特征在于,所述分布式事件采集探针分布在不同的网络节点上,并基于自适应算法监控网络变化,实时获取网络状态信息,并传输至分析平台;所述分布式事件采集探针能够接收分析平台根据实时的网络状态信息形成的管理策略,并根据管理策略自动调整相应事件采集探针工作状态,以实现分布式事件采集探针分布状态的动态调整。

3.根据权利要求1所述的分布式事件高速采集分析系统,其特征在于,所述分布式事件采集探针能够基于分析平台下发的传输协议选择策略,根据实时网络环境特征自动选择最合适的传输协议。

4.根据权利要求1所述的分布式事件高速采集分析系统,其特征在于,所述分析平台配置成根据分布式事件采集探针上报的状态信息,为每个事件采集探针设置编码,并据此根据遗传算法确定分布式事件采集探针的工作状态,同时下发相关管理策略至对应的事件采集探针。

5.根据权利要求4所述的分布式事件高速采集分析系统,其特征在于,所述分布式事件采集探针在链路覆盖和消息覆盖约束条件下,基于编码的遗传算法进行事件采集探针部署。

6.根据权利要求1所述的分布式事件高速采集分析系统,其特征在于,所述分析平台中针对不同类型的事件采集探针,建立相应的数据接收接口,同时针对不同的数据维度,构建对应的数据解析模块。

7.根据权利要求1所述的分布式事件高速采集分析系统,其特征在于,所述分布式事件采集探针中...

【专利技术属性】
技术研发人员:陶源李末岩刘楠游志勇
申请(专利权)人:公安部第三研究所
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1