System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 日志收集方法、装置、设备及存储介质制造方法及图纸_技高网

日志收集方法、装置、设备及存储介质制造方法及图纸

技术编号:40825676 阅读:2 留言:0更新日期:2024-04-01 14:46
本申请提供了一种日志收集方法、装置、设备及存储介质,方法应用于电子设备,电子设备包括网关和第一存储单元,方法包括:基于网关获取日志数据;将日志数据存储至内存的第二存储单元;将日志数据从第二存储单元移动至第一存储单元;将第一存储单元中的日志数据存储至日志存储组件。以减少日志收集成本,提高日志收集效率和稳定性。

【技术实现步骤摘要】

本申请实施例涉及信息处理,尤其涉及一种日志收集方法、装置、设备及存储介质


技术介绍

1、在数据中台中,常通过网关对各种服务进行发布,之后,客户端可以通过网关(gateway)调用已发布的服务,同时,网关会对调用服务产生的调用服务日志进行记录。

2、在调用服务日志高并发情况下,调用服务日志的数量会存在瞬时激增的情况,若此时直接将高并发的调用服务日志存储至数据库中,就很容易对数据库产生较大负担而导致数据库崩溃。因此,目前一般会先部署多个消息队列,将收集的调用服务日志先存储至消息队列中,然后再将调用服务日志从消息队列中移动至数据库中,以实现针对日志的削峰处理。然而,上述过程会造成较大的消息队列部署和维护成本。


技术实现思路

1、本申请提供一种日志收集方法、装置、设备及存储介质,以减少日志收集成本,提高日志收集效率和稳定性。

2、第一方面,提供一种日志收集方法,方法应用于电子设备,电子设备包括网关和第一存储单元,方法包括:基于网关获取日志数据;将日志数据存储至内存的第二存储单元;将日志数据从第二存储单元移动至第一存储单元;将第一存储单元中的日志数据存储至日志存储组件。

3、第二方面,提供一种日志收集装置,包括:获取模块,用于基于网关获取日志数据;第一存储模块,用于将日志数据存储至内存的第二存储单元;移动模块,用于将日志数据从第二存储单元移动至第一存储单元;第二存储模块,用于将第一存储单元中的日志数据存储至日志存储组件。

4、第三方面,提供一种电子设备,包括:处理器和存储器,该存储器用于存储计算机程序,该处理器用于调用并运行该存储器中存储的计算机程序,执行如第一方面或其各实现方式中的方法。

5、第四方面,提供一种计算机可读存储介质,用于存储计算机程序,计算机程序使得计算机执行如第一方面或其各实现方式中的方法。

6、第五方面,提供一种计算机程序产品,包括计算机程序指令,该计算机程序指令使得计算机执行如第一方面或其各实现方式中的方法。

7、第六方面,提供一种计算机程序,计算机程序使得计算机执行如第一方面或其各实现方式中的方法。

8、通过本申请提供的技术方案,电子设备可以基于网关获取日志数据,并将日志数据存储至内存的第二存储单元,之后可以将日志数据从第二存储单元移动至第一存储单元,将第一存储单元中的日志数据存储至日志存储组件。在上述过程中,电子设备可以基于网关、第一存储单元以及内存中的第二存储单元,完成日志数据的收集,从而无需部署消息队列,以减少部署和维护消息队列造成的人力、物力、财力、时间等成本。而且,由于获取的日志数据是先存储至内存中的第二存储单元的,即可以对内存中的存储单元直接进行处理,因此具有较快地数据存储和读取速度,可以提高日志收集效率。另外,可以通过先将数据存储至第一存储中再存储至日志存储组件中的方式,不仅实现针对高并发日志收集时的削峰处理,还可以保证内存以及日志存储组件的稳定性,减少内存以及日志存储组件的压力。

本文档来自技高网...

【技术保护点】

1.一种日志收集方法,其特征在于,所述方法应用于电子设备,所述电子设备包括网关和第一存储单元,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述将所述日志数据从所述第二存储单元移动至第一存储单元,包括:

3.根据权利要求2所述的方法,其特征在于,所述设置目标数据量阈值和目标时间阈值,包括:

4.根据权利要求3所述的方法,其特征在于,所述根据所述预设内存性能参数范围,确定所述目标数据量阈值和所述目标时间阈值,包括:

5.根据权利要求1-4任一项所述的方法,其特征在于,所述将所述第一存储单元中的所述日志数据存储至日志存储组件,包括:

6.根据权利要求5所述的方法,其特征在于,所述设置读取速度和写入速度,包括:

7.根据权利要求1-4任一项所述的方法,其特征在于,还包括:

8.一种日志收集装置,其特征在于,包括:

9.一种电子设备,其特征在于,包括:

10.一种计算机可读存储介质,其特征在于,用于存储计算机程序,所述计算机程序使得计算机执行如权利要求1-7中任一项所述的方法。

...

【技术特征摘要】

1.一种日志收集方法,其特征在于,所述方法应用于电子设备,所述电子设备包括网关和第一存储单元,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述将所述日志数据从所述第二存储单元移动至第一存储单元,包括:

3.根据权利要求2所述的方法,其特征在于,所述设置目标数据量阈值和目标时间阈值,包括:

4.根据权利要求3所述的方法,其特征在于,所述根据所述预设内存性能参数范围,确定所述目标数据量阈值和所述目标时间阈值,包括:

5.根据权利要求1-4任...

【专利技术属性】
技术研发人员:孙学浩李东鸽何光宇
申请(专利权)人:东软集团股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1