System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本公开涉及计算机,更具体地,涉及一种日志处理方法、装置、设备及存储介质。
技术介绍
1、在计算机
,由于低代码应用具有代码编写少、环境部署简单、使用门槛低等特点,低代码应用正逐渐成为用户的得力助手,低代码应用的使用频率不断攀升。
2、在实现本公开构思的过程中,专利技术人发现相关技术中至少存在如下问题,随着业务环境的多样化,低代码应用运行的服务也随之多样化。由于低代码应用运行的服务众多,所以每天根据运行业务得到的日志数量也较多,进而导致在存储这些日志的过程中,所消耗的存储资源较高;而且在用户请求获取日志的过程中,由于日志数量较多,低代码应用难以高效、准确的向用户发送用户所请求的日志。总体上,相关技术在处理日志的过程中存在日志处理效率低和准确率低等问题。
技术实现思路
1、有鉴于此,本公开提供了一种提高日志处理效率和准确率的日志处理方法、装置、设备、存储介质和程序产品。
2、本公开的一个方面提供了一种日志处理方法,包括:采集目标应用在处理业务过程中生成的多个日志,得到日志集;利用预设的日志筛选策略从上述日志集中筛选出有效日志,得到有效日志集;针对上述有效日志集中的每一个有效日志,根据与上述有效日志相关联的多个维度数据,对上述有效日志的日志标签进行内容填充,得到目标日志集;将上述目标日志集分布式存储在预设数据库中。
3、根据本公开的实施例,上述利用预设的日志筛选策略从上述日志集中筛选出有效日志,得到有效日志集,包括:基于预设的日志字段,从上述日志
4、根据本公开的实施例,上述对上述日志集中的每一个日志进行裁剪,以将上述每一个日志裁剪为有效部分和无效部分,包括:根据预设有效日志长度,对上述每一个日志进行裁剪,得到上述有效部分和上述无效部分,其中,上述有效部分为上述每一个日志中符合上述预设有效日志长度的部分,上述无效部分为上述每一个日志中除上述有效部分之外的其余部分;以及/或者根据预设的有效日志数目与日志总数目之间的比值,对上述日志集进行裁剪,得到上述有效部分和上述无效部分,其中,上述有效部分为上述日志集中符合上述比值的日志部分,上述无效部分为上述日志集中除上述有效部分之外的其余日志部分。
5、根据本公开的实施例,上述预设数据库配置有多个应用程序编程接口;上述将上述目标日志集分布式存储在预设数据库中,包括:读取上述目标日志集的日志数目;在上述目标日志集的日志数目达到第一预设数目阈值的情况下,对上述目标日志集进行压缩;将压缩后的目标日志集,通过消息队列的方式,向上述预设数据库的多个应用程序编程接口进行传输,以便上述预设数据库对上述压缩后的目标日志集进行解压并存储。
6、根据本公开的实施例,上述方法还包括:响应于用户查询日志的操作,读取上述操作中携带的上述日志标签;根据上述日志标签,从上述目标日志集中,搜索上述日志;对搜索到的上述日志进行聚类分析,得到上述日志的相关信息;向上述用户反馈上述日志和上述日志的相关信息。
7、根据本公开的实施例,上述方法还包括:对上述有效日志进行识别,以从上述有效日志中识别出用于表征上述应用存在异常的异常日志;根据上述异常日志,向目标对象发送告警信息。
8、根据本公开的实施例,上述根据上述异常日志,向目标对象发送告警信息,包括:对在预设时间段内的异常日志的日志数目进行监测;在上述异常日志的日志数目达到第二预设数目阈值的情况下,向上述目标对象发送告警信息。
9、根据本公开的实施例,上述根据上述异常日志,向目标对象发送告警信息,包括:记录添加上述应用的添加时刻;在上述添加时刻之后,上述异常日志的日志数目呈现增加趋势的情况下,向上述目标对象发送告警信息。
10、根据本公开的实施例,上述采集目标应用在处理业务过程中生成的多个日志,得到日志集,包括:利用预设采集框架,对上述应用在处理业务过程中得到的多个日志,进行异步采集;根据异步采集到的上述多个日志,生成上述日志集。
11、根据本公开的实施例,上述维度数据包括以下至少之一:用户标识、上述目标应用的应用信息、业务项目信息、业务环境信息、机房信息、容器信息、线程信息、时间戳。
12、本公开的另一方面还提供了一种日志处理装置,包括:采集模块,用于采集目标应用在处理业务过程中生成的多个日志,得到日志集;筛选模块,用于利用预设的日志筛选策略从上述日志集中筛选出有效日志,得到有效日志集;填充模块,用于针对上述有效日志集中的每一个有效日志,根据与上述有效日志相关联的多个维度数据,对上述有效日志的日志标签进行内容填充,得到目标日志集;存储模块,用于将上述目标日志集分布式存储在预设数据库中。
13、本公开的另一方面还提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当上述一个或多个程序被上述一个或多个处理器执行时,使得上述一个或多个处理器实现上述的日志处理方法。
14、本公开的另一方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器实现上述的日志处理方法。
15、本公开的另一方面还提供了一种计算机程序产品,包括计算机程序,上述计算机程序在被处理器执行时实现上述的日志处理方法。
16、根据本公开实施例提供的日志处理方法、装置、设备、存储介质和程序产品,通过采集目标应用在处理业务过程中生成的多个日志,的都日志集;利用预设日志筛选策略从日志集中筛选出有效日志,得到有效日志集;根据与有效日志相关联的多个维度数据对日志标签进行填充,得到目标日志集;将目标日志集分布式存储在预设数据库中。由于在日志处理过程中,对日志集进行了筛选,只存储有效的日志,删除无效的日志,所以降低了对存储资源的消耗;由于对日志标签进行了填充,可以在向用户发送用户所请求的日志时,根据日志标签实现高效、精准的发送;总体上,本公开实施例提供的日志处理方法、装置、设备、存储介质和程序产品至少部分地克服了相关技术存在的日志处理效率低和准确率低的问题,进而达到了提高日志处理效率和准确率的技术效果。
本文档来自技高网...【技术保护点】
1.一种日志处理方法,包括:
2.根据权利要求1所述的方法,其中,所述利用预设的日志筛选策略从所述日志集中筛选出有效日志,得到有效日志集,包括:
3.根据权利要求2所述的方法,其中,所述对所述日志集中的每一个日志进行裁剪,以将所述每一个日志裁剪为有效部分和无效部分,包括:
4.根据权利要求1所述的方法,其中,所述预设数据库配置有多个应用程序编程接口;
5.根据权利要求1所述的方法,还包括:
6.根据权利要求1所述的方法,还包括:
7.根据权利要求6所述的方法,其中,所述根据所述异常日志,向目标对象发送告警信息,包括:
8.根据权利要求6所述的方法,其中,所述根据所述异常日志,向目标对象发送告警信息,包括:
9.根据权利要求1所述的方法,其中,所述采集目标应用在处理业务过程中生成的多个日志,得到日志集,包括:
10.根据权利要求1所述的方法,其中,所述维度数据包括以下至少之一:
11.一种日志处理装置,包括:
12.一种电子设备,包括:
1
14.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1至10中任一项所述的方法。
...【技术特征摘要】
1.一种日志处理方法,包括:
2.根据权利要求1所述的方法,其中,所述利用预设的日志筛选策略从所述日志集中筛选出有效日志,得到有效日志集,包括:
3.根据权利要求2所述的方法,其中,所述对所述日志集中的每一个日志进行裁剪,以将所述每一个日志裁剪为有效部分和无效部分,包括:
4.根据权利要求1所述的方法,其中,所述预设数据库配置有多个应用程序编程接口;
5.根据权利要求1所述的方法,还包括:
6.根据权利要求1所述的方法,还包括:
7.根据权利要求6所述的方法,其中,所述根据所述异常日志,向目标对象发送告警信息,包括:
8.根据权利要...
【专利技术属性】
技术研发人员:张威力,邓金星,唐东帆,黄珺,
申请(专利权)人:北京沃东天骏信息技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。