日志数据处理方法、装置、设备及存储介质制造方法及图纸

技术编号:41148082 阅读:19 留言:0更新日期:2024-04-30 18:15
本申请提供的一种日志数据处理方法、装置、设备及存储介质,该方法获取待处理的日志数据;根据预训练的搜索次数预测模型,预测日志数据的被查询次数,以得到被查询次数预测值,其中,搜索次数预测模型由日志数据训练样本和日志数据训练样本对应的历史搜索请求数据训练得到;根据被查询次数预测值,对日志数据进行聚类处理,以得到日志数据的至少一个索引分类,能够满足大量日志的索引需求以及搜索需求,提高了索引拆分效率。

【技术实现步骤摘要】

本申请涉及大数据,具体涉及一种日志数据处理方法、装置、设备及存储介质


技术介绍

1、随着业务的快速增长,容器化改造的不断推进,日志平台系统日志的维护也变得越来越重要。在资源有限的情况下,需要有效的维护手段来保证日志数据搜索的高效和准确。面对海量的日志数据和搜索请求,运维人员很难凭借个人经验完成索引的拆分,不合理的拆分反而会导致搜索结果多次合并,影响搜索效率。

2、相关技术中,通过收集搜索服务器(elasticsearch,es)集群中的索引信息;并基于索引信息,通过索引拆分算法,确定索引分配策略,从而实现对日志数据的索引拆分,来提高日志搜索效率。

3、然而,相关技术的索引拆分方法无法满足日益增长的日志量和搜索需求,索引拆分的效率低。


技术实现思路

1、本申请提供一种日志数据处理方法、装置、设备及存储介质,从而解决相关技术的索引拆分方法无法满足日益增长的日志量和搜索需求,索引拆分的效率低的问题。

2、第一方面,本申请提供一种日志数据处理方法,包括:>

3、获取待处本文档来自技高网...

【技术保护点】

1.一种日志数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述被查询次数预测值,对所述日志数据进行聚类处理,以得到所述日志数据的至少一个索引分类,包括:

3.根据权利要求2所述的方法,其特征在于,所述根据所述日志特征和所述被查询次数预测值,对所述日志数据进行聚类处理,以得到至少一个索引分类,包括:

4.根据权利要求1所述的方法,其特征在于,所述获取待处理的日志数据,包括:

5.根据权利要求4所述的方法,其特征在于,在所述根据预训练的搜索次数预测模型,预测所述日志数据的被查询次数,以得到被查询次数预测值之...

【技术特征摘要】

1.一种日志数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述被查询次数预测值,对所述日志数据进行聚类处理,以得到所述日志数据的至少一个索引分类,包括:

3.根据权利要求2所述的方法,其特征在于,所述根据所述日志特征和所述被查询次数预测值,对所述日志数据进行聚类处理,以得到至少一个索引分类,包括:

4.根据权利要求1所述的方法,其特征在于,所述获取待处理的日志数据,包括:

5.根据权利要求4所述的方法,其特征在于,在所述根据预训练的搜索次数预测模型,预测所述日志数据的被查询次数,以得到被查询次数预测值之前,还包括:

6.根据权利要求5所述的方法,其特征在于,其中所述搜索次数预测模型为随机森林算法模型。

7.根据权利要求5或6任一项所述的方法,其特征在于,其中所述历史搜索次数包括被监控告警搜索次数和被个性化搜索次数。

8.根据权利要求1所述的方法,其特征在于,在所述根据所述被查询次...

【专利技术属性】
技术研发人员:吴松泽
申请(专利权)人:中国银联股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1