【技术实现步骤摘要】
一种提高检索速度的方法、装置、终端设备和存储介质
本专利技术涉及计算机
,尤其涉及一种提高检索速度的方法、装置、终端设备和存储介质。
技术介绍
企业级SAAS平台,会有十几个到几十个的子系统,通常都会将这些子系统的所有日志和用户操作记录汇总在一起,进行检索和分析。比如:日访问量分析、月访问量分析、年访问量分析、用户地域分析、用户行为分析等。假设每秒记录100条记录,一个小时就有36万条记录,而一天将到达864万条记录。与膨胀的记录相矛盾的是,企业的硬件资源往往是很有限的,用于检索的集群节点很可能是在10台以内。目前企业的日志系统是基于ELK(Elasticsearch、Logstash及Kibana的简称)开发的。设备上报的信息会以日志的方式从ELK集群备份到分布式文件系统。当系统需要针对数据进行数据分析时,需要从分布式文件系统读取所有的文件信息进行检索。当企业数据达到亿级数量时,整体的检索数据就会达到几分钟,几十分钟,甚至花更多的时间,同时也影响到集群的性能,若要改变性能问题通常会进行服务器扩容,从而产生高额的扩容成本。
技术实现思路
本专利技术实施例提供了一 ...
【技术保护点】
1.一种提高检索速度的方法,其特征在于,包括:获取用户终端实时上报的操作信息;按照事先定义好的索引路由规则创建不同的索引库,并将所述操作信息存储至对应的索引库中;获取用户的数据检索请求;响应于所述数据检索请求,判断用户的检索需求;其中,所述用户的需求包括租户当日聚合、租户当月聚合;根据用户的检索需求,将用户的检索需求匹配到相应的索引库中进行检索,以提高检索速度。
【技术特征摘要】
1.一种提高检索速度的方法,其特征在于,包括:获取用户终端实时上报的操作信息;按照事先定义好的索引路由规则创建不同的索引库,并将所述操作信息存储至对应的索引库中;获取用户的数据检索请求;响应于所述数据检索请求,判断用户的检索需求;其中,所述用户的需求包括租户当日聚合、租户当月聚合;根据用户的检索需求,将用户的检索需求匹配到相应的索引库中进行检索,以提高检索速度。2.根据权利要求1所述的提高检索速度的方法,其特征在于,所述获取用户终端实时上报的操作信息,具体为:接收用户终端发送的用户的操作信息,所述操作信息携带有以JSON格式实时记录的操作数据;其中,所述JSON格式至少包括rent_code:租户编码;invoke_time:操作时间;app_name:系统名称关键字段。3.根据权利要求1所述的提高检索速度的方法,其特征在于,按照事先定义好的索引路由规则创建不同的索引库,并将所述操作信息存储至对应的索引库中,具体为:通过笛卡尔积算法,将所述上报的操作信息,按租户编码以及操作时间生成的不同的笛卡尔积分库进行存储。4.根据权利要求1所述的提高检索速度的方法,其特征在于,每个租户使用一套独立的数据检索服务,租户间的数据相互隔离,互不影响。5.一种提高检索速度的装置,其特征在于,包括:操作信息获取单元,用于获取用户终端实时上报的操作信息;存储单元,用于按照事先定义好的索引...
【专利技术属性】
技术研发人员:马志锋,
申请(专利权)人:福建大屏网络科技有限公司,
类型:发明
国别省市:福建,35
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。