数据库异常键处理方法、装置、设备及介质制造方法及图纸

技术编号:33246274 阅读:13 留言:0更新日期:2022-04-27 17:58
本申请涉及数据处理技术领域,公开了一种异常键处理方法、装置、设备及介质,所述方法包括:解析数据库的客户端向所述数据库的服务端发送的访问请求,得到所述数据库中各个键的访问记录以及键值大小;根据所述各个键的访问记录以及键值大小,得到所述各个键在单位时间内的特征数据;根据所述各个键的特征数据,识别异常键,并对访问所述异常键的所述数据库的第一客户端进行异常预警;更新所述异常键的特征数据,并根据所述异常键的更新后特征数据,确定所述异常键是否转化为正常键,若所述异常键转化为正常键,则解除对所述第一客户端的异常预警。本申请对访问异常键的客户端进行预警,及时识别和处理数据库中的异常键。及时识别和处理数据库中的异常键。及时识别和处理数据库中的异常键。

【技术实现步骤摘要】
数据库异常键处理方法、装置、设备及介质


[0001]本申请涉及数据处理
,特别地,涉及一种数据库异常键处理方法、装置、设备及介质。

技术介绍

[0002]数据库(Database)是按照数据结构来组织、存储和管理数据的数据处理系统,数据库系统必须具备较高的事务处理速度和应用可靠性。
[0003]Redis是一款性能极高的开源key

value型数据库,可基于内存也可支持持久化,被越来越多的企业用作缓存中间件,在应用服务中占据着非常重要的作用。Redis在大规模、大并发使用的过程中,存在热点Key、大Key问题。例如,单个的key存储的value很大,那么单次操作大数据量的value会对整个redis的响应时间造成负面影响;或者某一热点Key的请求在某一服务器超过该服务器网卡上限时,由于流量的过度集中,会导致服务器中其它服务无法进行。
[0004]因此,需要及时识别和处理数据库中的热点Key、大Key等异常键。

技术实现思路

[0005]本申请的目的在于提供一种数据库异常键处理方法、装置、设备及介质,通过各个键在单位时间内的特征数据识别异常键,并对访问异常键的客户端进行预警,及时识别和处理数据库中的异常键。
[0006]本申请的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本申请的实践而习得。
[0007]根据本申请实施例的一个方面,提供了一种数据库异常键处理方法,所述方法包括:
[0008]解析数据库的客户端向所述数据库的服务端发送的访问请求,得到所述数据库中各个键的访问记录以及键值大小;
[0009]根据所述各个键的访问记录以及键值大小,得到所述各个键在单位时间内的特征数据;
[0010]根据所述各个键的特征数据,识别异常键,并对访问所述异常键的所述数据库的第一客户端进行异常预警;
[0011]更新所述异常键的特征数据,并根据所述异常键的更新后特征数据,确定所述异常键是否转化为正常键,若所述异常键转化为正常键,则解除对所述第一客户端的异常预警。
[0012]在本申请的一些实施例中,基于上述方案,所述各个键的特征数据包括所述各个键的单位时间访问量、单位时间访问增长率以及键值的大小;
[0013]所述根据所述各个键的访问记录以及键值大小,得到所述各个键的特征数据,包括:
[0014]根据所述各个键的访问记录,得到所述各个键的单位时间访问量和单位时间访问增长率。
[0015]在本申请的一些实施例中,基于上述方案,所述根据所述各个键的特征数据,识别异常键,包括:
[0016]根据所述各个键的单位时间访问量以及访问量与异常概率的映射关系,确定所述各个键的第一异常概率;
[0017]根据所述各个键的单位时间访问增长率以及访问增长率与异常概率的映射关系,确定所述各个键的第二异常概率;
[0018]根据所述各个键的键值大小以及键值大小与异常概率的映射关系,确定所述各个键的第三异常概率;
[0019]结合所述各个键的第一异常概率、第二异常概率及第三异常概率,确定所述各个键的异常概率;
[0020]将所述异常概率大于或等于预设阈值的键,确定为所述异常键。
[0021]在本申请的一些实施例中,基于上述方案,所述根据所述各个键的特征数据,识别异常键,包括:
[0022]构建神经网络模型;
[0023]将历史观测的所述数据库中各个键的所述特征数据作为训练样本,训练所述神经网络模型;
[0024]将所述各个键的特征数据输入训练完成后的神经网络模型,得到所述各个键的异常概率。
[0025]在本申请的一些实施例中,基于上述方案,所述更新所述异常键的特征数据,并根据所述异常键的更新后特征数据,确定所述异常键是否转化为正常键,包括:
[0026]实时更新所述异常键的特征数据和所述异常键的异常概率;
[0027]若所述异常键的更新后异常概率在预设时长内均小于所述预设阈值,则确定所述异常键转化为正常键。
[0028]在本申请的一些实施例中,基于上述方案,,所述解析向数据库服务端发送的访问请求,得到所述数据库中各个键的访问记录以及键值大小,包括:
[0029]将解析得到的各个键的访问记录以及键值大小上传至消息队列;
[0030]监听所述消息队列,并将所述消息队列中所述各个键的访问记录以及键值大小存储在搜索服务器中;
[0031]查询所述搜索服务器,得到所述各个键的访问记录以及键值大小。
[0032]在本申请的一些实施例中,基于上述方案,所述方法还包括:
[0033]将所述异常键存储在访问所述异常键的客户端对应的主机;
[0034]若所述异常键转化为正常键,则将所述异常键从所述第一客户端对应的主机中移除。
[0035]根据本申请实施例的第二方面,提供了一种数据库异常键处理装置,所述装置包括:
[0036]数据收集单元,用于解析数据库的客户端向所述数据库的服务端发送的访问请求,得到所述数据库中各个键的访问记录以及键值大小;
[0037]数据分析单元,用于根据所述各个键的访问记录以及键值大小,得到所述各个键在单位时间内的特征数据;
[0038]异常键识别单元,根据所述各个键的特征数据,识别异常键;
[0039]预警单元,用于对访问所述异常键的所述数据库的客户端进行异常预警;
[0040]所述预警单元还用于更新所述异常键的特征数据,并根据所述异常键的更新后特征数据,确定所述异常键是否转化为正常键,若所述异常键转化为正常键,则解除对所述客户端的异常预警。
[0041]根据本申请实施例的第三方面,提供了一种计算机设备,所述计算机设备包括:处理器;存储器,所述存储器上存储有计算机可读指令,所述计算机可读指令被所述计算机设备执行时,实现如上述第一方面所述的方法。
[0042]根据本申请实施例的第四方面,提供了一种计算机可读介质,其上存储有计算机程序,其特征在于,所述计算机程序被电子设备执行时实现如上述第一方面所述的方法。
[0043]本申请实施例通过解析客户端和服务端之间的访问请求,进一步根据各个键在单位时间内的特征数据识别异常键,并对访问异常键的客户端进行预警,及时识别和处理数据库中的异常键。
[0044]应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
[0045]通过参照附图详细描述其示例性实施例,本申请的上述和其它特征及优点将变得更加明显。
[0046]图1示出了可以应用本申请实施例的技术方案的示例性系统架构的示意图。
[0047]图2示出了根据本申请一个实施例的一种数据库异常键处理方法的流程示意图。
[0048]图3示出了可以应用本申请实施例的技术方案的示例性另一种系统架构的示意图。
[0049]图4示出了根据本申请一个实施例的本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据库异常键处理方法,其特征在于,所述方法包括:解析数据库的客户端向所述数据库的服务端发送的访问请求,得到所述数据库中各个键的访问记录以及键值大小;根据所述各个键的访问记录以及键值大小,得到所述各个键在单位时间内的特征数据;根据所述各个键的特征数据,识别异常键,并对访问所述异常键的所述数据库的第一客户端进行异常预警;更新所述异常键的特征数据,并根据所述异常键的更新后特征数据,确定所述异常键是否转化为正常键,若所述异常键转化为正常键,则解除对所述第一客户端的异常预警。2.根据权利要求1所述的数据库异常键处理方法,其特征在于,所述各个键的特征数据包括所述各个键的单位时间访问量、单位时间访问增长率以及键值的大小;所述根据所述各个键的访问记录以及键值大小,得到所述各个键的特征数据,包括:根据所述各个键的访问记录,得到所述各个键的单位时间访问量和单位时间访问增长率。3.根据权利要求2所述的数据库异常键处理方法,其特征在于,所述根据所述各个键的特征数据,识别异常键,包括:根据所述各个键的单位时间访问量以及访问量与异常概率的映射关系,确定所述各个键的第一异常概率;根据所述各个键的单位时间访问增长率以及访问增长率与异常概率的映射关系,确定所述各个键的第二异常概率;根据所述各个键的键值大小以及键值大小与异常概率的映射关系,确定所述各个键的第三异常概率;结合所述各个键的第一异常概率、第二异常概率及第三异常概率,确定所述各个键的异常概率;将所述异常概率大于或等于预设阈值的键,确定为所述异常键。4.根据权利要求2所述的数据库异常键处理方法,其特征在于,所述根据所述各个键的特征数据,识别异常键,包括:构建神经网络模型;将历史观测的所述数据库中各个键的所述特征数据作为训练样本,训练所述神经网络模型;将所述各个键的特征数据输入训练完成后的神经网络模型,得到所述各个键的异常概率。5.根据权利要求3或4所述的数据库异常键处理方法,其特征在于,所述更新所述异常键的特征数据,并根据所述异常键...

【专利技术属性】
技术研发人员:刁宇辉
申请(专利权)人:平安普惠企业管理有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1