一种数据落库方法技术

本发明专利技术公开了一种数据落库方法

【技术实现步骤摘要】
一种数据落库方法、装置、电子设备和存储介质


[0001]本专利技术涉及计算机
，尤其涉及一种数据落库方法
、
装置
、
电子设备和存储介质
。

技术介绍

[0002]身份识别与访问管理
(Identity and Access Management
，
IAM)
是一个是集用户管理
、
身份认证
、
授权管理
、
审计于一体的用户安全综合保障平台
。
现有技术中，针对
IAM
系统的业务埋点数据，十分依赖于专门的审计服务接口才可实现业务数据的落库，导致数据落库的过程较为繁杂，不够简便
。

技术实现思路

[0003]本专利技术提供了一种数据落库方法
、
装置
、
电子设备和存储介质，以通过将业务模块采集的业务数据先存储至第一内存队列，再按照第一内存队列中业务数据对应的数据库类型，将业务数据分别落库至对应的目标数据库中，无需专门的审计服务接口即可实现业务数据的落库，可适用于不同数据库环境的数据落库需求，数据落库过程更为简便
。
[0004]根据本专利技术的一方面，提供了一种数据落库方法，该方法包括：
[0005]在业务模块将采集的业务数据存储至第一内存队列；
[0006]将第一内存队列中业务数据根据对应的数据库类型落库至目标数据库
。
[0007]根据本专利技术的另一方面，提供了一种数据落库装置，该装置包括：
[0008]队列存储模块，用于在业务模块将采集的业务数据存储至第一内存队列；
[0009]数据落库模块，用于将第一内存队列中业务数据根据对应的数据库类型落库至目标数据库
。
[0010]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0011]至少一个处理器；以及
[0012]与所述至少一个处理器通信连接的存储器；其中，
[0013]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的数据落库方法
。
[0014]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的数据落库方法
。
[0015]本专利技术实施例的技术方案，通过在业务模块将采集的业务数据存储至第一内存队列，将第一内存队列中业务数据根据对应的数据库类型落库至目标数据库
。
本专利技术实施例通过将业务模块采集的业务数据先存储至第一内存队列，再按照第一内存队列中业务数据对应的数据库类型，将业务数据分别落库至对应的目标数据库中，无需专门的审计服务接口即可实现业务数据的落库，可适用于不同数据库环境的数据落库需求，数据落库过程更
为简便
。
[0016]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围
。
本专利技术的其它特征将通过以下的说明书而变得容易理解
。
附图说明
[0017]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图
。
[0018]图1是根据本专利技术实施例一提供的一种数据落库方法的流程图；
[0019]图2是根据本专利技术实施例二提供的一种数据落库方法的流程图；
[0020]图3是根据本专利技术实施例二提供的一种数据落库失败补偿处理过程的流程图；
[0021]图4是根据本专利技术实施例三提供的一种数据落库方法的流程图；
[0022]图5是根据本专利技术实施例三提供的一种业务数据队列存储过程的流程图；
[0023]图6是根据本专利技术实施例三提供的一种业务数据落库策略执行过程的流程图；
[0024]图7是根据本专利技术实施例三提供的一种失败数据本地持久化保存过程的流程图；
[0025]图8是根据本专利技术实施例三提供的一种失败文件判断及解析过程的流程图；
[0026]图9是根据本专利技术实施例四提供的一种数据落库装置的结构示意图；
[0027]图
10
是实现本专利技术实施例的数据落库方法的电子设备的结构示意图
。
具体实施方式
[0028]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚
、
完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例
。
基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围
。
[0029]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序
。
应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施
。
此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程
、
方法
、
系统
、
产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程
、
方法
、
产品或设备固有的其它步骤或单元
。
[0030]实施例一
[0031]图1为本专利技术实施例一提供了一种数据落库方法的流程图，本实施例可适用于业务数据落库的情况，该方法可以由数据落库装置来执行，该数据落库装置可以采用硬件和
/
或软件的形式实现，该数据落库装置可配置于电子设备中，该电子设备例如可以是计算机设备或服务器等
。
如图1所示，本实施例一提供的一种数据落库方法，具体包括如下步骤：
[0032]S110、
在业务模块将采集的业务数据存储至第一内存队列
。
[0033]其中，业务模块可以是指用于执行业务逻辑的功能模块，业务模块的数量可以为一个或者多个，业务模块可以位于业务系统中，并产生用于落库的业务数据
。
第一内存队列可以是指用于暂时存储业务模块产生的业务数据的内存队列
。
[0034]在本专利技术实施例中，在业务系统的一个或者多个业务模块产生落库的业务数据后，可以将业务数据依次缓存到第一内存队列中，以便后面根据不同的落库策略实现业本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种数据落库方法，其特征在于，所述方法包括：在业务模块将采集的业务数据存储至第一内存队列；将所述第一内存队列中所述业务数据根据对应的数据库类型落库至目标数据库
。2.
根据权利要求1所述的方法，其特征在于，所述在业务模块将采集的业务数据存储至第一内存队列，包括：在所述业务模块调用预设软件开发工具包时，将所述业务模块产生的所述业务数据依次缓存到所述第一内存队列中
。3.
根据权利要求1所述的方法，其特征在于，所述将所述第一内存队列中所述业务数据根据对应的数据库类型落库至目标数据库，包括：在所述数据库类型为关系型数据库时，调用
Hibernate
框架对所述业务数据进行数据保存和事务提交，以将所述业务数据落库至所述数据库类型对应的所述目标数据库内
。4.
根据权利要求1所述的方法，其特征在于，所述将所述第一内存队列中所述业务数据根据对应的数据库类型落库至目标数据库，包括：在所述数据库类型为
ElasticSearch
数据库时，通过对实体类的
Hibernate
注解进行反射，对反射得到的数据库表对应的表名和字段名进行解析，并利用
Spring
‑
Data
框架将解析后的数据落库至所述
ElasticSearch
数据库内
。5.
根据权利要求1所述的方法，其特征在于，所述将所述第一内存队列中所述业务数据根据对应的数据库类型落库至目标数据库，包括：在所述数据库类型为
Kafka
数据库时，通过对实体类的
Hibernate
注解进行反射，对反射得到的数据库表对应的表名进行解析，再调用所述
Kafka
数据库的应用程序编程接口将解析后的数据推送到以所述表名为名称的消息队列中
。6.
根据权利要求1所述的方法，其特征在于，还包括：在所述业务...

【专利技术属性】
技术研发人员：涂伟，
申请(专利权)人：上海派拉软件股份有限公司，
类型：发明
国别省市：