基于XML的数据自动入库方法、系统、装置和存储介质制造方法及图纸

本公开提供了一种基于XML的数据自动入库方法、系统、装置和存储介质，其中，所述数据自动入库方法包括：从业务库中实时获取业务数据，并根据所述业务数据生成XML数据；判定所述XML数据中各个子节点的数据类型是否满足预设的类型条件,对满足所述类型条件的子节点进行解析处理；对比解析得到的XML数据的节点结构与待入库的数据库表的结构，并根据对比结果对所述数据库表进行调整，以确保XML各子节点的数据在数据库表结构中的正确性与完整性；将解析得到的XML数据填入调整后的数据库表中。本公开所提供的数据自动入库方法满足当前实时业务中模型训练、指标计算或统计等对数据的实效性、准确性、完整性、便捷性的需求。

【技术实现步骤摘要】
基于XML的数据自动入库方法、系统、装置和存储介质
本专利技术涉及计算机
，更为具体而言，涉及一种基于XML的数据自动入库方法、系统、装置和存储介质。
技术介绍
XML(ExtensibleMarkupLanguage，可扩展标记语言)广泛用在网络服务、数据库和文件处理等领域。XML具有文档内容和结构完全分离、互操作性强、规范统一、支持多种编码、可扩展性好等特点。在当前业务中，每日会有百万级以上的实时业务数据发生，所有的数据都是以加密的方式存储。但是，即使对加密数据做解密处理后，将所有的变量数据都存在于XML中，也不便于数据建模、衍生计算以及其他实时场景对于数据的使用。按照传统方法，上游业务在修改XML数据结构之后通知下游，下游再依据上游的修改内容对项目重新进行编码、测试、上线。这种方法存在下述缺陷：一方面，上游的XML数据结构可能存在异构数据，而且有些变量可能因人为原因导致统计疏漏，通知延误或者通知不准，造成数据错误以及数据缺失的情况出现。另一方面，代码修改期间可能会影响数据的实时性、完整性和准确性，并且本文档来自技高网...

【技术保护点】
1.一种基于XML的数据自动入库方法，其特征在于，所述数据自动入库方法包括：/n从业务库中实时获取业务数据，并根据所述业务数据生成XML数据；/n判定所述XML数据中各个子节点的数据类型是否满足预设的类型条件,对满足所述类型条件的子节点进行解析处理；/n对比解析得到的XML数据的节点结构与待入库的数据库表的结构，并根据对比结果对所述数据库表进行调整，以确保XML各子节点的数据在数据库表结构中的正确性与完整性；/n将解析得到的XML数据填入调整后的数据库表中。/n

【技术特征摘要】
1.一种基于XML的数据自动入库方法，其特征在于，所述数据自动入库方法包括：
从业务库中实时获取业务数据，并根据所述业务数据生成XML数据；
判定所述XML数据中各个子节点的数据类型是否满足预设的类型条件,对满足所述类型条件的子节点进行解析处理；
对比解析得到的XML数据的节点结构与待入库的数据库表的结构，并根据对比结果对所述数据库表进行调整，以确保XML各子节点的数据在数据库表结构中的正确性与完整性；
将解析得到的XML数据填入调整后的数据库表中。


2.如权利要求1所述的数据自动入库方法，其特征在于，所述根据所述业务数据生成XML数据包括：
根据预设的筛选条件对所述业务数据进行筛选处理；
将筛选后的业务数据均匀的分发在多个数据节点中，生成所述XML数据。


3.如权利要求1所述的数据自动入库方法，其特征在于，
所述类型条件为Json类型。


4.如权利要求3所述的数据自动入库方法，其特征在于，所述数据自动入库方法还包括：
对不满足所述类型条件的子节点，将所述子节点中的数据转化为Json类型后再进行解析处理。


5.如权利要求3所述的数据自动入库方法，其特征在于，所述数据自动入库方法还包括：
过滤掉空串或空集合的子节点。


6.如权利要求1所述的数据自动入库方法，其特征在于，所述根据对比结果对所述数据库表进行调整包括：
将解析得到的XML数据中有但所述数据库表中没有的数据列补充进所述数据库表中。


7.如权利要求1所述的数据自动入库方法，其特征在于，所述数据自动入库方法还包括：
根据解析得到的XML数据生成SQL语句；
将所述SQL语句插入调整后的数据库表中。


8.一种基于XML的数据自动入库系统，其特征在于，所述数据自动入库系统包括：
数据获取模块，用于从业务库中实时获取业务数据，并根据所述业务数据生成XML数据；
异构数据处理及解析模块，用于判定所述XML数据中各个子节点的数据...

【专利技术属性】
技术研发人员：葛颂，夏永春，
申请(专利权)人：河北幸福消费金融股份有限公司，
类型：发明
国别省市：河北;13