数据获取方法、装置、电子设备、存储介质及程序产品制造方法及图纸

技术编号:28147434 阅读:26 留言:0更新日期:2021-04-21 19:34
本公开实施例公开了一种数据获取方法、装置、电子设备、存储介质及程序产品,所述方法包括:响应于新产品新增事件,获取至少一个数据抽取视图;根据新增的所述新产品更新所述数据抽取视图;响应于数据管理平台的数据抽取请求,根据更新后的所述数据抽取视图抽取产品数据;将所述产品数据返回给所述数据管理平台。该技术方案不需要在下游仓库端针对新增产品通过创建数据抽取任务,并通过执行该数据抽取任务将新产品的产品数据抽取处理之后,与原来的数据进行合并等操作,能够大大提高数据抽取效率,节省人力物力成本。节省人力物力成本。节省人力物力成本。

【技术实现步骤摘要】
数据获取方法、装置、电子设备、存储介质及程序产品


[0001]本公开实施例涉及计算机
,具体涉及一种数据获取方法、装置、电子设备、存储介质及程序产品。

技术介绍

[0002]大数据集群需对生产系统的数据进行集中存储,方便管理以及供下游使用。而上游生产系统为业务不断扩展进行的数据结构设计不利于大数据集群进行数据抽取。例如,生成系统中的产品a对应一套数据表、产品b对应一套数据表等,而不同的产品其数据结构一致,例如包括交易、商户等维度数据的数据表,而不同产品间的数据不会出现重复。但是下游数据仓库所需要的所有产品同一维度的数据合集,例如交易、商户等维度的合集。而在已有技术中,通常在生产系统新上一个产品后,后台数据管理平台需要先配置新产品的数据接入,大概需要花费2

3天的时间,之后再修改数据抽取脚本,以便将新产品的数据合并到数据仓库的合集表中,大概也需要2

3天,这种方式实施行为耗时长、效率低,无法满足前端业务部门对新产品数据的实时需求。

技术实现思路

[0003]本公开实施例提供一种数据获取本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据获取方法,包括:响应于新产品新增事件,获取至少一个数据抽取视图;根据新增的所述新产品更新所述数据抽取视图;响应于数据管理平台的数据抽取请求,根据更新后的所述数据抽取视图抽取产品数据;将所述产品数据返回给所述数据管理平台。2.根据权利要求1所述的方法,其中,根据新增的所述新产品更新所述数据抽取视图,包括:更新所述数据抽取视图对应的视图创建语句,以便将所述新产品的数据更新至所述数据抽取视图。3.一种数据获取方法,包括:创建数据抽取任务;执行所述数据抽取任务,以便基于生产平台创建的数据抽取视图从所述生产平台抽取产品数据;接收所述生产平台返回的所述产品数据,并将所述产品数据存储在数据仓库。4.一种数据获取方法,包括:生产平台响应于新产品新增事件,获取至少一个数据抽取视图,并根据新增的所述新产品更新所述数据抽取视图;所述数据管理平台创建数据抽取任务,并执行所述数据抽取任务;所述生产平台响应于数据管理平台的数据抽取请求,根据更新后的所述数据抽取视图抽取产品数据;所述生产平台将所述产品数据返回给所述数据管理平台;所述数据管理平台接收所述生产平台返回的所述产品数据,并将所述产品数据存储在数据仓库。5.一种数据获取装置,包括:获取模块,被配置为响应于新产品新增事件,获取至少一个数据抽取视图;更新模块,被配置为根据新增的所述新产品更新所述数据抽取视图;抽取模块,被配置为响应于数据管理平台的数据抽取请求,根据更新后的所述数据抽取视图抽取产品数据;返回模...

【专利技术属性】
技术研发人员:ꢀ七四专利代理机构
申请(专利权)人:拉卡拉支付股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1