【技术实现步骤摘要】
本公开涉及实时数据处理,尤其涉及一种数据关联的方法、装置、设备和存储介质。
技术介绍
1、在构建大数据的数据仓库时,为了降低数据处理的复杂性,常常将事实数据和维度数据进行关联补全打宽处理。在实时数据处理领域,在进行事实数据和维度数据进行关联时,会存在因事实数据与维度数据关联不准确,而出现关联错误的情况。针对这种情况,传统的数据处理方法是通过次日的离线数仓去创建一个维度拉链表将事实数据与维度数据进行准确关联后进行数据回填,传统的处理方法大大降低了实时数仓的实时性。因此,在数据存储时如何实时将事实数据和维度数据可以准确关联成为本领域技术人员亟待解决的问题。
技术实现思路
1、有鉴于此,本公开提出了一种数据关联方法、装置、设备和存储介质,可以实现在数据存储时实时的将事实数据和维度数据进行准确关联。
2、根据本公开的第一方面,提供了一种数据关联的方法,用于进行事实数据与维度数据的关联,包括:
3、由源数据中获取需要关联的当前事实数据;
4、根据所述当前事实数据由
...【技术保护点】
1.一种数据关联的方法,其特征在于,用于进行事实数据与维度数据的关联,包括:
2.根据权利要求1所述的方法,其特征在于,根据所述当前事实数据由维度数据库中查找对应相匹配版本的维度数据时,包括:
3.根据权利要求2所述的方法,其特征在于,所述拼接查询条件包括:所述维度版本的更新时间小于等于所述当前事实数据的发生时间,且所述维度版本的更新时间距离所述当前事实数据的发生时间最近。
4.根据权利要求3所述的方法,其特征在于,所述拼接查询条件还包括:所述关联主键与所述维度数据的主键相匹配。
5.根据权利要求1至4任一项所述的方法,
...【技术特征摘要】
1.一种数据关联的方法,其特征在于,用于进行事实数据与维度数据的关联,包括:
2.根据权利要求1所述的方法,其特征在于,根据所述当前事实数据由维度数据库中查找对应相匹配版本的维度数据时,包括:
3.根据权利要求2所述的方法,其特征在于,所述拼接查询条件包括:所述维度版本的更新时间小于等于所述当前事实数据的发生时间,且所述维度版本的更新时间距离所述当前事实数据的发生时间最近。
4.根据权利要求3所述的方法,其特征在于,所述拼接查询条件还包括:所述关联主键与所述维度数据的主键相匹配。
5.根据权利要求1至4任一项所述的方法,其特征在于,根据所述事实数据由维度数据库中查找对应相匹配版本的维度数据时,还包括:
6.根据权利...
【专利技术属性】
技术研发人员:宋宁,严政,
申请(专利权)人:北京至简能源有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。