基于poH共识的数据处理方法、装置、设备及存储介质制造方法及图纸

技术编号:35499110 阅读:35 留言:0更新日期:2022-11-05 17:03
本发明专利技术公开了一种基于poH共识的数据处理方法,包括:获取多个数据源的汇总数据,基于所述汇总数据建立分布式数据库;基于历史证明poH对所述分布式数据库进行数据同步;获取目标数据,基于所述分布式数据库以及所述目标数据,获得所述目标数据对应的双向匹配数据。本发明专利技术还公开了一种数据处理装置、设备及存储介质。本发明专利技术可以将多来源数据的数据标准进行统一规范,使得分布式数据库各个节点可以进行数据同步,解决了数据孤岛问题,降低了数据处理的成本,提高了数据处理的效率,最终获得有价值的数据。值的数据。值的数据。

【技术实现步骤摘要】
基于poH共识的数据处理方法、装置、设备及存储介质


[0001]本专利技术涉及数据处理领域,尤其涉及一种基于poH共识的数据处理方法、装置、设备及存储介质。

技术介绍

[0002]在科技日新月异的今天,人类社会已经全面进入了大数据时代,数据是各个企业最重要的核心资产。大数据能为企业带来大量的商业价值,企业通过对获取的大数据进行数据分析,可以获得有价值的数据,从而更好地确定发展方向,改进商业模式,从而壮大自身。
[0003]然而,企业在处理大数据时还存在“数据孤岛”问题,“数据孤岛”又称“数据的污染”,其在物理性上的定义为:数据在不同部门相互独立存储,独立维护,彼此间相互孤立,形成了物理上的孤岛;在逻辑性上的定义为:不同部门站在自己的角度对数据进行理解和定义,使得一些相同的数据被赋予了不同的含义,无形中加大了跨部门数据合作的沟通成本。
[0004]由于通过大数据的治理可以解决“数据孤岛”问题,所以大数据的治理被各大企业所重视,目前在大数据的治理方面比较突出的有大数据开发治理平台 DataWorks,DataWorks基于MaxCo本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于poH共识的数据处理方法,其特征在于,所述数据处理方法包括以下步骤:获取多个数据源的汇总数据,基于所述汇总数据建立分布式数据库;基于历史证明poH对所述分布式数据库进行数据同步;获取目标数据,基于所述分布式数据库以及所述目标数据,获得所述目标数据对应的双向匹配数据。2.如权利要求1所述的数据处理方法,其特征在于,所述基于历史证明poH对所述分布式数据库进行数据同步的步骤包括:基于所述分布式数据库定时建立数据快照;基于所述数据快照对所述分布式数据库的各个节点进行数据同步。3.如权利要求2所述的数据处理方法,其特征在于,所述基于所述数据快照对所述分布式数据库的各个节点进行数据同步的步骤包括:若第一数据快照建立,则获取所述第一数据快照的第一时间戳信息;获取各个所述节点的节点数据的第二时间戳信息;基于所述第一时间戳信息以及所述第二时间戳信息进行数据同步。4.如权利要求1所述的数据处理方法,其特征在于,所述获取目标数据,基于所述分布式数据库以及所述目标数据,获得所述目标数据对应的双向匹配数据的步骤包括:基于所述分布式数据库构建非线性逻辑回归模型;基于所述非线性逻辑回归模型对所述目标数据进行分析训练,获得所述双向匹配数据。5.如权利要求4所述的数据处理方法,其特征在于,所述基于所述非线性逻辑回归模型对所述目标数据进行分析训练,获得所述双向匹配数据的步骤包括:将所述目标数据输入所述非线性逻辑回归模型进行分析训练,基于所述非线性逻辑回归模型输出所述目标数据对应的第一数据以及第二数据;对所述第一数据以及所述第...

【专利技术属性】
技术研发人员:陈涛涛
申请(专利权)人:深圳市明源云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1