System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于智能计算平台的统一数据管理应用系统及方法技术方案_技高网

一种基于智能计算平台的统一数据管理应用系统及方法技术方案

技术编号:41059896 阅读:4 留言:0更新日期:2024-04-24 11:11
本发明专利技术公开一种基于智能计算平台的统一数据管理应用系统及方法,包括数据源、数据湖、业务区;统一数据管理应用系统利用数据湖为数据应用和数据可视化提供服务;数据湖包括:数据湖公共区、数据湖专有区、Daas平台区和数据共享交换平台区;其中,数据湖公共区用于接收数据源上传的公共数据,数据湖专有区用于接收数据源上传的专有数据;Daas平台区为数据湖提供数据治理能力,数据共享交换平台区为数据湖提供数据API共享交换能力;其中,业务区通过数据共享交换平台区提供的API调用使用数据湖的数据为数据应用进行数据赋能;业务区包括:数据中台,其所存储的数据沉淀在数据湖中,并采用数据湖的能力对外进行共享交换和API服务。

【技术实现步骤摘要】

本专利技术涉及数据管理应用,具体涉及一种基于智能计算平台的统一数据管理应用系统及方法


技术介绍

1、大数据能够应用于各行各业,现今的云时代能够实现大数据共享。能够根据用户使用习惯分析用户喜好、作息习惯等。宏观方面则能够对社会协作分工进行调控,优化社会资源,创新生产方式。大数据能够应用于教育、医疗、社会、政府、商业等领域中,大数据的可操作性极强,应用范围极广。基于丰富的数据库对不同现状进行分析,匹配最优化解,范围内的结果预测等都是可行的。举例说明:大数据在医疗业方面能够将医疗资源最优化分配,降低不必要的医疗支出;大数据在交通行业方面能够优化路况,避免道路堵塞造成不必要的损失;大数据在零售业方面能够在了解客户需求的同时对商品数量进行调控;大数据在政府方面能够优化服务。

2、大数据在应用于各个行业中时,存在以下的功能需求:数据采集的需求、数据处理的需求、数据整合的需求以及数据应用的需求。但是现有的统一数据管理应用系统难以对采集到的数据进行有效的处理、整合,进而导致难以对数据应用进行有效的赋能,使得上层业务的创新难以实现,并且数据平台也难以对外进行有效的共享交换和api服务。


技术实现思路

1、为了克服现有技术的不足,本专利技术提供一种基于智能计算平台的统一数据管理应用系统及方法,用于解决现有的统一数据管理应用系统难以对采集到的数据进行有效的处理、整合以及应用赋能的技术问题,从而达到对各行业数据进行有效治理,并对数据应用实现有效赋能的目的。

2、为解决上述问题,本专利技术所采用的技术方案如下:

3、一种基于智能计算平台的统一数据管理应用系统,包括数据源、数据湖以及业务区;

4、所述统一数据管理应用系统利用所述数据湖为数据应用和数据可视化提供服务;

5、所述数据湖包括:数据湖公共区、数据湖专有区、daas平台区和数据共享交换平台区;

6、其中,所述数据湖公共区用于接收所述数据源上传的公共数据,所述数据湖专有区用于接收所述数据源上传的专有数据;

7、所述daas平台区为所述数据湖提供数据治理能力,所述数据共享交换平台区为所述数据湖提供数据api共享交换能力;

8、其中,业务区通过所述数据共享交换平台区提供的api调用使用所述数据湖的数据为数据应用进行数据赋能;

9、所述业务区包括:数据中台,所述数据中台所存储的数据将沉淀在所述数据湖中,并采用所述数据湖的能力对外进行共享交换和api服务。

10、作为本专利技术优选的实施方式,所述统一数据管理应用系统在所述数据源与所述数据湖之间还设有计算平台;

11、所述计算平台包括:批量计算模块、即时计算模块、分布式nosql数据存储模块、对象存储模块、关系数据库、内存数据库、机器学习模块、中间件、网络与安全模块。

12、作为本专利技术优选的实施方式,所述数据中台的业务架构包括:数据资产管理模块、计算与存储平台、面向应用及开放的统一数据服务中间件、智能数据研发模块、若干数据服务以及若干数据应用。

13、作为本专利技术优选的实施方式,所述数据资产管理模块具备以下功能:资产地图、资产分析、资产管理、资产应用以及资产运营;

14、所述计算与存储平台具备离线计算与实时计算功能;

15、所述面向应用及开放的统一数据服务中间件包括:数据萃取中心、全域数据中心以及基础数据中心;

16、其中,所述数据萃取中心以业务结合萃取标签为架构进行构建,或者以自然对象结合萃取标签为架构进行构建;

17、所述全域数据中心以业务模板结合业务过程结合分析维度为架构进行构建;

18、所述基础数据中心包括:采集和接入、爬取和采购;

19、所述智能数据研发模块具备以下功能:数仓规划、模型构建、指标规范、数据同步、数据开发、任务调度以及监控告警;

20、所述若干数据服务包括:企业经营服务、公共配套服务、物业管理服务、信用管理服务、口岸信息服务、旅游管理服务、卫生医疗服务;

21、所述若干数据应用包括:智慧口岸应用、智慧社区应用、智慧政务应用、智慧教育应用以及智慧交通应用。

22、作为本专利技术优选的实施方式,所述数据源包括:城市iot区vpc、城市ai区vpc以及业务数据区vpc;

23、其中,所述城市iot区vpc、所述城市ai区vpc以及所述业务数据区vpc的公共数据通过数据上云工具上传到所述数据湖公共区;

24、所述业务数据区vpc的专有数据通过所述数据上云工具上传到所述数据湖专有区;

25、所述daas平台区的智能数仓、数据dna模块、智能标签模块、全景监控模块、数据探索模块、数据资产模块、算法服务模块、数据治理模块、数据研发模块、数据上云模块为所述数据湖提供数据治理能力。

26、作为本专利技术优选的实施方式,所述数据dna包括:数据看板、模型全景、配置管理、数据可视化;

27、所述智能标签模块包括:标签中心、标签工厂、报表中心、标签同步以及分析引擎;

28、所述全景监控模块包括:业务链路、监控管理、告警通知、全局配置;

29、所述数据探索模块包括:模型管理、模型工厂、数据管理、算子管理;

30、所述数据资产模块包括:资产门户、资产类目、资产管理、审批管理;

31、所述算法服务模块包括:资源注册、格式定义、算法管理、场景管理;

32、所述数据治理模块包括:标准管理、模型管理、数据探索、智能etl;

33、所述数据研发模块包括:数据集成、数据开发、监控运维、数据管理、数据质量、数据安全;

34、所述数据上云模块包括:监控运维、任务管理、数据源管理、元数据资产。

35、作为本专利技术优选的实施方式,所述数据湖为数据应用和数据可视化提供服务时,包括:数据采集、数据传输、数据存储处理、数据交换共享、数据管理以及数据安全保障体系。

36、作为本专利技术优选的实施方式,所述数据采集包含iot数据、视觉ai数据以及应用业务数据,通过数据定义、数据读取、数据探查以及数据对账一系列标准动作对数据完成采集;

37、所述数据存储处理包含缓冲数据、原始库、资源库、主题库和业务库,对所述缓冲数据进行提取、清洗形成原始数据,对所述原始数据进行关联比对形成资源库数据,对所述资源库数据进行标识、分发形成主题库数据,对所述主题库数据进行建模形成业务库数据。

38、作为本专利技术优选的实施方式,所述数据交换共享包含对处理过后的数据形成数据资源目录,并在数据共享和交换平台上提供服务;

39、所述数据管理包含数据标准管理、数据资产管理、数据质量管理、数据运维管理;

40、所述数据安全保障体系包含数据采集安全、数据传输安全、数据存储安全、数据处理安全、数据共享安全。

41、一种基于智能计算平台的统一数据管理应用方法,包括本文档来自技高网...

【技术保护点】

1.一种基于智能计算平台的统一数据管理应用系统,其特征在于,包括数据源、数据湖以及业务区;

2.根据权利要求1所述的基于智能计算平台的统一数据管理应用系统,其特征在于,所述统一数据管理应用系统在所述数据源与所述数据湖之间还设有计算平台;

3.根据权利要求1所述的基于智能计算平台的统一数据管理应用系统,其特征在于,所述数据中台的业务架构包括:数据资产管理模块、计算与存储平台、面向应用及开放的统一数据服务中间件、智能数据研发模块、若干数据服务以及若干数据应用。

4.根据权利要求3所述的基于智能计算平台的统一数据管理应用系统,其特征在于,所述数据资产管理模块具备以下功能:资产地图、资产分析、资产管理、资产应用以及资产运营;

5.根据权利要求1所述的基于智能计算平台的统一数据管理应用系统,其特征在于,所述数据源包括:城市IOT区VPC、城市AI区VPC以及业务数据区VPC;

6.根据权利要求5所述的基于智能计算平台的统一数据管理应用系统,其特征在于,所述数据DNA包括:数据看板、模型全景、配置管理、数据可视化;

7.根据权利要求1所述的基于智能计算平台的统一数据管理应用系统,其特征在于,所述数据湖为数据应用和数据可视化提供服务时,包括:数据采集、数据传输、数据存储处理、数据交换共享、数据管理以及数据安全保障体系。

8.根据权利要求7所述的基于智能计算平台的统一数据管理应用系统,其特征在于,所述数据采集包含IOT数据、视觉AI数据以及应用业务数据,通过数据定义、数据读取、数据探查以及数据对账一系列标准动作对数据完成采集;

9.根据权利要求7所述的基于智能计算平台的统一数据管理应用系统,其特征在于,所述数据交换共享包含对处理过后的数据形成数据资源目录,并在数据共享和交换平台上提供服务;

10.一种基于智能计算平台的统一数据管理应用方法,其特征在于,包括以下步骤:

...

【技术特征摘要】

1.一种基于智能计算平台的统一数据管理应用系统,其特征在于,包括数据源、数据湖以及业务区;

2.根据权利要求1所述的基于智能计算平台的统一数据管理应用系统,其特征在于,所述统一数据管理应用系统在所述数据源与所述数据湖之间还设有计算平台;

3.根据权利要求1所述的基于智能计算平台的统一数据管理应用系统,其特征在于,所述数据中台的业务架构包括:数据资产管理模块、计算与存储平台、面向应用及开放的统一数据服务中间件、智能数据研发模块、若干数据服务以及若干数据应用。

4.根据权利要求3所述的基于智能计算平台的统一数据管理应用系统,其特征在于,所述数据资产管理模块具备以下功能:资产地图、资产分析、资产管理、资产应用以及资产运营;

5.根据权利要求1所述的基于智能计算平台的统一数据管理应用系统,其特征在于,所述数据源包括:城市iot区vpc、城市ai区vpc以及业务数据区vpc;

6....

【专利技术属性】
技术研发人员:邓练兵巩志国官全龙
申请(专利权)人:广东琴智科技研究院有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1