【技术实现步骤摘要】
本申请涉及大数据,尤其涉及一种数据处理方法、装置、电子设备及存储介质。
技术介绍
1、kafka,是一种分布式发布订阅消息系统,用于构建实时数据管道和流应用程序。它可以处理大量的数据,并允许用户在系统中进行实时处理。
2、目前,基于kafka进行数据处理的具体过程为:当存在一个数据处理需求时,在前期的准备工作中,开发人员根据需求向前端人员告知需要采集哪些数据。前端人员在生成这些数据的位置处埋点,并将该位置与kafka建立连接,以便这些数据产生后,kafka能够收集到这些数据。开发人员基于需求编写包含有数据处理逻辑的代码。在数据处理过程中,数据产生,kafka收集这些数据,并通过运行代码,使得这些数据按照需求被处理,进而输出数据处理后的结果。最后,治理人员还需要将kafka中的这些数据进行统一管理,即记录类别并按照类别存储相应的数据。
3、但是,当采集数据的需求发生变化时,变化后的需求只通知到开发人员,使开发人员根据变化后的需求调整代码中的逻辑,进而使调整逻辑后的代码能够处理变化后的数据。治理人员无法在第一时间获知
...【技术保护点】
1.一种数据处理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,在获取待处理的目标数据之前,所述方法还包括,通过以下步骤构建所述预设数据处理模型:
3.根据权利要求1所述的方法,其特征在于,所述开发侧确定的数据标准包括:支持的数据类型、数据格式和建表方式。
4.根据权利要求1所述的方法,其特征在于,所述获取待处理的目标数据,包括:
5.根据权利要求1所述的方法,其特征在于,在获取待处理的目标数据之后,所述方法还包括:
6.根据权利要求1所述的方法,其特征在于,在得到处理结果之后,所
...【技术特征摘要】
1.一种数据处理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,在获取待处理的目标数据之前,所述方法还包括,通过以下步骤构建所述预设数据处理模型:
3.根据权利要求1所述的方法,其特征在于,所述开发侧确定的数据标准包括:支持的数据类型、数据格式和建表方式。
4.根据权利要求1所述的方法,其特征在于,所述获取待处理的目标数据,包括:
5.根据权利要求1所述的方法,其特征在于,在获取待处理的目标数据之后,所述方法还包括:
6.根据权利要求1所述的方法,其特征在于,在得到处理结果之后,所述方法还包括以下至少一种:
7.根据权利要求1所述的方法,其特征在于,在获取待处理的目标数据...
【专利技术属性】
技术研发人员:冯忠田,鞠道霈,杨倩琳,蒋勇,徐彪,邵锐,邢云飞,顾静玲,邹品洛巍,
申请(专利权)人:奇安信科技集团股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。