【技术实现步骤摘要】
数据的处理方法和装置、存储介质及电子装置
本专利技术涉及数据处理领域,具体而言,涉及一种数据的处理方法和装置、存储介质及电子装置。
技术介绍
随着现在大数据技术的普及和传播,更多的企业越来越看中对数据的分析业务。而对数据分析的前提就是对这些数据的收集。现有技术中,这些数据的收集通常都是实时的流式处理收集,如果有多个数据源的话,那么就会启动多个流式任务进行数据的收集。如针对imsi数据的收集,就会向计算机申请一部分的资源,然后启动一个流式任务,这个任务需要一直进行着,也就是说占有的计算机资源会一直占有到手动停止该任务时。那么此时还有针对mac的数据需要收集,此时也会如上流程。那么这俩个任务此时可能就会占有一半的计算机资源。如果再有一个数据源卡扣需要收集时,可能此时计算机的资源就不够了,多个任务之间就会出现争抢资源情况的出现,影响计算效率。多个任务的启动对此时任务的管理也会造成负担,并且多个任务的代码实现、重复劳动增加一线程序员的工作负担。针对上述的问题,目前尚未提出有效的解决方案。专利技 ...
【技术保护点】
1.一种数据的处理方法,其特征在于,包括:/n获取N路源数据以及标识信息,其中,所述N路源数据对应不同类型的数据,所述标识信息用于分别表示所述N路源数据中的每路源数据的属性,N为大于1的整数;/n对所述每路数据配置统一的规则;/n将配置后的所述每路数据发送至与所述标识信息对应的目标接口。/n
【技术特征摘要】
1.一种数据的处理方法,其特征在于,包括:
获取N路源数据以及标识信息,其中,所述N路源数据对应不同类型的数据,所述标识信息用于分别表示所述N路源数据中的每路源数据的属性,N为大于1的整数;
对所述每路数据配置统一的规则;
将配置后的所述每路数据发送至与所述标识信息对应的目标接口。
2.根据权利要求1所述的方法,其特征在于,所述对所述每路数据配置统一的规则包括:
对所述每路数据通过正则表达式配置统一的规则。
3.根据权利要求1所述的方法,其特征在于,所述获取N路源数据以及标识信息之前,所述方法还包括:
所述N路中的每路源数据分别存储在对应不同的数据库中;
从所述数据库中获取所述N路源数据以及所述标识信息。
4.根据权利要求1所述的方法,其特征在于,所述将配置后的所述每路数据发送至与所述标识信息对应的目标接口之后,所述方法还包括:
根据所述每路数据对所述目标接口进行重写;
通过重写后的目标接口处理所述数据,并将处理的所述数据保存至目标数据库中。
5.一种数据的处理装置,其特征在于,包括:
第一获取单元,用于获取N路源数据以及标识信息,其中,所述N路源数据对应不同类型的数据,所述标识信息用于分别表示所述N路源数据中的每路源数据的属性,N为大于1...
【专利技术属性】
技术研发人员:周广一,
申请(专利权)人:北京明略软件系统有限公司,
类型:发明
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。