数据处理方法、存储介质和电子设备技术

技术编号:42189729 阅读:27 留言:0更新日期:2024-07-30 18:40
本申请公开了一种数据处理方法、存储介质和电子设备。其中,该方法包括:获取数据流;根据数据流,构建数据处理任务,其中,数据处理任务用于指导数据流的处理方式;根据数据处理任务,构建多个工作流任务,其中,工作流任务用于指导数据的处理过程;利用工作流引擎和工作流任务,对数据流进行处理得到数据处理结果,其中,工作流引擎基于容器化技术构建,工作流引擎用于对工作流任务进行处理。本申请解决了现有云上的数据处理服务,都只提供通用的能力输出,并不能解决复杂场景的数据编排的技术问题。

【技术实现步骤摘要】

本申请涉及计算机和数据处理,具体而言,涉及一种数据处理方法、存储介质和电子设备


技术介绍

1、随着互联网技术的发展,搜索、推荐、大模型技术越发重要,大多数业务场景基本都离不开搜索、推荐、大模型,在搜索、推荐、大模型技术中,都存在非常复杂的数据处理场景,而现有云上的数据处理服务,都只提供通用的能力输出,并不能解决复杂场景(例如大模型预训练数据处理)的编排问题。

2、针对上述的问题,目前尚未提出有效的解决方案。


技术实现思路

1、本申请实施例提供了一种数据处理方法、存储介质和电子设备,以至少解决现有云上的数据处理服务,都只提供通用的能力输出,并不能解决复杂场景的数据编排的技术问题。

2、根据本申请实施例的一个方面,提供了一种数据处理方法,包括:获取数据流;根据数据流,构建数据处理任务,其中,数据处理任务用于指导数据流的处理方式;根据数据处理任务,构建多个工作流任务,其中,工作流任务用于指导数据的处理过程;利用工作流引擎和工作流任务,对数据流进行处理得到数据处理结果,其中,工作流引擎基于容本文档来自技高网...

【技术保护点】

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述数据流的类型包括离线数据流、实时数据流和混合数据流,其中,所述混合数据流中包括所述离线数据流和所述实时数据流。

3.根据权利要求2所述的方法,其特征在于,根据所述数据流,构建数据处理任务,包括:

4.根据权利要求3所述的方法,其特征在于,根据所述数据流,构建数据处理任务,还包括:

5.根据权利要求3所述的方法,其特征在于,根据所述数据流,构建数据处理任务,还包括:

6.根据权利要求1所述的方法,其特征在于,根据所述数据处理任务,构建多个工作流...

【技术特征摘要】

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述数据流的类型包括离线数据流、实时数据流和混合数据流,其中,所述混合数据流中包括所述离线数据流和所述实时数据流。

3.根据权利要求2所述的方法,其特征在于,根据所述数据流,构建数据处理任务,包括:

4.根据权利要求3所述的方法,其特征在于,根据所述数据流,构建数据处理任务,还包括:

5.根据权利要求3所述的方法,其特征在于,根据所述数据流,构建数据处理任务,还包括:

6.根据权利要求1所述的方法,其特征在于,根据所述数据处理任务,构建多个工作流任务,包括:

7.根据权利要求6所述的方法,其特征在于,根据所述数据处理任务,确定多个自定义函数,包括...

【专利技术属性】
技术研发人员:梁文刚江仲兴赖泽原
申请(专利权)人:优视科技中国有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1