【技术实现步骤摘要】
本申请涉及计算机和数据处理,具体而言,涉及一种数据处理方法、存储介质和电子设备。
技术介绍
1、随着互联网技术的发展,搜索、推荐、大模型技术越发重要,大多数业务场景基本都离不开搜索、推荐、大模型,在搜索、推荐、大模型技术中,都存在非常复杂的数据处理场景,而现有云上的数据处理服务,都只提供通用的能力输出,并不能解决复杂场景(例如大模型预训练数据处理)的编排问题。
2、针对上述的问题,目前尚未提出有效的解决方案。
技术实现思路
1、本申请实施例提供了一种数据处理方法、存储介质和电子设备,以至少解决现有云上的数据处理服务,都只提供通用的能力输出,并不能解决复杂场景的数据编排的技术问题。
2、根据本申请实施例的一个方面,提供了一种数据处理方法,包括:获取数据流;根据数据流,构建数据处理任务,其中,数据处理任务用于指导数据流的处理方式;根据数据处理任务,构建多个工作流任务,其中,工作流任务用于指导数据的处理过程;利用工作流引擎和工作流任务,对数据流进行处理得到数据处理结果,其
...【技术保护点】
1.一种数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述数据流的类型包括离线数据流、实时数据流和混合数据流,其中,所述混合数据流中包括所述离线数据流和所述实时数据流。
3.根据权利要求2所述的方法,其特征在于,根据所述数据流,构建数据处理任务,包括:
4.根据权利要求3所述的方法,其特征在于,根据所述数据流,构建数据处理任务,还包括:
5.根据权利要求3所述的方法,其特征在于,根据所述数据流,构建数据处理任务,还包括:
6.根据权利要求1所述的方法,其特征在于,根据所述数据处理
...【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述数据流的类型包括离线数据流、实时数据流和混合数据流,其中,所述混合数据流中包括所述离线数据流和所述实时数据流。
3.根据权利要求2所述的方法,其特征在于,根据所述数据流,构建数据处理任务,包括:
4.根据权利要求3所述的方法,其特征在于,根据所述数据流,构建数据处理任务,还包括:
5.根据权利要求3所述的方法,其特征在于,根据所述数据流,构建数据处理任务,还包括:
6.根据权利要求1所述的方法,其特征在于,根据所述数据处理任务,构建多个工作流任务,包括:
7.根据权利要求6所述的方法,其特征在于,根据所述数据处理任务,确定多个自定义函数,包括...
【专利技术属性】
技术研发人员:梁文刚,江仲兴,赖泽原,
申请(专利权)人:优视科技中国有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。