当前位置: 首页 > 专利查询>之江实验室专利>正文

一种计算任务的批量数据配置和处理及运行方法、装置制造方法及图纸

技术编号:40004397 阅读:24 留言:0更新日期:2024-01-09 04:36
本发明专利技术公开了一种计算任务的批量数据配置和处理及运行方法、装置,包括以下步骤:通过计算框架配置步骤可以屏蔽用户提交不同类型、不同计算框架计算任务的差异,降低开发成本以及用户进行计算任务配置提交的理解成本;批量数据配置步骤提供的一种通用的批量输入数据配置表单,能够兼容不同用户因计算习惯不同对于需要批量输入的数据配置不同的需求,降低开发成本以及提升用户使用灵活性;在批量数据处理步骤,根据可用算力资源和计算任务所需资源智能计算批量数据分片数量并将计算任务拆解为子计算任务进行并行计算,提升计算效率;通过批量数据运行步骤可以展示各任务的运行监控,便于用户跟踪任务的执行情况。

【技术实现步骤摘要】

本专利技术属于计算机应用,尤其涉及一种计算任务的批量数据配置和处理及运行方法、装置


技术介绍

1、随着机器计算能力的不断提升以及人工智能的发展,为提升计算效率,物理世界中的业务需求往往会被转化为一系列计算任务由机器进行计算进而获得结果。而随着计算任务数据量的不断增加,批量数据处理技术应运而生,批量数据处理是指在没有人工干预的情况下,由一个计算机程序基于一份批量的输入数据执行一系列任务的一种处理模式。

2、但是,不同领域的计算任务具有多样性,如材料、制药、天文、育种、基因等领域,计算任务可能为不同类型,包括:高性能计算任务、ai训练任务、ai推理任务、图计算任务、知识图谱计算任务等,计算任务可能使用不同的计算框架,包括:vasp、comsol、alphafold等,如果对于不同的计算任务都进行定制化的批量数据处理开发,则存在开发成本高且用户需要理解适应不同计算任务批量数据配置、处理和运行方式的技术问题。此外,对于同一计算任务,可能会包含多个不同的输入数据,而不同用户的计算习惯不同,对于需要批量输入的数据配置也可能不同,如果针对同一计算任务每种不本文档来自技高网...

【技术保护点】

1.一种计算任务的批量数据配置和处理及运行方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的计算任务的批量数据配置和处理及运行方法,其特征在于,所述计算框架的基础信息包括计算框架唯一标识、计算框架名称、计算框架描述以及计算框架使用说明;

3.根据权利要求1所述的计算任务的批量数据配置和处理及运行方法,其特征在于,所述依据计算框架的配置信息配置计算任务提交批量数据及相关参数,生成并提交计算任务,包括:

4.根据权利要求3所述的计算任务的批量数据配置和处理及运行方法,其特征在于,所述依据计算任务批量数据配置表单上传输入数据文件,包括:

...

【技术特征摘要】

1.一种计算任务的批量数据配置和处理及运行方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的计算任务的批量数据配置和处理及运行方法,其特征在于,所述计算框架的基础信息包括计算框架唯一标识、计算框架名称、计算框架描述以及计算框架使用说明;

3.根据权利要求1所述的计算任务的批量数据配置和处理及运行方法,其特征在于,所述依据计算框架的配置信息配置计算任务提交批量数据及相关参数,生成并提交计算任务,包括:

4.根据权利要求3所述的计算任务的批量数据配置和处理及运行方法,其特征在于,所述依据计算任务批量数据配置表单上传输入数据文件,包括:

5.根据权利要求1所述的计算任务的批量数据配置和处理及运行方法,其特征在于,所述依据输入数据量和当前可用计算资源将计算任务拆分为多个子计算任务并提交至计算集群,包括:

6.根据权利要求...

【专利技术属性】
技术研发人员:田晓雪陈旭马立铭杨浩李嘉莹邱子豪孙观
申请(专利权)人:之江实验室
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1