【技术实现步骤摘要】
本申请涉及云计算,具体涉及一种数据处理的方法及相应装置。
技术介绍
1、任务调度与资源管理是当前云计算中十分重要的技术,往往决定着集群资源利用率以及应用负载的执行性能。传统云数据中心资源调度方案往往是以计算为中心的迁移数据方案(如:k8s,knative等);而随着大数据的发展,逐渐探索出以数据为中心的迁移计算方案,(如:fluvio、redpanda等)。然而,这些单一迁移方案并不能适应于当前复杂多变的应用场景。
2、高性能数据分析(high performance data analysis,hpda)是随着近年来大数据、高性能计算等发展而衍生出来的,其特征为计算密集与数据密集并重,且数据量级达拍字节(petabyte,pb)级以上,这导致hpda应用负载复杂多样且动态变化,比如应用在运行过程中间状态数据量波动大,量级从兆字节(megabyte,mb)到吉字节(gigabyte,gb)级别不等。可见,采用单一的迁移方案无法满足高性能诉求。
技术实现思路
1、本申请提供一种数
...【技术保护点】
1.一种数据处理的方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
4.根据权利要求1-3任一项所述的方法,其特征在于,优化目标不同时,用于确定所述数据迁移代价和所述任务迁移代价的关系式不同。
5.根据权利要求4所述的方法,其特征在于,所述优化目标包括如下至少一项:
6.根据权利要求5所述的方法,其特征在于,当所述优化目标为单个计算任务完成时延最短时,用于确定所述数据迁移代价的关系式为:
7.根据权利要
...【技术特征摘要】
1.一种数据处理的方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
4.根据权利要求1-3任一项所述的方法,其特征在于,优化目标不同时,用于确定所述数据迁移代价和所述任务迁移代价的关系式不同。
5.根据权利要求4所述的方法,其特征在于,所述优化目标包括如下至少一项:
6.根据权利要求5所述的方法,其特征在于,当所述优化目标为单个计算任务完成时延最短时,用于确定所述数据迁移代价的关系式为:
7.根据权利要求5所述的方法,其特征在于,当所述优化目标为单个计算任务完成时延最短时,用于确定所述任务迁移代价的关系式为:
8.一种数据处理的方法,其特征在于,包括:
9.根据权利要求8所述的方法,其特征在于,所述方法还包括:
10.根据权利要求8所述的方法,其特征在于,所述方法还包括:
11.根据权利要求8-10任一项所述的方法,其特征在于,优化目标不同时,用于确定所述数据迁移代价和所述计算代价的关系式不同。
12.根据权利要求11所述的方法,其特征在于,所述优化目标包括如下至少一项:
13.根据权利要求12所述的方法,其特征在于,当所述第一装置为端侧装置时,所述优化目标为单个任务完成时延最短时,用于确定所述数据迁移代价的关系式为:
14.根据权利要求12所述的方法,其特征在于,当所述第一装置为端侧装置时,所述优化目标为单个任务完成时延最短时,用于确定所述计算代价的关系式为:
15.根据权利要求12所述的方法,其特征在于,...
【专利技术属性】
技术研发人员:陈琼,刘方明,胡康立,黄茂青,郑锦焕,
申请(专利权)人:华为技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。