System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及分布式计算,并且更具体地,涉及一种电磁暂态跨域分布式并行计算调度方法及装置。
技术介绍
1、分布式系统是由多个分散的计算机经互连网络构成的统一计算机系统。其中各个物理的和逻辑的资源既相互配合又高度自治,能在全系统范围内实现资源管理和数据共享,动态的实现任务分配和功能分配,且能并行的运行分布式程序,它强调资源、任务、功能、数据和控制的全面分布,它们分布于各个物理上分散的计算机节点中,各个节点经过互连网络相互通信,构成统一的处理系统。
2、任何分布式系统都会涉及到数据的一致性问题,进行数据一致性分析和处理主要出于两个目的:可靠性和性能。数据一旦被更改或复制,就会带来一致性的问题。
3、现在分布式系统存在的问题是数据的复制,对数据的复制一般有两个原因包括增加系统的可靠性防止单点失效的问题以及提高系统性能利用不同地理位置的副本迅速响应用户需求。
技术实现思路
1、针对现有技术的不足,本专利技术提供一种电磁暂态跨域分布式并行计算调度方法及装置。
2、根据本专利技术的一个方面,提供了一种电磁暂态跨域分布式并行计算调度方法,包括:
3、接收本地计算请求后,分析本地计算数据的任务配置文件得到该计算任务所需的总核数;
4、在资源池找到本地集群的本地资源信息,判断本地资源信息中本地资源是否够用,若够用直接向本地集群的调度节点下达计算命令消息;
5、若本地资源不够用,调用资源池信息查询结构查找资源池本地集群的上级异地集
6、若资源池中找不到可用上级异地集群,则将该任务按优先级顺序加入任务等待队列。
7、可选地,集群为由一组相关联的负责不同业务处理的服务器构成的并行计算平台,集群包括多个计算节点、调度节点、数据节点以及网关服务器,其中
8、计算节点负责数据并行计算;
9、调度节点负责用户任务调度和控制以及结果回收;
10、数据节点用于存放历史数据以及结果查询功能;
11、网关服务器负责并行计算平台的统一对外接口。
12、可选地,还包括:通过调度应用的监视事件线程监视资源池的可用资源信息变化事件,若被触发,检查任务队列是否有任务,若有任务,为任务队列里的任务分配资源。
13、可选地,还包括:
14、接收待更新集群上报的资源信息,查找树路径中与待更新集群对应的树节点;
15、若找到待更新集群对应的树节点,则根据上报的资源信息更新待更新集群的树节点的数据信息;
16、若未找到待更新集群对应的树节点,则在树路径中查找待更新集群的上级区域名,若找到上级区域名,则在上级区域名的树节点的子节点新建待更新集群的树节点;
17、根据待更新集群上报的资源信息更新待更新集群树节点的数据信息。
18、可选地,资源信息包括本集群计算节点个数、集群总核数、集群可用核数、集群级别、集群区域名、本集群上级区域名、调度节点ip信息、资源共享标识信息。
19、可选地,还包括:
20、本地集群或上级异地集群收到本方调度节点计算指令后,由内部计算流程机制调用相应计算程序参与计算,当计算完成后,将计算结果返回到本方的网关服务器节点;
21、网关服务器节点接收到本方集群调度节点返回的计算结果后,根据任务属性判断结果属于本地集群或上级异地集群,如果是本集群,则直接调用入库程序进行入库操作,如果是远程上级异地集群,则根据对方网关ip地址信息将结果返回给对方网关服务器。
22、可选地,还包括:本地集群的网关节点接收计算任务后向本地集群调度节点和所有计算节点组播本地计算数据。
23、可选地,还包括:
24、本地集群的网关节点收到计算请求后,进行任务分析,根据计算数据的申请资源情况确定计算任务是否需要拆分;
25、如果计算任务不拆分,则只向申请到的本地集群或上级异地集群发送计算指令消息;
26、如果计算任务需要拆分,则重新生成计算任务配置文件,并向两个或多个集群发送计算指令消息。
27、根据本专利技术的另一个方面,提供了一种电磁暂态跨域分布式并行计算调度装置,包括:
28、分析模块,用于接收本地计算请求后,分析本地计算数据的任务配置文件得到该计算任务所需的总核数;
29、第一判断模块,用于在资源池找到本地集群的本地资源信息,判断本地资源信息中本地资源是否够用,若够用直接向本地集群的调度节点下达计算命令消息;
30、查询模块,用于若本地资源不够用,调用资源池信息查询结构查找资源池本地集群的上级异地集群是否有可用的集群资源,若找到可用的集群资源,则根据上级异地集群的网关ip地址信息,将本地计算数据同步至上级异地集群,再通过消息发送共享请求计算消息;
31、加入模块,用于若资源池中找不到可用上级异地集群,则将该任务按优先级顺序加入任务等待队列。
32、根据本专利技术的又一个方面,提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行本专利技术上述任一方面所述的方法。
33、根据本专利技术的又一个方面,提供了一种电子设备,所述电子设备包括:处理器;用于存储所述处理器可执行指令的存储器;所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现本专利技术上述任一方面所述的方法。
34、从而,本专利采用基于paxos算法原理在跨域分布式调度环境中构建大规模分布式并行计算集群统一计算资源池,电磁暂态仿真任务在本区网关节点提交请求后根据资源需求可调度资源池中任一分区集群资源,大大提高了计算效率。依据paxos算法原理实现了资源池中机群信息的动态变化协调一致性,任何一个集群信息都能被全网各级调度集群网关服务器查询访问,提出了多级跨域调度资源统一分配和管理机制,为集群资源共享提供了技术支持。多级跨域大规模分布式集群实现了数据和程序的预分配,减少了网络通信量,大大的提高了通信效率。资源冗余和自治控制使系统具备动态重构,甚至经受局部破坏也能继续工作,从而避免了由于单个节点失效而使整个系统崩溃的危险,解决了单点故障问题,实现了网络负载均衡,分散的用户能获得分布式系统的快速响应和直接服务。
本文档来自技高网...【技术保护点】
1.一种电磁暂态跨域分布式并行计算调度方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述集群为由一组相关联的负责不同业务处理的服务器构成的并行计算平台,所述集群包括多个计算节点、调度节点、数据节点以及网关服务器,其中
3.根据权利要求1所述的方法,其特征在于,还包括:通过调度应用的监视事件线程监视所述资源池的可用资源信息变化事件,若被触发,检查任务队列是否有任务,若有任务,为所述任务队列里的任务分配资源。
4.根据权利要求1所述的方法,其特征在于,还包括:
5.根据权利要求1或4所述的方法,其特征在于,所述资源信息包括本集群计算节点个数、集群总核数、集群可用核数、集群级别、集群区域名、本集群上级区域名、调度节点IP信息、资源共享标识信息。
6.根据权利要求1所述的方法,其特征在于,还包括:
7.根据权利要求1所述的方法,其特征在于,还包括:所述本地集群的网关节点接收计算任务后向本地集群调度节点和所有计算节点组播本地计算数据。
8.根据权利要求1所述的方法,其特征在于,还包括:
9.一种电磁暂态跨域分布式并行计算调度装置,其特征在于,包括:
10.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1-8任一所述的方法。
11.一种电子设备,其特征在于,所述电子设备包括:
...【技术特征摘要】
1.一种电磁暂态跨域分布式并行计算调度方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述集群为由一组相关联的负责不同业务处理的服务器构成的并行计算平台,所述集群包括多个计算节点、调度节点、数据节点以及网关服务器,其中
3.根据权利要求1所述的方法,其特征在于,还包括:通过调度应用的监视事件线程监视所述资源池的可用资源信息变化事件,若被触发,检查任务队列是否有任务,若有任务,为所述任务队列里的任务分配资源。
4.根据权利要求1所述的方法,其特征在于,还包括:
5.根据权利要求1或4所述的方法,其特征在于,所述资源信息包括本集群计算节点个数、集群总核数、集群可用核数...
【专利技术属性】
技术研发人员:王玉坤,徐友平,邵德军,潘晓杰,周智强,李勤新,张慕婕,石梦璇,张三洪,边宏宇,何春江,晁春晖,马博,吴国辉,
申请(专利权)人:国家电网公司华中分部,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。