【技术实现步骤摘要】
城市大脑AI计算中心分布式异构算力的调度方法及系统
本专利技术属于人工智能
,具体涉及一种城市大脑AI计算中心分布式异构算力的调度方法及系统。
技术介绍
城市大脑是以新基建项目为切入点,基于云计算、大数据和智能传感器等技术,搭建城市级神经感知网,汇聚城市所产生的各种数据资源,利用人工智能和区块链技术,在城市交通治理、公共安全、应急管理、网格防控、医疗卫生、文化旅游、环境保护、城市精细化管理等应用场景,实现城市的精细化、动态化管理,缓解“大城市病”,改善市民生活质量。其中的云计算、大数据等数字技术,是构建城市大脑的基石。传统的应用方案常是基于政务网和互联网,实现数据和算力的存储和部署,基于中心化算力集群实现AI(ArtificialIntelligence,人工智能)训练和推理任务的执行。这种中心化的云计算方式,在城市大脑的建设初期,尤其是视频摄像头、语音线路和其他智能传感器接入数量较少时是可行的,随着城市大脑建设的推进,以及数据接入量的增加,必然面临网络传输的能力不足问题和中心化算力不足的问题。随着城市 ...
【技术保护点】
1.一种城市大脑AI计算中心分布式异构算力的调度方法,其特征在于,该调度方法包括以下步骤:/n处理客户端提交的AI计算的任务请求,存储Pod数据到etcd;其中,所述任务请求符合Restful API规范;/n监控资源变化并做出反应;/n检查数据库的变化,创建期望数量的Pod实例;/n调用Kubernetes扩展调度器的定制化调度算法,并再次检查所述数据库的变化,根据设定规则将未被分配到具体节点的Pod分配到目标节点上,并更新所述数据库的记录;/n监控所述数据库的变化,管理后续Pod生命周期。/n
【技术特征摘要】
1.一种城市大脑AI计算中心分布式异构算力的调度方法,其特征在于,该调度方法包括以下步骤:
处理客户端提交的AI计算的任务请求,存储Pod数据到etcd;其中,所述任务请求符合RestfulAPI规范;
监控资源变化并做出反应;
检查数据库的变化,创建期望数量的Pod实例;
调用Kubernetes扩展调度器的定制化调度算法,并再次检查所述数据库的变化,根据设定规则将未被分配到具体节点的Pod分配到目标节点上,并更新所述数据库的记录;
监控所述数据库的变化,管理后续Pod生命周期。
2.根据权利要求1所述的一种城市大脑AI计算中心分布式异构算力的调度方法,其特征在于,所述任务请求支持的数据类型包括JSON和YAML。
3.根据权利要求1所述的一种城市大脑AI计算中心分布式异构算力的调度方法,其特征在于,所述任务请求是训练任务或推理任务。
4.根据权利要求1所述的一种城市大脑AI计算中心分布式异构算力的调度方法,其特征在于,在所述并更新所述数据库的记录后,还包括:
记录Pod的分配情况。
5.根据权利要求1所述的一种城市大脑AI计算中心分布式异构算力的调度方法,其特征在于,所述监控所述数据库的变化,管理后续Pod生命周期,具体为:
发现被分配到它所在节点上运行的Pod,当发现新Pod时,则在该节点上运行所述新Pod。
6.根据权利要求5所述的一种城市大脑AI计算中心分布式异构算力的调度方法,其特征在于,所述节点为通过区块链P2P网络,把异构的算力组成了虚拟的算力网络,通过一个去中心化的思想把异构...
【专利技术属性】
技术研发人员:梅一多,何彬,谷雨明,
申请(专利权)人:中关村科学城城市大脑股份有限公司,
类型:发明
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。