基于Kubernetes智能板卡集群的资源集成监控与调度装置制造方法及图纸

本发明专利技术公开了一种基于Kubernetes智能板卡集群的资源集成监控与调度装置。其中，该装置包括：自定义调度器、智能板卡集成组件、智能板卡监控组件以及节点优先级队列；本发明专利技术基于Kubernetes调度框架开发自定义调度器以解决集群资源碎片问题，优化集群资源利用率；通过智能板卡集成组件框架向Kubernetes集群中集成国产智能板卡资源，使得Kubernetes集群能够对异构硬件进行设备的发现并且使容器能够对该资源进行申请；通过智能板卡监控组件向分布式监控组件Prometheus汇报智能板卡运行时参数；通过节点优先级缓存队列，从性能上解决了大规模集群下使用默认调度策略的效率低下问题。题。题。

【技术实现步骤摘要】
基于Kubernetes智能板卡集群的资源集成监控与调度装置


[0001]本专利技术实施例涉及Kubernetes智能板卡集群
，尤其涉及一种基于Kubernetes智能板卡集群的资源集成监控与调度装置。

技术介绍

[0002]针对大规模的容器进行编排管理已经成为了保证云服务部署便利性以及运行稳定性的一种必然性趋势。Kubernetes容器编排引擎在Docker容器的基础之上增加了一层新的抽象对象Pod，以便更好地利用容器进行应用的功能模块划分。其一经公布就得到了众多IaaS云服务提供商的支持，并凭借其活跃的社区以及超强的可拓展性，很快占领了容器云的主要市场，逐渐成为容器云平台的事实标准。
[0003]然而在一个拥有大数据和多样化工作负载的世界中，对计算的需求是无穷无尽的。随着人工智能的发展，一个集群中越来越多的实例将处理着AI相关的业务，复杂的神经网络运算也逐渐证明了当下对计算能力的需求是无止境的。同时，随着业务的复杂度不断提升，国内市场上也不断涌现出应用于某一特殊领域的国产专用芯片，如寒武纪科技推出的MLU100与MLU200本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于Kubernetes智能板卡集群的资源集成监控与调度装置，其特征在于，包括：自定义调度器、智能板卡集成组件、智能板卡监控组件以及节点优先级队列；其中，所述自定义调度器用于根据预设的调度策略、节点优先级队列的运行结果以及国产智能板卡集成组件的运行结果，对容器进行调度；所述国产智能板卡集成组件用于向Kubernetes集群集成目标智能板卡，并将集成后的目标智能板卡作为第三方资源接入到Kubernetes集群中；所述国产智能板卡监控组件用于向分布式监控组件定时上报目标智能板卡的运行参数信息，并根据接口通过多线程的方式采集目标智能板卡的运行参数信息；所述节点优先级队列用于动态调整其内部缓存的节点队列，将运行结果提供给所述自定义调度器，以供自定义调度器通过遍历的方式对调整后的节点优先级队列进行节点打分。2.根据权利要求1所述的装置，其特征在于，所述国产智能板卡集成组件向Kubernetes集群集成目标智能板卡的步骤包括：通过扩展资源的方式向Kubernetes集成目标智能板卡对象；扫描目标目录下的设备文件，向代理组件更新；以控制循环方式通过代理组件向Kubernetes应用程序接口服务器汇报目标智能板卡信息，在智能板卡对象信息发生更改时变更对应的节点对象与智能板卡对象绑...

【专利技术属性】
技术研发人员：周学海，郝天成，朱宗卫，王超，李曦，
申请(专利权)人：中国科学技术大学，
类型：发明
国别省市：