基础设施处理单元制造技术

本文所述的示例涉及一种基础设施处理单元(IPU)，其包括：接口电路模块，用于提供与平台的通信耦合；网络接口电路模块，用于提供与网络介质的通信耦合；以及用于暴露要由微服务访问以用于功能组成的基础设施服务的电路模块。块。块。

【技术实现步骤摘要】
【国外来华专利技术】基础设施处理单元
相关申请
[0001]本申请要求美国申请17/134324(2020年12月26日提交)和美国申请17/134321(2020年12月26日提交)的优先权，它们均要求美国临时申请63/087218(2020年10月3日提交)的权益。这些申请的内容完整地结合到本文中。


[0002]云计算处于具有两个相互增强趋势的拐点。存在规模化(at
‑
scale)云原生服务的快速出现，其中具有大型、松耦合、快速组装且部署的微服务，所述微服务触及大规模分布式数据，但通过将计算保持为在数据本地来这样做。存在对传统软件栈的改变，其中抽象通过一系列水平层进行，现在改变成更大程度的模块化、异构性、紧密耦合动作的本地性以及面向服务的应用程序接口(API)背后的数据和服务虚拟化。
附图说明
[0003]图1是用于采用解聚合资源(disaggregatedresources)来执行工作负荷的数据中心的至少一个实施例的简化图。
[0004]图2是可包含在数据中心中的机架组(pod)的至少一个实施例的简化图。
[本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种系统，包括：受管理节点，所述受管理节点包括一个或多个复合节点，其中复合节点包括逻辑上耦合的计算资源，其中所述计算资源包括存储器装置、数据存储装置、加速器装置或通用处理器，其中来自所述一个或多个复合节点的资源共同用于执行工作负荷，并且其中所述工作负荷执行由微服务组来实现；以及基础设施处理单元(IPU)，所述基础设施处理单元(IPU)暴露要由所述微服务访问的基础设施服务，以用于功能组成。2.如权利要求1所述的系统，其中，所述基础设施服务包括路由器、负荷平衡器、防火墙、TCP/可靠传输、服务网格、数据变换、认证、服务质量(QoS)、安全性基础设施服务、遥测测量、事件记录、发起和管理数据流、数据部署或对XPU、存储设备、存储器或中央处理器(CPU)上的资源进行作业调度的能力。3.如权利要求1所述的系统，其中，所述IPU在通信上耦合到所述一个或多个复合节点，并且其中所述IPU能够从所述一个或多个复合节点上的任何软件或装置接收功能调用。4.如权利要求3所述的系统，其中，所述IPU经由一个或多个装置接口或经由网络或组构在通信上耦合到同一管芯上的所述一个或多个复合节点。5.如权利要求1所述的系统，其中，所述IPU包括具有一个或多个可编程或固定功能处理器的网络接口控制器或SmartNIC中的至少一个，以便对原本可能由中央处理器(CPU)执行的操作执行卸载。6.如权利要求5所述的系统，其中，所述操作包括数据并行化任务、平台和装置管理、分布式节点间和节点内遥测、追踪、记录和监测、服务质量(QoS)强制实施、服务网格、包括串行化和解串行化的数据处理、包括大小和格式转变的变换、范围验证、访问策略强制实施或分布式节点间和节点内安全性。7.如权利要求5所述的系统，其中，所述操作包括整合式加速引擎，所述整合式加速引擎提供灵活且可编程的加速以卸载和改进每秒浮点运算(FLOPS)/每秒张量运算(TOPS)或密集人工智能(AI)和机器学习的执行。8.如权利要求1所述的系统，其中，所述IPU与中央处理器(CPU)或XPU中的至少一个相整合。9.如权利要求1所述的系统，其中，所述IPU与中央处理器(CPU)或XPU中的至少一个在物理上分离。10.如权利要求2所述的系统，其中，所述安全性基础设施服务包括信任根(RoT)、证实服务、安全包体、存储加密密钥和完整密钥管理职责、用于将所述IPU连接到所述系统中的其它复合节点的链路接口和网络接口的协议加密端点、单独控制平面接口、分别配置并且与其它装置接口隔离的状态机装置上接口、证实、授权、访问控制、记录、日志过滤、不可变记录、XPU间保密性的安全性中心功能以及身份和信息隔离、多个客户端之间用于协同处理的代理数据可见性、网络和输入输出(IO)组构或安全性策略和服务的被动或主动强制实施，其中安全性策略和服务的强制实施包括访问控制列表、速率限制、访问控制、入侵检测或分布式拒绝服务攻击。11.如权利要求10所述的系统，其中，所述IPU是芯片上系统(SoC)，其中所述SoC包括存储器，并且其中所述安全性服务包括用于来自所述IPU SoC的外部接口的安全和加密接口。
12.如权利要求1所述的系统，其中，所述IPU能够减少XPU高速缓存和带宽污染，同时释放通用计算核的使用，并且其中所述IPU能够交叉整合对加速装置的使用。13.如权利要求2所述的系统，其中，所述数据部署包括：在距离将在其上处理数据的节点几跳远的装置上，将所述数据分级并且将所述数据存储在存储器或存储装置中。14.如权利要求1所述的系统，其中，所述基础设施服务包括I/O数据路径操作，所述I/O数据路径操作包括加密、认证、压缩、路由选择、策略强制实施、深度分组或消息检视、包括RoCE或iWARP的远程直接存储器存取(RDMA)加速、网络协议卸载、可靠传输、拥塞控制、服务质量(QoS)、取样、分组复制或多播、多路径、网络地址转换(NAT)或防火墙。15.如权利要求2所述的系统，其中，所述发起和管理数据流包括统一对本地或远程共享存储器的存储器存取，其中所述统一存储器存取包括加密、访问控制、地址重新映射、高速缓存管理、可靠访问、原子命令或永久存储器管理。16.一种基础设施处理单元(IPU)设备，包括：至少一个网络接口；至少一个主机接口；以及至少一个处理器，其中所述至少一个处理器中的至少一个处理器配置成执行指令以暴露要由微服务访问的基础设施服务，以用于功能组成，以及其中所述微服务在一个或多个复合节点上实现工作负荷执行，复合节点包括逻辑上耦合的计算资源，所述计算资源包括存储器装置、数据存储装置、加速器装置或通用处理器。17.如权利要求16所述的设备，其中，所述基础设施服务包括路由器、负荷平衡器、防火墙、TCP/可靠传输、服务网格、数据变换、认证、服务质量(QoS)、安全性基础设施服务、遥测测量、事件记录、发起和管理数据流、数据部署或对XPU、存储设备、存储器或中央处理器(CPU)上的资源进行作业调度的能力。18.如权利要求16所述的设备，其中，所述IPU在通信上耦合到所述一个或多个复合节点，并且其中所述IPU能够从所述一个或多个复合节点上的任何软件或装置接收功能调用。19.如权利要求18所述的设备，其中，所述IPU经由一个或多个装置接口或经由网络或组构在通信上耦合到同一管芯上的所述一个或多个复合节点。20.如权利要求16所述的设备，其中，所述IPU包括具有一个或多个可编程或固定功能处理器的网络接口控制器或SmartNIC中的至少一个，以便对原本可能由中央处理器(CPU)执行的操作执行卸载。21.如权利要求20所述的设备，其中，所述操作包括数据并行化任务、平台和装置管理、分布式节点间和节点内遥测、追踪、记录和监测、服务质量(QoS)强制实施、服务网格、包括串行化和解串行化的数据处理、包括大小和格式转变的变换、范围验证、访问策略强制实施或分布式节点间和节点内安全性。22.如权利要求20所述的设备，其中，所述操作包括整合式加速引擎，所述整合式加速引擎提供灵活且可编程的加速以卸载和改进每秒浮点运算(FLOPS)或每秒张量运算(TOPS)或密集人工智能(AI)和机器学习的执行。23.如权利要求16所述的设备，其中，所述IPU与中央处理器(CPU)或XP...

【专利技术属性】
技术研发人员：J，
申请(专利权)人：英特尔公司，
类型：发明
国别省市：