用于管理借助于加速器装置的硬件加速的请求的方法和节点制造方法及图纸

技术编号:26610817 阅读:83 留言:0更新日期:2020-12-04 21:36
公开了用于管理借助于由硬件加速管理节点(110)管理的至少一个硬件加速装置(120、121、122)的硬件加速“HA”的请求的方法和硬件加速管理节点(110)。硬件加速管理节点(110)从HA接口连接节点(130)接收(A020)处理源数据的硬件加速的请求。硬件加速管理节点(110)发送用于存储源数据的(一个或多个)源存储器位置的指示。硬件加速管理节点(110)选择一个或多个硬件加速装置(120、121、122)。硬件加速管理节点(110)接收要被加速的代码块。硬件加速管理节点(110)向所述一个硬件加速装置(120、121、122)发送源存储器位置的指示和代码块有关的加速指令的集合。硬件加速管理节点(110)接收指示结果数据的结果存储器位置的指示。硬件加速管理节点(110)向HA接口连接节点(130)发送完成的硬件加速的指示。还公开了对应的计算机程序(303)和计算机程序载体(305)。

【技术实现步骤摘要】
【国外来华专利技术】用于管理借助于加速器装置的硬件加速的请求的方法和节点
本文中的实施例涉及计算机系统,诸如计算机资源的网络、云系统等。特定地,公开了用于管理借助于由硬件加速管理节点管理的至少一个加速器装置的硬件加速的请求的方法和硬件加速管理节点。还公开了对应的计算机程序和计算机程序载体。
技术介绍
几十年来,例如随着图形处理单元(GPU)的出现,硬件加速是已知的。GPU在加速诸如静态图片和/或视频的图像处理的专门化任务方面是有用的。此外,已经引入了更多通用GPU,这些GPU帮助中央处理单元(CPU)更高效地应对繁重的计算工作负载,包括视频处理以及与例如大数据分析有关的其它处理。作为硬件加速开发的下一步,已经引入了现场可编程门阵列(FPGA)。例如由于它们加速计算任务的高效能方式,所以FPGA吸引了大量关注。FPGA借助于软件是可配置的,诸如以使FPGA的硬件适应不同的计算任务。近年来,已经使用“硬件加速器”或“硬件加速装置”的术语来指任何硬件加速提供实体,诸如GPU、FPGA等。与最初引入的GPU类似,可使用硬件加速装置作为协处理器、作为CPU处理器的完全替代或作为一个或多个CPU中的指令集架构(ISA)扩展。在过去几年中,已经针对使用FPGA的数据中心中的云计算应用的加速提出了若干种可重新配置的架构,并且兴趣正在增加(rampup)。最近,在试图启用加速装置的远程使用(有时称为加速即服务(AaaS))方面做了大量工作。用于启用加速装置的灵活且可重新配置的使用的一些可用解决方案是分解式FPGA(DisaggregatedFPGA),到2018年4月为止(asofApril2018)例如参见http://ieeexplore.ieee.org/document/7830659/、https://sec.ch9.ms/sessions/c1f9c808-82bc-480a-a930-b340097f6cc1/build/2017/B8063.pptx和以及远程计算统一装置架构(rCUDA)http://www.rcuda.net/pub/SC12_SLC.pdf,其中CUDA是应用可调用(call)其以利用加速的应用编程接口(API)。使用远程加速装置的这些解决方案使得传统的计算单元能够远程访问一个或多个加速装置。在进一步的示例中,US8250578公开了如何使计算系统的硬件加速器流水线化(pipeline)。硬件地址与计算系统的至少一个处理单元(PU)或至少一个逻辑分区(LPAR)相关联。接收相关联的硬件加速器地址的工作请求。然后,将使用相关联的硬件加速器地址的硬件加速器的工作请求排队。
技术实现思路
鉴于上文,注意,使用一个或多个远程加速装置的现有解决方案使得计算装置能够远程访问加速装置。这些现有解决方案的缺点是,为了使用(一个或多个)加速装置,要求预先配置计算单元,即,具有将计算单元与一个或多个特定的远程加速装置静态关联的正确的驱动器配置、这些装置的预先分配、寻址等。因此,一目的可能是要能够实现以更灵活的方式访问远程加速装置。根据一方面,该目的通过一种由硬件加速管理节点执行的用于管理借助于由硬件加速管理节点管理的多个硬件加速装置内的至少一个硬件加速装置的硬件加速“HA”的请求的方法来实现。硬件加速管理节点从HA接口连接节点(interfacingnode)接收处理源数据的硬件加速的请求。由调用HA接口连接节点以发起处理源数据的硬件加速的应用来管理源数据。硬件加速管理节点向HA接口连接节点发送用于存储源数据的源存储器位置的指示。此外,硬件加速管理节点从所述多个硬件加速装置中选择至少一个硬件加速装置。硬件加速管理节点从HA接口连接节点接收要被加速的代码块(chunkofcode)。硬件加速管理节点向所述一个硬件加速装置发送源存储器位置的指示和代码块有关的加速指令的集合。硬件加速管理节点从所述硬件加速装置接收指示由处理源数据产生的结果数据的结果存储器位置的指示。然后,硬件加速管理节点向HA接口连接节点发送完成的硬件加速的指示。根据另一个方面,该目的通过一种硬件加速管理节点实现,该硬件加速管理节点被配置用于管理借助于由硬件加速管理节点管理的多个硬件加速装置内的至少一个硬件加速装置的硬件加速“HA”的请求。硬件加速管理节点被配置用于从HA接口连接节点接收处理源数据的硬件加速的请求。由调用HA接口连接节点以发起处理源数据的硬件加速的应用来管理源数据。此外,硬件加速管理节点被配置用于向HA接口连接节点发送用于存储源数据的源存储器位置的指示。硬件加速管理节点被配置用于从所述多个硬件加速装置中选择至少一个硬件加速装置。硬件加速管理节点被配置用于从HA接口连接节点接收要被加速的代码块。硬件加速管理节点被配置用于向所述一个硬件加速装置发送源存储器位置的指示和代码块有关的加速指令的集合。此外,硬件加速管理节点被配置用于从所述硬件加速装置接收指示由处理源数据产生的结果数据的结果存储器位置的指示。硬件加速管理节点被配置用于向HA接口连接节点发送完成的硬件加速的指示。根据进一步方面,该目的通过与以上方面对应的计算机程序和计算机程序载体来实现。硬件加速管理节点可被说成作为代理功能进行操作。这可意味着,硬件加速管理节点将来自HA接口连接节点的请求调解(mediate)到所述至少一个选择的硬件加速装置,由此硬件加速管理节点使得HA接口连接节点能够动态且透明地访问选择的(一个或多个)硬件加速装置。因此,HA接口连接节点在不知道哪个(或哪些)硬件加速装置将执行加速的情况下请求加速。这与现有的解决方案形成对比,现有的解决方案将HA接口连接节点静态地链接到适当硬件加速装置,由此请求加速的实体例如借助于到适当硬件加速装置的地址而直接请求要由静态链接的适当硬件加速装置执行的加速。因此,本文中的实施例使得HA接口连接节点能够经由硬件加速管理节点灵活地访问硬件加速装置。因此,优点是,可在多个HA接口连接节点(例如,应用、服务器、操作系统等)之间共享多个硬件加速装置。在用于提供加速的特定硬件加速装置对应用/计算单元完全透明的同时,实现该优点。附图说明从以下详细描述和下面简要描述的附图,将容易地理解本文中公开的实施例的各个方面,包括其特定特征和优点。图1是可在其中实现本文中的实施例的示例性系统的示意性概览。图2是示出本文中的方法的组合信令和流程图。图3是示出硬件加速管理节点的实施例的框图。具体实施方式贯穿以下描述,在适用时,已经使用类似的参考数字来表示类似的特征,诸如节点、动作、模块、电路、部分、项、元件、单元等。在图中,由虚线指示在一些实施例中出现的特征。图1描绘了可在其中实现本文中的实施例的示例性硬件系统100。硬件系统100可以是所谓的分解式硬件系统、云系统、数据中心、计算机的网络等。硬件系统100可包括硬件加速(HA)管理节本文档来自技高网
...

【技术保护点】
1.一种由硬件加速管理节点(110)执行的用于管理借助于由所述硬件加速管理节点(110)管理的多个硬件加速装置(120-122)内的至少一个硬件加速装置(120、121、122)的硬件加速“HA”的请求的方法,其中所述方法包括:/n从HA接口连接节点(130)接收(A020)处理源数据的硬件加速的请求,其中由调用所述HA接口连接节点(130)以发起处理所述源数据的所述硬件加速的应用来管理所述源数据,/n向所述HA接口连接节点(130)发送(A030)用于存储所述源数据的源存储器位置的指示,/n从所述多个硬件加速装置(120-122)中选择(A040)至少一个硬件加速装置(120、121、122),/n从所述HA接口连接节点(130)接收(A070)要被加速的代码块,/n向所述一个硬件加速装置(120、121、122)发送(A080)所述源存储器位置的所述指示和所述代码块有关的加速指令的集合,/n从所述硬件加速装置(120、121、122)接收(A110)指示由处理所述源数据产生的结果数据的结果存储器位置的指示,以及/n向所述HA接口连接节点(130)发送(A120)完成的硬件加速的指示。/n...

【技术特征摘要】
【国外来华专利技术】1.一种由硬件加速管理节点(110)执行的用于管理借助于由所述硬件加速管理节点(110)管理的多个硬件加速装置(120-122)内的至少一个硬件加速装置(120、121、122)的硬件加速“HA”的请求的方法,其中所述方法包括:
从HA接口连接节点(130)接收(A020)处理源数据的硬件加速的请求,其中由调用所述HA接口连接节点(130)以发起处理所述源数据的所述硬件加速的应用来管理所述源数据,
向所述HA接口连接节点(130)发送(A030)用于存储所述源数据的源存储器位置的指示,
从所述多个硬件加速装置(120-122)中选择(A040)至少一个硬件加速装置(120、121、122),
从所述HA接口连接节点(130)接收(A070)要被加速的代码块,
向所述一个硬件加速装置(120、121、122)发送(A080)所述源存储器位置的所述指示和所述代码块有关的加速指令的集合,
从所述硬件加速装置(120、121、122)接收(A110)指示由处理所述源数据产生的结果数据的结果存储器位置的指示,以及
向所述HA接口连接节点(130)发送(A120)完成的硬件加速的指示。


2.根据权利要求1所述的方法,其中所述请求包括所述结果存储器位置的所述指示。


3.根据前述权利要求中任一权利要求所述的方法,其中从所述源存储器位置导出所述结果存储器位置。


4.一种硬件加速管理节点(110),被配置用于管理借助于由所述硬件加速管理节点(110)管理的多个硬件加速装置(120-122)内的至少一个硬件加速装置(120、1...

【专利技术属性】
技术研发人员:C·帕达拉M·马哈罗J·蒙泰罗索尔斯N·沃
申请(专利权)人:瑞典爱立信有限公司
类型:发明
国别省市:瑞典;SE

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1