移动边缘计算动态加速分配制造技术

这里大体上描述用于动态硬件加速的系统和方法的实施例。一种方法可以包括从在操作环境中执行的多个任务中识别候选任务，所述操作环境在硬件外壳内，所述候选任务服从硬件优化；响应于识别所述候选任务，在所述操作环境中实例化硬件组件，以针对所述任务执行硬件优化，所述硬件组件先前不能被所述操作环境访问；以及由所述操作环境执行服从所述硬件组件上的所述硬件优化的一类任务。

【技术实现步骤摘要】
【国外来华专利技术】移动边缘计算动态加速分配
实施例涉及边缘计算。一些实施例涉及在启用物联网(IoT)服务时处理边缘设备处的任务。
技术介绍
IoT设备是网络中的设备，通常包括传感器和有限的计算能力。IoT设备具有广泛的适用性，并且每个IoT设备通常专门针对其特定的使用和环境。IoT设备用于家庭、企业、工业应用、车辆、安全、优化和改善连通性。IoT设备直接相互通信，并且通过网关与其他网络和更广泛的互联网进行通信。附图说明在附图中，不一定按比例绘制，相似的数字可以在不同的视图中描述相似的部件。具有不同字母后缀的相似数字可表示相似组件的不同实例。作为示例，附图通常以非限制的方式说明本文中讨论的各种实施例。图1示出了包括可以被分配给逻辑网关虚拟机(VM)的硬件加速器的设备。图2示出了被分配硬件元件时的设备的转换的示例。图3示出了支持IoT服务的移动边缘计算(MEC)和IoT网关的优化层级。图4示出了根据一些实施例的示出用于动态硬件加速的技术的流程图。图5大体示出了机器的框图的示例，在其上可以根据一些实施例执行本文所讨论的技术(例如，方法)中的任何一个或多个。具体实施方式从云计算到IoT服务的边缘计算的当前转变是由于以下驱动的：需要具有更接近IoT设备的更多处理能力以及提供大概定位的计算能力的降低成本。通过靠近无线和移动用户旨在提供不同的服务环境和无线接入网络(RAN)内的云计算能力，诸如针对移动边缘计算(MEC)的欧洲电信标准协会(ETSI)的那些标准的标准正在解决这种模式转变。由于边缘和IoT设备之间在基于云的处理上的提高的响应性，MEC可能允许IoT服务和应用程序的更好的性能。然而，如IoT数据存储的趋势，处理和分析向网络边缘移动，目前的系统常常无法优化支持IoT服务的MEC资源。这里讨论的设备、方法和系统通过将基于需求的硬件加速动态分配给托管IoT网关的特定移动边缘计算(MEC)服务器或给负责IoT流量聚合、处理和存储的本地网关来优化IoT流量聚合、处理和服务供应。这些设备、方法和技术提供动态处理并提供边缘附近的处理(即更接近IoT数据源)，这又优化了网络资源。所讨论的设备、方法和系统通过动态地将基于需求的硬件加速分配给特定的边缘计算网关或者共置的MEC服务器边缘计算网关来提供优化边缘计算能力的资源(例如，IoT流量聚合、处理和服务供应)。网关可以层级布置以减少边缘计算服务器或网关与IoT设备之间的延迟。在示例中，IoT网关是具有计算和存储能力的边缘网络实体，并具有IoT数据聚合的作用和到云的连接。IoT网关可以根据处理能力以部分或完整的方式运行数据分析。IoT网关可能位于网络的不同级别，取决于IoT网络密度、部署要求和应用需求。在示例中，该系统包括多个实现基于边缘的计算的IoT网关，所述IoT网关在地理上布置的IoT网关或IoT设备之间进行通信以减少网关之间或网关与IoT设备之间的延迟。图1示出了在硬件120中包括可被分配给逻辑网关虚拟机(VM)104的硬件加速器102的设备100。如图所示，硬件加速器最初未被分配102A，并且随后被分配102B到VM104。设备100可以包括单个VM或多个VM(例如，VM104、VM106等)。每个VM可以操作针对各种IoT设备的网关。设备100包括操作系统118和包括针对不同类型的服务或任务(诸如视频处理、面部识别、音频处理等)的一个或多个硬件加速器(例如，硬件加速器102)的硬件120。硬件加速器102可以是专用的(例如，固定功能、硬连线等)或可编程逻辑(例如，现场可编程门阵列(FPGA))。设备100包括可以在VM104、操作系统118或硬件120中操作的过程监视器108。设备100的其他组件可以在VM104、操作系统118或硬件120上运行，包括调度器110、硬件控制器112以及可选的硬件配置116以及用于配置转换的处理114。在一个示例中，系统100的组件处于单个机箱中。也就是说，系统100不是云类型架构，也不是由远程连接的组件组成，而是具有虚拟化层的更传统的硬件堆栈。处理监视器108可以识别服从硬件优化的候选任务。在该示例中，候选任务可以在操作环境(例如，虚拟机或虚拟机的网关)中操作。硬件控制器112可以实例化VM104中的硬件加速器102A，如加速器102B所示(针对候选任务或与候选任务相似的任务)。调度器110可以执行服从硬件优化的一类任务(例如，使用硬件加速器102B)。例如，第一视频处理(例如，面部识别)任务可以在VM104上发起，源自IoT设备并通过网关接收。第一视频处理任务可以被处理监视器108识别为可以由加速器102A辅助的任务。硬件控制器112可以将加速器102A分配给VM104。然后，调度器110可以使用分配给VM104的加速器102B来执行第二视频处理任务(例如，如果第一视频处理任务已经完成)。因此，在示例中，一类任务是可以从相同的硬件加速器102受益的那些任务。可以以各种方式确定任务对硬件加速的服从性。例如，任务可以尝试访问特定于特定硬件加速的硬件接口。一般来说，如果硬件加速不可用，访问将失败，并且任务可能会回退到通用处理器解决方案。因此，该请求可被拦截并匹配(例如，使用翻译数据库114)到特定的硬件加速器。在示例中，任务可以由请求协议标记(例如，在IoT请求协议中)。这样的标记可以被映射(例如，使用数据库114)到特定的硬件加速器。在示例中，具体的指令可以被映射到硬件加速设备。因此，如果这样的指令是由任务发起的，则该任务可以被分类为可修改为硬件加速。如果没有找到任务或由任务发起的活动到硬件120上的硬件加速器102的映射，则该任务不可修改为硬件加速。硬件控制器112可访问硬件配置116数据库以确定什么资源是VM104潜在可用的。在示例中，硬件配置数据库116包括FPGA配置。因此，可用的FPGA资源可以专门针对VM104的硬件加速需求而定制。在该示例中，由任何配置提供的FPGA的任何结果功能可以是可用于VM104的分立硬件加速器，并且可映射以确定任务服从硬件加速。以这种方式，获得用于各种任务的硬件加速的灵活性可以增加，而不会以许多专用组件加重硬件120的负担。操作中的系统100的示例可以包括窗帘IoT控制器，其接收语音命令以升起帘。IoT设备上的麦克风捕获命令，但是处理被卸载到网关设备，系统100。系统100开始执行用于语音处理的任务，以从用户的话语中提取命令。由于在同一房间内有其他具有语音命令的IoT设备，所以这些请求中有几个同时进入系统100。处理监视器108观察到VM104的处理资源在处理这些请求时承受负荷。对应于请求的语音识别任务被处理监视器108识别为引起处理负载。过程监视器108(或硬件控制器112)还识别出这些任务可修改为硬件加速。一旦做出该确定，硬件控制器112就将未分配的加速器102A分配给VM104，而不中断操作系统118或VM104。如上所述，加速器102A可以是FPGA。为了处理语音识别，硬件控制器112可以从硬件配置数据库116获得FPGA配置，并在将其作为加速器102B分配给VM104之前对加速器102A进行编程。在分配之后，调度器110对于加速器102B执行语音识别任务。在示例中，原始任务可能已经在分本文档来自技高网...

【技术保护点】
一种用于动态硬件加速的系统，所述方法包括：过程监视器，用于从在操作环境中执行的多个任务中识别候选任务，所述操作环境在硬件外壳内，所述候选任务服从硬件优化；硬件控制器，用于响应于识别所述候选任务，在所述操作环境中实例化硬件组件，以针对所述任务执行硬件优化；以及调度器，用于在所述硬件组件上执行服从所述硬件优化的一类任务。

【技术特征摘要】
【国外来华专利技术】1.一种用于动态硬件加速的系统，所述方法包括：过程监视器，用于从在操作环境中执行的多个任务中识别候选任务，所述操作环境在硬件外壳内，所述候选任务服从硬件优化；硬件控制器，用于响应于识别所述候选任务，在所述操作环境中实例化硬件组件，以针对所述任务执行硬件优化；以及调度器，用于在所述硬件组件上执行服从所述硬件优化的一类任务。2.根据权利要求1所述的系统，其中所述操作环境实现物联网(IoT)网关。3.根据权利要求2所述的系统，其中所述IoT网关是服务IoT设备集的多个IoT服务设备中的一个。4.根据权利要求3所述的系统，其中所述多个IoT服务设备被分层级安排，其中直接服务所述IoT设备集的IoT网关在所述层级的一端处而网络边缘服务器在所述层级的另一端处。5.根据权利要求4所述的系统，其中：所述过程监视器从所述多个任务中识别第二候选任务；所述硬件控制器未能针对服从与所述第二候选任务相同的硬件优化的第二类任务而实例化第二硬件组件；所述调度器用于：在所述层级中找到能够实例化所述硬件组件的第二IoT服务设备；以及将所述第二类任务转移到所述第二IoT服务设备。6.根据权利要求1所述的系统，其中为了识别所述候选任务，所述过程监视器用于：测量处理器的利用率；以及当所述利用率超过阈值时识别所述任务。7.根据权利要求1所述的系统，其中当所述任务的标记包括数据库中的对应类别的硬件组件时，所述候选任务服从硬件优化。8.根据权利要求1所述的系统，其中为了实例化所述硬件组件，所述硬件控制器用于：在数据库中找到与所述一类任务相对应的组件配置；使用所述组件配置来配置所述硬件组件；以及将所配置的硬件组件分配给所述操作环境。9.一种用于动态硬件加速的方法，所述方法包括：从在操作环境中执行的多个任务中识别候选任务，所述操作环境在硬件外壳内，所述候选任务服从硬件优化；响应于识别所述候选任务，在所述操作环境中实例化硬件组件，以针对所述任务执行硬件优化，所述硬件组件先前不能被所述操作环境访问；以及由所述操作环境执行服从所述硬件组件上的所述硬件优化的一类任务。10.根据权利要求9所述的方法，其中所述操作环境实现物联网(IoT)网关。11.根据权利要求10所述的方法，其中所述IoT网关是服务IoT设备集的多个IoT服务设备中的一个。12.根据权利要求11所述的方法，其中所述多个IoT服务设备被分层级安排，其中直接服务所述IoT设备集的IoT网关在所述层级的一端处而网络边缘服务器在所述层级的另一端处。13.根据权利要求12所述的方法，包括：从所述多个任务中识别第二...

【专利技术属性】
技术研发人员：S·T·巴勒莫，S·J·谭，V·扬，H·穆斯塔法，
申请(专利权)人：英特尔公司，
类型：发明
国别省市：美国,US