具有机器学习能力的智能边缘计算平台制造技术

在具有多个传感器的本地网络和远程网络之间提供具有机器学习能力的边缘计算平台。机器学习模型使用聚合传感器数据在远程网络中被创建和训练并被部署到边缘平台。在部署之前，该模型被边缘转换(“边缘化”)以在边缘设备的受限资源下以相同或更好的准确度水平以最佳方式运行。“边缘化”模型适用于实时对连续的传感器数据流进行操作并产生推理。推理可用于确定在本地网络中采取的动作，而无需与远程网络通信。边缘平台和远程网络之间的闭环布置提供对基于边缘的模型的定期评估和迭代更新。供对基于边缘的模型的定期评估和迭代更新。供对基于边缘的模型的定期评估和迭代更新。

【技术实现步骤摘要】
【国外来华专利技术】具有机器学习能力的智能边缘计算平台
[0001]本专利文献的部分公开内容包含受版权保护的材料。版权所有者不反对任何人以传真方式复制出现在美国专利商标局专利文件或记录中的专利文献或专利公开内容，但保留所有版权。

技术介绍

[0002]本专利技术涉及计算领域，更具体地说，涉及用于处理工业机器产生的大量数据的边缘计算。
[0003]本专利技术涉及智能计算领域，更具体地说，涉及用于实时地处理和分析分布式网络IoT环境中的大量传感器和其他数据以从中获得分析意义和预测见解的智能边缘计算。
[0004]物联网(IoT)通过使用高保真传感器对物理操作进行检测、高频跟踪操作中的事件以及通过软件和服务将传感器数据转化为可操作的分析见解，从而为业务运营带来价值。然而，日常运营的物理设置(如工厂、仓库、零售店和其他设施)在传感器硬件、网络拓扑、数据协议和数据格式方面极其异构。这种异构性给软件开发、测试和部署带来了高昂的成本开销；需要为硬件
‑
网络
‑
数据协议
‑
数据格式的每种组合重新开发代码模块。
[0005]此外，分布式网络物联网(IoT)环境中的本地操作可能包含许多不同业务和
(包括制造、石油和天然气、采矿、运输、电力和水、可再生能源、医疗保健、零售、智能建筑、智能城市、联网汽车、甚至消费者可穿戴设备)的许多不同类型的工业机器和处理。在IoT环境中，尤其是在工业物联网(IIoT)环境中，可能会结合企业的本地物理操作部署大量传感器和其他数据生成源，以连续或以非常高的频率或这些的任何组合检测和跟踪各种物理条件、发生和事件。此类传感器和数据生成源可以产生大量原始数据，这些原始数据需要进行处理和分析才能发挥作用。此外，随着传感器和网络技术成本的下降，本地联网操作中传感器的数量和分布正在迅速增长。
[0006]在IoT环境中，企业可依赖远程数据中心或“云”基础设施来托管处理和分析本地生成的传感器和设备数据所需的计算基础设施和软件应用，以利用规模经济和系统效率。然而，远程基于云的计算和存储解决方案有许多缺点。一方面，远程数据中心可以任意远离企业实际开展业务运营(例如，工厂、仓库、零售店等)以及可能生成大量传感器和设备数据的地点。将本地生成的如此大量数据传输到远程云计算或存储站点或这些的组合通常是不切实际的。连接可能并不总是存在或可用。即使连接可用，可用带宽也可能不足以满足生成的数据量。而且，即使有足够的带宽可用，考虑到要传输的数据量，成本也可能过高。
[0007]另一方面，即使连接性、带宽和成本不是问题，远程基于云的计算和存储站点也无法实时地处理和分析本地环境中生成的数据、据此做出决策并及时提供潜在的关键指导或警告反馈给本地环境。例如，当基于云的计算站点接收、处理和分析来自监控企业本地设施中机器的传感器的数据，确定机器的操作特性已达到需要立即干预的限度或预测到需要维护，并将该信息传回本地环境时，机器可能已经遭受了重大损坏。
[0008]此外，本地生成的流送传感器和设备数据的高容量、多样性和复杂性对解释数据和从中获得预测性和其他见解提出了挑战。可以运用基于云的数据挖掘和机器学习模型生
成、训练和应用。然而，基于云的机器学习缺乏实时响应能力，这在本地环境的一些情况下可能至关重要。此外，如果没有本地领域提供的上下文或在本地环境或操作中工作或以其他方式熟悉本地环境或操作的人员的“部落”知识，例如在本地工厂或车间工作的人员的知识，则即使整个可用数据都可以传输到云中并在其中进行分析，也几乎不可能获得可用见解。然而，在边缘处实现机器学习(其中本地生成的数据可以直接、实时、使用本地上下文接收并采取动作，无需等待传输到远程云站点)将允许从本地生成的数据获取可操作的见解并在本地基本可以实时地使用。
[0009]由于典型的机器学习模型适用于在云环境中运行，因此必须克服许多挑战才能在边缘处成功实现和采用机器学习。典型的基于云的机器学习模型需要大量的计算能力，而基于边缘的计算平台通常可用的计算能力有限。典型的基于云的机器学习模型也可以很好地处理批处理数据(例如通常存储在基于云的存储库中)，但不能实时地处理高速、大量流式数据(例如通常由工业和其他IoT环境中的传感器产生)。此外，典型的基于云的机器学习模型可以很好地处理经过预处理以消除错误和差距、经过规范化等的数据，但可能无法从原始传感器数据中提供准确的结果。此外，由于典型的基于云的机器学习模型在批处理数据上运行，因此它们可能无法足够有效或快速地执行以跟上通常在工业和其他IoT环境中生成的高速率和大量流式数据。此外，虽然典型的基于云的机器学习模型可以在云中随着额外批次的数据的接收和分析而轻松更新或调整，但需要一种不同的方法来更新基于远程边缘的机器学习模型。
[0010]因此，需要改进IoT环境中的计算系统、架构和技术。更具体地说，需要一种改进的具有机器学习能力的智能边缘计算平台，以供用于在各种IoT环境中高效且有效地接收、处理和分析本地生成的、高速率、大容量的流式数据，从中导出分析意义和预测见解，并采取适当的本地动作，所有这些都是实时的，而无需将数据传输到远程云或其他设施进行处理和分析。还需要这样一种边缘平台，在该边缘平台上，机器学习应用能够以有限的可用计算和存储资源高效且有效地执行。还需要这样一种边缘平台，其促进边缘和云之间机器学习应用的动态移动性和持续重新训练。还需要这样一种边缘平台，其提供用于管理高度异构的传感器、网络、数据格式和数据协议设置中的软件和数据。还需要这样一种边缘平台，其结合远程云资源高效地促进边缘的机器学习模型的开发、训练、评估、部署和更新。

技术实现思路

[0011]一种系统和方法提供具有机器学习能力的边缘计算平台。在一方面，该系统和方法提供具有可执行机器学习模型的边缘计算平台，该机器学习模型已经被适配或“边缘化”以在边缘计算环境的约束内操作以实时地接收和处理一个或多个传感器数据流并产生一个或多个推理(inference)流。另一方面，该系统和方法提供了一种闭环布置，以供用于在边缘计算平台上持续评估模型的准确性，生成更新或修改的模型，并在边缘计算平台上迭代更新或替换模型以提高准确性。在又一方面，该系统和方法提供在不中断模型对任何数据的实时处理的情况下无中断地更新边缘计算平台上的模型。在再一方面，该系统和方法提供多个基于边缘的机器学习模型的无缝链接、编排和流水化。在其他方面，该系统和方法为异构模型的执行以及基于对数据流中语义的检测对模型的动态选择和执行提供支持。
[0012]在具有多个传感器的本地网络和远程网络之间提供具有机器学习能力的边缘计
算平台。使用聚合传感器数据在远程网络中创建和训练机器学习模型并将其部署到边缘平台。在部署之前，模型被边缘转换(“边缘化”)以在边缘设备的受限资源下以相同或更好的准确度水平以最佳方式运行。“边缘化”模型适用于实时地对连续的传感器数据流进行操作并产生推理。推理可用于确定在本地网络中采取的动作，而无需与远程网络通信。边缘平台和远程网络之间的闭环布置提供对基于边缘的模型的本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种方法，包括：在包括具有多个传感器和多个网络设备的本地网络和远程网络的分布式网络中，在所述传感器和所述远程网络之间提供连接到所述本地网络的边缘平台；使用边缘转换器创建经边缘转换的机器学习模型；其中，所述边缘转换器具有用于接收非基于边缘的机器学习模型的输入，所述非基于边缘的机器学习模型已经在聚合静态传感器数据上进行训练并且能在所述聚合静态传感器数据上非实时操作；并且其中，所述边缘转换器具有用于输出所述经边缘转换的机器学习模型的输出，其中，所述经边缘转换的机器学习模型被优化以利用所述边缘平台的计算资源实时对流送传感器数据进行操作并产生推理流；在所述边缘平台上提供所述经边缘转换的机器学习模型；在所述边缘平台处从所述多个传感器中的第一传感器接收第一传感器数据流；在所述边缘平台处，在无需首先将所述第一传感器数据流送到所述远程网络以进行处理的情况下：至少部分地在复杂事件处理引擎中执行所述经边缘转换的机器学习模型，以实时对所述第一传感器数据流进行操作并产生关于所述多个网络设备中的第一网络设备的第一推理流；并且基于所述第一推理流，确定是否对所述第一网络设备采取动作，而无需首先将推理传送到所述远程网络。2.如权利要求1所述的方法，其中，所述经边缘转换的机器学习模型包括分析表达语言的分析表达，所述分析表达能操作以实时处理数据流。3.如权利要求2所述的方法，其中，创建所述经边缘转换的机器学习模型包括：将所述非基于边缘的机器学习模型转换为适合部署的中间形式；并且将所述非基于边缘的机器学习模型的所述中间形式转换成所述分析表达语言的所述分析表达的脚本。4.如权利要求3所述的方法，其中，预测性建模标记语言是PMML并且所述表达语言是5.如权利要求1所述的方法，其中：所述非基于边缘的机器学习模型能操作以识别所述聚合静态传感器数据中的特定语义；并且所述经边缘转换的机器学习模型能操作以实时识别所述流送传感器数据中的相同的特定语义。6.如权利要求1所述的方法，其中：所述非基于边缘的机器学习模型包括数据预处理组件；并且创建所述经边缘转换的机器学习模型包括：移除所述数据预处理组件并用分析表达语言的等效表达替换所述数据预处理组件，所述等效表达能在所述复杂事件处理引擎中与所述经边缘转换的机器学习模型分开执行。7.如权利要求6所述的方法，其中：所述非基于边缘的机器学习模型包括数据后处理组件；并且
创建所述经边缘转换的机器学习模型包括：移除所述数据后处理组件并用所述分析表达语言的等效表达替换所述数据后处理组件，所述等效表达能在所述复杂事件处理引擎中与所述经边缘转换的机器学习模型分开执行。8.如权利要求1所述的方法，其中，创建所述经边缘转换的机器学习模型包括：解析所述非基于边缘的机器学习模型，并识别所述非基于边缘的机器学习模型包含的针对所述聚合静态数据的计算；在存储器中构建包括所识别的计算的计算流图表示；优化所识别的计算和所述计算流图中表示的计算流，以便对所述流送传感器数据进行实时操作；并且将所优化的计算和计算流合并到所述经边缘转换的机器学习模型中。9.如权利要求8所述的方法，其中，将所优化的计算和计算流合并到所述经边缘转换的机器学习模型中包括：识别能操作以执行所优化的计算和计算流的分析表达语言的分析表达；将识别出的表达组合成脚本；并且将所述脚本合并到所述经边缘转换的机器学习模型中。10.如权利要求1所述的方法，其中，创建所述经边缘转换的机器学习模型包括：验证所述经边缘转换的机器学习模型与所述非基于边缘的机器学习模型相比而言对于给定的一组数据值会产生准确的结果。11.如权利要求10所述的方法，其中所述验证包括：从所述非基于边缘的机器学习模型解析模型验证标签；从所述非基于边缘的机器学习模型提取与所述验证标签对应的第一组输入数据值和第一组预期输出数据值；将所述第一组输入数据值和所述第一组预期输出数据值分别转换为具有与所述经边缘转换的机器学习模型兼容的形式的第二组输入数据值和第二组预期输出数据值；对所述第二组输入数据值执行所述经边缘转换的机器学习模型并产生一组实际输出数据值；并且对所述一组实际输出数据值和所述第二组预期输出数据值进行比较。12.如权利要求1所述的方法，其中：所述远程网络包括云管理器；所述边缘平台包括边缘管理器；并且在所述边缘平台上提供所述经边缘转换的机器学习模型包括：所述边缘管理器直接从所述云管理器接收所述经边缘转换的机器学习模型。13.如权利要求1所述的方法，包括：提供介于所述远程网络和所述边缘平台之间的应用商店；其中，在所述边缘平台上提供所述经边缘转换的机器学习模型包括：将所述经边缘转换的机器学习模型从所述远程网络传输到所述应用商店，并将所述经边缘转换的机器学习模型从所述应用商店撷取到所述边缘平台。14.如权利要求1所述的方法，包括：响应于触发器，将来自所述第一推理流的一个或多个推理和来自所述第一传感器数据
流的一个或多个数据值传输到所述远程网络；将所述非基于边缘的机器学习模型应用于所述一个或多个数据值并产生一个或多个第二推理；将所述一个或多个第二推理与来自所述第一推理流的所述一个或多个推理进行比较；基于所述比较，生成修改的经边缘转换的机器学习模型；并且使用所述修改的经边缘转换的机器学习模型更新所述边缘平台上的所述经边缘转换的机器学习模型。15.如权利要求14所述的方法，包括：在所述复杂事件处理引擎中对所述第一推理流执行分析表达语言的表达；随着时间的推移生成所述第一推理的特性；将所述特性与下述值进行比较：该值对应于所述经边缘转换的机器学习模型的不可接受准确度的预定水平；并且基于所述比较，创建所述触发器。16.如权利要求15所述的方法，其中：所述表达包括数学函数、逻辑函数和统计函数中的一种或多种；并且所述特性包括平均值、均值、统计范围和统计方差中的一种或多种。17.如权利要求14所述的方法，包括响应于逝去的时间段或手动地创建所述触发器。18.如权利要求14所述的方法，其中，用修改的机器学习模型更新所述经边缘转换的机器学习模型包括：生成表示所述经边缘转换的机器学习模型的连续模型流；在所述边缘平台上将所述模型流与所述第一传感器数据流一起流送；在所述边缘计算平台处接收所述修改的经边缘转换的机器学习模型；将所述修改的经边缘转换的机器学习模型插入所述模型流中；随着所述修改的经边缘转换的机器学习模型在所述模型流中传播，检测所述模型流的变化；响应于检测到所述模型流的变化，实例化所述修改的经边缘转换的机器学习模型的实例；并且使用所述修改的经边缘转换的机器学习模型的实例化实例，代替所述经边缘转换的机器学习模型来对所述第一传感器数据流进行操作并产生所述第一推理流。19.如权利要求18所述的方法，其中，检测所述模型流的变化并实例化所述修改的经边缘转换的机器学习模型的实例包括：使用有状态子系统实时检测所述模型流的变化；响应于所述有状态子系统检测到所述变化，触发理解所述模型流的语义的参与者，其中所述参与者：从所述模型流读取所述修改的经边缘转换的机器学习模型，并实例化所述修改的经边缘转换的机器学习模型的实例；将所述修改的经边缘转换的机器学习模型的实例化实例耦合到与所述经边缘转换的机器学习模型相同的第一传感器数据流的语义；并且将所述修改的经边缘转换的机器学习模型的实例化实例插入回所述模型流中。
20.如权利要求1所述的方法，包括：使用所述边缘转换器创建多个经边缘转换的机器学习模型，所述经边缘转换的机器学习模型能在来自多个非基于边缘的机器学习模型的流送传感器数据上实时操作，所述非基于边缘的机器学习模型在聚合静态传感器数据上训练并且能在聚合静态传感器数据上非实时地操作；其中，所述多个非基于边缘的机器学习模型中的每个包括用不同的高级模型语言表示的不同类型的机器学习模型；其中，创建所述多个经边缘转换的机器学习模型包括：将所述多个非基于边缘的机器学习模型中的每个转换为相同分析表达语言的表达的脚本，所述表达适合在所述边缘平台的所述复杂事件处理引擎中实时在所述流送传感器数据...

【专利技术属性】
技术研发人员：阿比史克，
申请(专利权)人：雾角系统公司，
类型：发明
国别省市：