利用多个处理单元来对可编程逻辑控制器进行分布式提升的神经网络系统技术方案

分布式神经网络提升是由神经网络系统通过操作至少一个处理器来执行的。一种方法，该方法包括提供提升算法，该提升算法将模型分布在多个处理单元中，每个处理单元是能够彼此独立地执行计算同时处理数据的多个弱学习器中的弱学习器。该方法还包括启用分布式集成学习，该分布式集成学习使可编程逻辑控制器(PLC)能使用多个处理单元中的一个以上的处理单元来对应用进行缩放，以及使用提升算法来训练多个弱学习器。多个弱学习器是不捕捉整个数据分布并且被有目的地设计用于以较低准确度进行预测的机器学习模型。该方法还包括：使用多个弱学习器以基于神经网络的前馈计算来为最终假设投票。最终假设投票。最终假设投票。

【技术实现步骤摘要】
【国外来华专利技术】利用多个处理单元来对可编程逻辑控制器进行分布式提升的神经网络系统


[0001]本专利技术的各方面总体上涉及一种用于利用多个处理单元来对可编程逻辑控制器(PLC)进行分布式神经网络提升的神经网络系统。

技术介绍

[0002]人工智能(AI)被设定用于在减少创建自动化解决方案所需的编程和工程努力方面发挥关键作用。用于将AI整合到自动化环境中的第一个重要步骤是神经处理单元(NPU)模块。当与诸如技术模块(TM)NPU的边缘设备一起工作时，存在的普遍挑战是它们的资源限制。处理速度、存储器大小和存储能够约束设备的适用性。NPU专门从事前馈神经网络(NN)的计算。它接受张量输入并且执行一系列张量运算来计算输出。使用图像检测作为示例性应用，输入是图像，而输出是检测到的对象的边界框和分类。这种大的输入空间(像素数)和输出空间(可能的边界框和类别数)常常要求NN模型具有高Vapnik
‑
Chervonenkis(VC)维度，以有效地捕捉训练数据中的底层分布。
[0003]为了支持高VC维度，NN必须在其计算图形中具有大量的节点和层。然而本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种分布式神经网络提升的计算机实现的方法，所述方法由神经网络系统执行并且包括：通过操作至少一个处理器：提供提升算法，所述提升算法将模型分布在多个处理单元中，每个处理单元是能够彼此独立地执行计算同时处理数据的多个弱学习器中的弱学习器；启用分布式集成学习，所述分布式集成学习使可编程逻辑控制器(PLC)能使用所述多个处理单元中的一个以上的处理单元来对应用进行缩放；使用所述提升算法来训练所述多个弱学习器，其中，所述多个弱学习器是不捕捉整个数据分布并且被有目的地设计用于以较低准确度进行预测的机器学习模型；以及使用所述多个弱学习器以基于神经网络的前馈计算来为最终假设投票。2.根据权利要求1所述的方法，还包括：将神经网络用作所述多个弱学习器。3.根据权利要求1所述的方法，还包括：将所述提升算法应用于图像检测；以及将单次检测器(SSD)用作弱学习器，同时使用至少两个超参数来有意地使所述模型变弱。4.根据权利要求3所述的方法，其中，所述至少两个超参数包括在每个层处细化所述神经网络系统的宽度乘数和降低输入图像分辨率的分辨率乘数。5.根据权利要求4所述的方法，其中，利用所述至少两个超参数来调整所述模型的准确度和速度。6.根据权利要求5所述的方法，其中，所述多个弱学习器的每个模型返回输出边界框和模型的相应的类别的列表。7.根据权利要求1所述的方法，还包括：将所述提升算法直接用于典型回归任务或分类任务。8.根据权利要求1所述的方法，还包括：将所述提升算法用于图像检测任务，其中，所述多个弱学习器的每个模型返回输出边界框和模型的相应的类别的列表；将所有的所述输出边界框和所有的所述类别一起分组到集合中，使得所述集合包含许多低置信度预测和副本；通过使用阈值来丢弃所述许多低置信度预测；以及应用非极大值抑制来减少所述副本。9.根据权利要求1所述的方法，其中，所述提升算法保证在不增加偏差的情况下减少方差，从而使所述模型更具通用性。10.根据权利要求1所述的方法，其中，所述提升算法组合多个分布式神经网络模型以在不达到资源限制的情况下创建更复杂的模型。11.根据权利要求1所述的方法，还包括：组合所有输出以允许所述模型扩展Vapnik
‑
Chervonenkis(VC)维度，从而有效地覆盖训练数据的更大底层分布。12.根据权利要求1所述的方法，还包括：
利用所述提升...

【专利技术属性】
技术研发人员：夏魏喜，于小文，沙尚克，
申请(专利权)人：西门子股份公司，
类型：发明
国别省市：