当前位置: 首页 > 专利查询>上海大学专利>正文

一种面向工业互联网边界安全的联邦深度网络行为特征建模方法技术

技术编号:29464927 阅读:72 留言:0更新日期:2021-07-27 17:51
本发明专利技术面向工业互联网边界安全提出了一种基于联邦深度网络学习架构的工业互联网行为特征建模方法,该方法包括如下步骤:1)构建能直接处理工业互联网负载原始数据的卷积神经网络模型;2)依托工业互联网云‑边结构构建联邦‑局部分布式学习框架,共享卷积神经网络模型结构;3)在边界设备上完成局部数据的学习和训练;4)将局部训练得到的模型参数上传到工业云聚合得到联邦模型,并用联邦模型更新所有局部模型。该方法的优点主要包括两个方面:首先,卷积神经网络的设计可以无需人工参与的特征工程过程,直接处理工业互联网负载原始数据,提取潜藏在网络数据中的工业互联网行为特征;其次,联邦学习框架避免了各工厂局域网将敏感的工业数据直接共享到云端,从而可以在不干扰工业互联网行为特征有效建模的情况下保护各工厂企业的数据隐私。

A federated deep network behavior feature modeling method for industrial Internet boundary security

【技术实现步骤摘要】
一种面向工业互联网边界安全的联邦深度网络行为特征建模方法
本专利技术提出一种基于联邦深度网络学习架构的工业互联网行为特征建模方法,适用于工业互联网边界安全防护场景下的网络攻击异常行为识别,同时兼顾工业数据隐私保护需求。技术背景近年来,随着物联网(IoT),云/边计算(Cloud/Edgecomputing),大数据(Bigdata)和人工智能(Artificialintelligence)等新的革命性网络信息技术的兴起和盛行,传统工业控制系统正从长期隔离运行的状态演变为以智能化和网络化为主要特征的工业互联网运行模式,工业基础设施与外部的数据交互呈指数级别增长,这一方面虽然极大的提高了工业企业的生产和运营效率,但另一方面也为工业系统对大数据的处理带来了新的挑战。更为严重的,外部进入的网络数据,往往存在真实性和可靠性的问题,需要在进入系统内核前通过工业互联网边界设备进行必要的审计和检测,先一步将埋藏在工业大数据中的网络异常行为和攻击行为(这里统称恶意行为)识别出来,以防这些数据进入系统后对工业生产过程造成实质性的破坏。而识别出网络恶意行为的前提条件是基于工业大数据对网络行为进行建模。现有的网络行为建模方法由于不是针对工业互联网中存在的工业大数据情况设计的,主要存在两个问题:首先,对网络行为的建模十分依赖于网络数据的特征提取,通过如网络包头格式、网络包负载词频统计和n-gram方法、网络警报关联、网络包及其内容统计以及网络流中网络包时序排列等人为设计的特征工程方法将网络数据预先格式化和标准化。这些特征的提取往往面向特定的建模任务而难以泛化,导致难以适应快速增长的工业数据规模和日趋复杂的工业数据结构变化。从效果上来说,人工特征工程提取的特征受特征提取方式的影响大且会造成一定的信息损失,从而在后续网络行为建模过程中不能全面覆盖正常和异常的网络行模式,更为严重的,攻击者有机会利用特征工程对网络数据行为特征提取不完全的问题有针对性的调整攻击策略从而将攻击行为隐藏在工业网络大数据中。其次,在工业互联网中通信的网络包负载一般涉及工厂工业生产敏感信息(如各工厂工业控制系统设备参数、生产过程指标以及产品规模和质量等信息),这些信息属于各工业企业的隐私,其泄露往往会使工业企业在市场竞争中被对手看透从而处于劣势,因此工业企业并不希望将这些敏感信息共享给第三方用于模型训练,即使这一模型可以用于提高工业互联网边界安全的防护水平。综上,工业数据模型的泛化能力和数据本身的隐私保护是当前工业互联网网络行为特征建模所面临的两个挑战性问题,现有的网络行为特征模型无法解决。
技术实现思路
本专利技术的目的在于解决工业互联网网络行为建模中所面临的模型泛化和工业数据隐私保护难题,提出一种基于联邦卷积神经网络框架的网络行为特征建模方法。该方法基于卷积神经网络的训练消除对工业网络数据进行人为设定特征提取的需求,同时基于联邦学习框架通过共享局部模型训练参数的方法绕过了对工业企业各自隐私数据全局共享建模的需求。该方法具有网络行为特征建模泛化能力强同时保护工业企业数据隐私的特点,能很好的满足工业互联网边界防护与入侵检测等安全措施对网络行为特征模型的需求。为了达到上述专利技术目的,本专利技术通过以下具体技术方案进行实现:一种面向工业互联网边界安全的联邦深度网络行为特征建模方法,其特征在于:包括如下步骤:1)构建能直接输入工业互联网网络包负载原始数据的卷积神经网络模型,通过网络内部预设的卷积核学习提取工业互联网网络行为特征;2)依托工业互联网云-边结构,将卷积神经网络的网络结构和参数在工业云和各工业企业各自局域网的边界设备间共享,形成分布式联邦学习框架;3)在边界设备上基于局部隐私数据进行模型的学习和训练,将局部训练得到的模型参数上传到工业云;4)通过参数融合得到联邦模型,并用联邦模型更新所有局部模型,重复步骤3)直到模型收敛。优选地,所述步骤1)具体包括下列步骤:步骤1.1、卷积神经网络结构设计,包括输入层,卷积层与最大池化层个数M,以及输出层;步骤1.2、卷积神经网络输入层参数设置,包括输入层节点个数sI,即对应的工业互联网网络负载能输入卷积神经网络的原始字节数;步骤1.3、卷积神经网络各卷积层参数设置,包括各卷积层卷积核的个数km,该层每个核的大小sm以及卷积后的激活函数fm,其中m∈[1,M]表示第m个卷积层;步骤1.4、卷积神经网络各最大池化层层参数设置,包括各池化层池化窗口的大小dm,其中m∈[1,M]表示第m个卷积层;步骤1.5、卷积神经网络输出层参数设置,包括输出层节点个数sO,以及输出层的激活函数fO。优选地,所述步骤2)具体包括下列步骤:步骤2.1、跟据步骤1)中确定的卷积神经网络结构在工业云中建立全局模型,卷积神经网络中的参数随机设置;步骤2.2、跟据步骤1)中确定的卷积神经网络结构在各工业企业局域网的边界设备中建立各自的局部模型,卷积神经网络中的参数随机设置;步骤2.3、建立工业云与各边界设备的网络参数通信通道,形成全局模型和局部模型参数共享的联邦学习框架。优选地,所述步骤3)具体包括下列步骤:步骤3.1、在各工业企业局域网的边界设备中将各自的工业数据根据不同的网络行为打上分类标签;步骤3.2、设置局部卷积神经网络模型训练的参数,包括模型参数更新方法,损失函数Loss(LT-Lp),LT指该网络数据输入对应的真实网络行为标签,Lp指通过当前网络参数前向计算出来的预测标签,这里取损失函数为交叉熵,则有:其中LT(x)和Lp(x)分别指真实标签和预测标签向量中第x个位置的概率值;步骤3.3、将工业数据作为卷积神经网络的输入,数据标签作为输出,采用选定的模型参数更新方法训练局部卷积神经网络模型;步骤3.4、各边界设备中局部网络一轮训练结束后将模型参数上传至工业云。优选地,在所述步骤3.2中,标签为向量,第x位置的值为1其余值为0代表该网络行为属于第x类。优选地,在所述步骤3.2中,预测标签为概率向量,向量中的值表示该网络行为属于每一类的预测概率,将最大概率表达的类作为分类结果。优选地,在所述步骤3.3中,模型参数更新方法采用随机梯度下降法。优选地,在所述步骤3.4中,模型参数为卷积神经网络节点间连接的权重和卷积层中卷积核中每一点的权重。优选地,所述步骤4)具体包括下列步骤:步骤4.1、设置全局模型中参数融合算法其中wj指全局模型中第j个参数,指全部K个局部模型中第k个局部模型的第j个模型参数,这里选择取平均作为模型参数融合算法,即步骤4.2、将融合后的全局参数{wj}下载到各局部模型所在的边界设备中更新局部模型参数,即步骤4.3、各局部模型已更新后的参数作为初始值,再次根据各自的隐私数据训练模型,重复步骤3)和步骤4)直到达到预设的训练次数N。本专利技术与现有技术相比较,具有如下显而易见的突出的实质性特点和显著的优点:本文档来自技高网
...

【技术保护点】
1.一种面向工业互联网边界安全的联邦深度网络行为特征建模方法,其特征在于:包括如下步骤:/n1)构建能直接输入工业互联网网络包负载原始数据的卷积神经网络模型,通过网络内部预设的卷积核学习提取工业互联网网络行为特征;/n2)依托工业互联网云-边结构,将卷积神经网络的网络结构和参数在工业云和各工业企业各自局域网的边界设备间共享,形成分布式联邦学习框架;/n3)在边界设备上基于局部隐私数据进行模型的学习和训练,将局部训练得到的模型参数上传到工业云;/n4)通过参数融合得到联邦模型,并用联邦模型更新所有局部模型,重复步骤3)直到模型收敛。/n

【技术特征摘要】
1.一种面向工业互联网边界安全的联邦深度网络行为特征建模方法,其特征在于:包括如下步骤:
1)构建能直接输入工业互联网网络包负载原始数据的卷积神经网络模型,通过网络内部预设的卷积核学习提取工业互联网网络行为特征;
2)依托工业互联网云-边结构,将卷积神经网络的网络结构和参数在工业云和各工业企业各自局域网的边界设备间共享,形成分布式联邦学习框架;
3)在边界设备上基于局部隐私数据进行模型的学习和训练,将局部训练得到的模型参数上传到工业云;
4)通过参数融合得到联邦模型,并用联邦模型更新所有局部模型,重复步骤3)直到模型收敛。


2.根据权利要求1所述的面向工业互联网边界安全的联邦深度网络行为特征建模方法,其特征在于:所述步骤1)具体包括下列步骤:
步骤1.1、卷积神经网络结构设计,包括输入层,卷积层与最大池化层个数M,以及输出层;
步骤1.2、卷积神经网络输入层参数设置,包括输入层节点个数sI,即对应的工业互联网网络负载能输入卷积神经网络的原始字节数;
步骤1.3、卷积神经网络各卷积层参数设置,包括各卷积层卷积核的个数km,该层每个核的大小sm以及卷积后的激活函数fm,其中m∈[1,M]表示第m个卷积层;
步骤1.4、卷积神经网络各最大池化层层参数设置,包括各池化层池化窗口的大小dm,其中m∈[1,M]表示第m个卷积层;
步骤1.5、卷积神经网络输出层参数设置,包括输出层节点个数sO,以及输出层的激活函数fO。


3.根据权利要求1所述的面向工业互联网边界安全的联邦深度网络行为特征建模方法,其特征在于:所述步骤2)具体包括下列步骤:
步骤2.1、跟据步骤1)中确定的卷积神经网络结构在工业云中建立全局模型,卷积神经网络中的参数随机设置;
步骤2.2、跟据步骤1)中确定的卷积神经网络结构在各工业企业局域网的边界设备中建立各自的局部模型,卷积神经网络中的参数随机设置;
步骤2.3、建立工业云与各边界设备的网络参数通信通道,形成全局模型和局部模型参数共享的联邦学习框架。


4.根据权利要求1所述的面向工业互联网边...

【专利技术属性】
技术研发人员:周鹏
申请(专利权)人:上海大学
类型:发明
国别省市:上海;31

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1