基于BN-DBN的网络安全态势要素获取机制制造技术

技术编号:20623812 阅读:20 留言:0更新日期:2019-03-20 14:59
为了加快深度信念网络(Deep Belief Network,DBN)的收敛速度以及提高小样本条件下的态势要素的获取精度,提出了一种基于BN‑DBN网络安全态势要素获取机制。一方面在深度神经网络中加入BN以解决梯度消失问题;另一方面再通过深度神经网络输出层提出了一种改进的主动学习(Improved Active Learning,IAL)算法反向微调深度信念网络,该算法通过在每次迭代中主动选择训练样本来平衡样本种类。理论分析和实例数据仿真结果表明该机制能够解决深度神经网络收敛速度过慢或梯度消失,以及样本的准确分类问题。其获取精度、收敛速度、算法复杂度优于该文中所列的其他态势要素获取机制。

Network Security Situation Element Acquisition Mechanism Based on BN-DBN

In order to speed up the convergence speed of Deep Belief Network (DBN) and improve the accuracy of situation elements acquisition under small sample conditions, a mechanism for obtaining security situation elements based on BN DBN is proposed. On the one hand, BN is added to the deep neural network to solve the problem of gradient disappearance; on the other hand, an improved active learning (IAL) algorithm is proposed to reverse fine-tune the depth belief network through the output layer of the deep neural network. The algorithm balances the samples by actively selecting training samples in each iteration. The theoretical analysis and the simulation results of practical data show that the mechanism can solve the problems of slow convergence speed or disappearance of gradient of deep neural network and accurate classification of samples. Its acquisition accuracy, convergence speed and algorithm complexity are superior to other situation elements acquisition mechanisms listed in this paper.

【技术实现步骤摘要】
基于BN-DBN的网络安全态势要素获取机制
本专利技术涉及网络安全态势要素获取机器学习
,特别涉及基于BN-DBN的网络安全态势要素获取机制
技术介绍
2017年全球网络用户量达到34.9亿人,网络安全问题也相伴而生。基础网络仍存在较多的漏洞风险,数据泄露依然严重,分布式反射型拒绝服务攻击日趋频繁,网络管理很被动。网络安全问题将是未来将着重看待的问题,因此学术界继而将研究重点转向了网络安全态势感知(NetworkSecuritySituationAwareness,NSSA)研究。最近,被称为深度学习的一种半监督学习方法已被引入到网络安全态势感知中。它可以被认为是人工神经网络的一个扩展,对于复杂问题的分类是有效的。但是,深度网络的训练相当昂贵,需要大量的训练样本。将深度网络应用于态势要素的分类原本是不现实的,因为只有有限的训练样本可用,并且特征空间的维度较大。训练更深的神经网络近年来一直是深度学习领域的重要趋势之一。神经网络在取得初步的成果后,有研究者猜想增加隐含层的情况下即构造一种深层网络是否会使分类精度会有更好的提高,但是实际上的深层神经网络所达到的效果一些简单的机制如SVM也可以达到,经研究发现深层网络在越深的层次几乎起不到优化的作用了。深层网络层中鲁棒性能不是很好,参数不断变化,存在梯度消失等问题。2015年初,Google提出了BatchNormalization算法,使得深层神经网络的训练更加稳定,加快了收敛的速度,增强鲁棒性能,甚至同时起到了正则化的作用。态势要素提取本质上是对态势要素进行分类,主动学习(ActiveLearning,AL)是分类中的有效工具,对于多标签学习问题与传统的半监督学习方法相比,主动学习方法可以更快地训练深度网络,训练样本更少。多标签学习的研究对于对象多义性学习建模具有十分重要的意义,是目前机器学习界的研究热点之一。在多标签学习模型框架下,每一个已标记的样本由若干个不同的标签来表征,学习的目标通过对已标记多标签样本的学习。利用主动学习算法对已标注的样本构造图模型来充分利用攻击数据,并采用预聚类算法降低标注数据的代价,通过不断训练分类器,最终实现对安全态势的有效感知。但以上的研究在分类过程中都忽略了攻击类型的种类,对于小样本类的攻击考虑不够充分。
技术实现思路
针对在深度网络中存在的梯度消失和收敛过慢的问题,在机制中提出了一种基于批量归一化(BN)的深度信念网络(DBN)的态势要素获取机制,同时用交叉熵(Crossentropy,CE)函数作为代价函数加快收敛速度;针对主动学习(AL)大多数情况下只考虑到了样本的信息量,而没有考虑到样本的种类,本文提出了一种IAL算法反向微调网络,改善多标签学习过程中所面临的小类样本不平衡的问题。本文采用基于BN-DBN网络的安全态势要素获取流程,通过无监督学习和监督学习进行分类,在BN-DBN输出层通过主动学习主动选择样本,再利用IAL反向微调网络,从而得到攻击类型的态势要素。主要分为三个步骤:步骤101:构建网络安全态势要素获取框架;步骤102:采用基于BN-DBN网络的安全态势要素获取,解决目标问题;步骤103:网络安全态势要素获取机制,具体由两个主要步骤组成:采基于BN-DBN的分层训练、改进的主动学习(IAL)算法。优选地,所述步骤101构建网络安全态势要素获取框架包括:现有的网络呈现大规模网络化,节点众多,分支复杂,数据流量大,并且包含多个网段,存在多种异构网络环境和应用平台。因此本文采用层次化态势要素获取模型。本文主要研究的是态势要素获取层,该获取机制包含全局分析和局部分析,并且先局部后整体。通过对传感器传输的各类数据实现网络态势要素的采集。要素获取层将历史安全数据集和当前安全数据集通过分类器学习,形成一种学习规则,将这种学习规则用来指导局部模块,经过统计分析形成的数据再传输到全局模块,这种分析机制既可得到局部态势要素也可提取全局态势要素。本文利用改进的深度信念网络对预处理后的信息进行分类学习,得到相应的分类规则,经IAL反向微调网络后生成态势要素。优选地,所述步骤102采用基于BN-DBN网络的安全态势要素获取,解决目标问题包括:态势要素提取本质上是对态势要素进行分类,主动学习(ActiveLearning,AL)是分类中的有效工具,对于多标签学习问题与传统的半监督学习方法相比,主动学习方法可以更快地训练深度网络,训练样本更少。多标签学习的研究对于对象多义性学习建模具有十分重要的意义,是目前机器学习界的研究热点之一。在多标签学习模型框架下,每一个已标记的样本由若干个不同的标签来表征,学习的目标通过对已标记多标签样本的学习。利用主动学习算法对已标注的样本构造图模型来充分利用攻击数据,并采用预聚类算法降低标注数据的代价,通过不断训练分类器,最终实现对安全态势的有效感知。但以上的研究在分类过程中都忽略了攻击类型的种类,对于小样本类的攻击考虑不够充分。针对在深度网络中存在的梯度消失和收敛过慢的问题,在机制中提出了一种基于批量归一化(BN)的深度信念网络(DBN)的态势要素获取机制,同时用交叉熵(Crossentropy,CE)函数作为代价函数加快收敛速度;针对主动学习(AL)大多数情况下只考虑到了样本的信息量,而没有考虑到样本的种类,本文提出了一种IAL算法反向微调网络,改善多标签学习过程中所面临的小类样本不平衡的问题。本文机制采用基于BN-DBN网络的安全态势要素获取流程,通过无监督学习和监督学习进行分类,在BN-DBN输出层通过主动学习主动选择样本,再利用IAL反向微调网络,从而得到攻击类型的态势要素。主要分为三个步骤:①数据集:提供训练数据和测试数据;②BN-DBN:基分类器,无监督学习过程,加快网络收敛;③IAL:监督学习过程,反向微调网络参数,均衡样本种类;优选地,所述步骤103网络安全态势要素获取机制,具体由两个主要步骤组成:采基于BN-DBN的分层训练、改进的主动学习(IAL)算法。(1)基于BN-DBN的分层训练深度信念网络(DBN)由多个限制玻尔兹曼机(RestrictedBoltzmannMachines,RBM)层和一层反向传播(BackPropagate,BP)组成,它是一个概率生成模型。典型的RBM神经网络被“限制”为一个可视v和一个隐含层h,层间存在连接,但层内单元之间不存在连接。所有的隐含层节点和可视层节点之间都是相互独立的。RBM是一个基于能量的模型。对于给定的状态(v,h),RBM的能量函数为:隐含层h和可见层v被激活概率定义分别如下:其中b和c分别为可见层和隐含层的偏置。由于所有的v和h满足Boltzmann分布,因此当输入v的时候,通过P(hv)可以得到隐藏层h,而得到隐含层h之后,通P(v|h))又能得到可视层,通过调整参θ(在本文中θ就是代表权值w和偏置b,c),从隐含层得到的可视层v1与原来的可视层v比较,如果一样,那么得到的隐含层就是可视层的另外一种表达。DBN的完整训练包括两个阶段:无监督特征学习阶段和监督微调阶段。在无监督学习,RBM通过CD方法逐层训练,这是一种高效的贪婪学习算法,在有监督学学习阶段,所有的RBM被叠加,并且通过BP算法进行判别性微调。通过BP本文档来自技高网
...

【技术保护点】
1.一种基于BN‑DBN的网络安全态势要素获取机制,其特征在于,包括以下步骤:步骤101:构建网络安全态势要素获取框架;步骤102:采用基于BN‑DBN网络的安全态势要素获取,解决目标问题;步骤103:网络安全态势要素获取机制,具体由两个主要步骤组成:采基于BN‑DBN的分层训练、改进的主动学习(IAL)算法。

【技术特征摘要】
1.一种基于BN-DBN的网络安全态势要素获取机制,其特征在于,包括以下步骤:步骤101:构建网络安全态势要素获取框架;步骤102:采用基于BN-DBN网络的安全态势要素获取,解决目标问题;步骤103:网络安全态势要素获取机制,具体由两个主要步骤组成:采基于BN-DBN的分层训练、改进的主动学习(IAL)算法。2.根据权利要求1所述的基于BN-DBN的网络安全态势要素获取机制,其特征在于,所述步骤101构建网络安全态势要素获取框架包括:现有的网络呈现大规模网络化,节点众多,分支复杂,数据流量大,并且包含多个网段,存在多种异构网络环境和应用平台,因此本文采用层次化态势要素获取模型;本文主要研究的是态势要素获取层,该获取机制包含全局分析和局部分析,并且先局部后整体,通过对传感器传输的各类数据实现网络态势要素的采集;要素获取层将历史安全数据集和当前安全数据集通过分类器学习,形成一种学习规则,将这种学习规则用来指导局部模块,经过统计分析形成的数据再传输到全局模块,这种分析机制既可得到局部态势要素也可提取全局态势要素。本文利用改进的深度信念网络对预处理后的信息进行分类学习,得到相应的分类规则,经IAL反向微调网络后生成态势要素。3.根据权利要求1所述的基于BN-DBN的网络安全态势要素获取机制,其特征在于,所述步骤102采用基于BN-DBN网络的安全态势要素获取,解决目标问题包括:态势要素提取本质上是对态势要素进行分类,主动学习(ActiveLearning,AL)是分类中的有效工具,对于多标签学习问题与传统的半监督学习方法相比,主动学习方法可以更快地训练深度网络,训练样本更少;多标签学习的研究对于对象多义性学习建模具有十分重要的意义,是目前机器学习界的研究热点之一;在多标签学习模型框架下,每一个已标记的样本由若干个不同的标签来表征,学习的目标通过对已标记多标签样本的学习;利用主动学习算法对已标注的样本构造图模型来充分利用攻击数据,并采用预聚类算法降低标注数据的代价,通过不断训练分类器,最终实现对安全态势的有效感知;但以上的研究在分类过程中都忽略了攻击类型的种类,对于小样本类的攻击考虑不够充分;针对在深度网络中存在的梯度消失和收敛过慢的问题,在机制中提出了一种基于批量归一化(BN)的深度信念网络(DBN)的态势要素获取机制,同时用交叉熵(Crossentropy,CE)函数作为代价函数加快收敛速度;针对主动学习(AL)大多数情况下只考虑到了样本的信息量,而没有考虑到样本的种类,本文提出了一种IAL算法反向微调网络,改善多标签学习过程中所面临的小类样本不平衡的问题;本文机制采用基于BN-DBN网络的安全态势要素获取流程,通过无监督学习和监督学习进行分类,在BN-DBN输出层通过主动学习主动选择样本,再利用IAL反向微调网络,从而得到攻击类型的态势要素;主要分为三个步骤:①数据集:提供训练数据和测试数据;②BN-DBN:基分类器,无监督学习过程,加快网络收敛;③IAL:监督学习过程,反向微调网络参数,均衡样本种类。4.根据权利要求1所述的基于BN-DBN的网络安全态势要素获取机制,其特征在于,所述步骤103网络安全态势要素获取机制,具体由两个主要步骤组成包括:基于BN-DBN的分层训练、改进的主动学习(IAL)算法:(1)基于BN-DBN的分层训练深度信念网络(DBN)由多个限制玻尔兹曼机(RestrictedBoltzmannMachines,RBM)层和一层反向传播(BackPropagate,BP)组成,它是一个概率生成模型;典型的RBM神经网络被“限制”为一个可视v和一个隐含层h,层间存在连接,但层内单元之间不存在连接;所有的隐含层节点和可视层节点之间都是相互独立的;RBM是一个基于能量的模型;对于给定的状态(v,h),RBM的能量函数为:隐含层h和可见层v被激活概率定义分别如下:其中b和c分别为可见层和隐含层的偏置;由于所有的v和h满足Boltzmann分布,因此当输入v的时候,通过P(hv)可以得到隐藏层h,而得到隐含层h之后,通P(v|h))又能得到可视层,通过调整参θ(在本文中θ就是代表权值w和偏置b,c),从隐含层得到的可视层v1与原来的可视层v比较,如果一样,那么得到的隐含层就是可视层的另外一种表达;DBN的完整训练包括两个阶段:无监督特...

【专利技术属性】
技术研发人员:朱江王婷婷
申请(专利权)人:重庆邮电大学
类型:发明
国别省市:重庆,50

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1