【技术实现步骤摘要】
本专利技术涉及一种工业控制网络入侵检测方法，特别是涉及一种可变形视觉转换器的工业入侵检测方法。
技术介绍
1、随着互联网的高速发展，在给人们带来便捷的同时，也伴随的大量的多媒体信息在互联网传播，黑客的攻击和信息的泄漏也向互联网安全发出挑战，摆在面前的问题是，如何有效的防止网络入侵是网络安全的主要问题，为了解决这个问题，发展入侵检测技术成为了必要。
2、如果设计一个安全有效的网络入侵检测系统，首先检测已成为所有依赖信息系统的基础设施的首要任务。这些攻击在数量和复杂性上都在不断发展，导致许多组织使用传统的网络防御系统，而这些系统可能无法阻止此类攻击。由于连接到互联网的设备的多样性创造了重要的攻击媒介，因此企业网络的完全安全更加复杂。因此，在攻击发生之前或过程中识别攻击就成为保护数据隐私和维护的必要条件。
3、从经济损失到敏感信息被盗，甚至是关键基础设施中断。多年来，网络安全领域通过实施新的创新网络防御工具来跟踪这一技术进步。长期以来，基于规则的检测系统被集成到反病毒和入侵检测系统(ids)中，以从先前已知的模式检测网络和系统级入侵。这些方法的局限性在于它们很难泛化到新的模式，并且只需对攻击序列进行少量修改就足以绕过规则或签名检测。为了解决这些问题，机器学习(ml)和深度学习(dl)在网络安全任务中取得了巨大成功。
技术实现思路
1、本专利技术的目的在于提供一种可变形视觉转换器的工业入侵检测方法，该方法提出一种deformable vision transform
2、另一方面，卷积模块使用了可变形卷积，在不增加卷积核的同时加大每个patch的感受野。同时在该模型中，使用分层焦点损失函数为具有不同分类效果的样本分配不同的权重。该模型既能有效拟合具有预测误差的样本，又能减弱离群点对模型的影响，提高分类效果。通过在cic ids2017和unsw-nb15数据集上的仿真实验，证明了所提出的入侵检测方法显著提高了准确性。
3、本专利技术的目的是通过以下技术方案实现的：
4、一种基于可变形视觉转换器的工业入侵检测方法，所述方法包括以下步骤：
5、步骤1：对入侵检测数据集进行数据预处理，特征图像化，将其划分为训练集与测试集；
6、步骤2：将训练集先经过可变形卷积提取特征，并进行embedding，使得每个patch都为768维向量；
7、步骤3：将二维的图像展开为一维序列，经过归一化输入可变形注意力机制中，经过可变形注意力机制提取特征后，连一个全连接层，最后softmax输出；
8、步骤4：设置l-focal损失函数负责计算预测值与真实值之间的差距，利用梯度下降算法更新网络参数，保存训练好的可变形视觉转换器模型；
9、步骤5：将测试集传入可变形视觉转换器模型完成分类。
10、所述的一种基于可变形视觉转换器的工业入侵检测方法，所述数据处理，将特征图像化后采用分块展开方法，更具体地说，对图像进行分块得到使用可变形卷积将图像变成一个向量大小为p×p×c的一维向量，然后对每个向量进行线性变换，将其维数压缩为d。
11、所述的一种基于可变形视觉转换器的工业入侵检测方法，所述可变形卷积实现如下：基于传统cnn对大型，未知形状变换的建模存在固有的缺陷，即卷积单元对输入特征图的固定位置进行采样，在同一层卷积中，所有的激活单元的感受野是一样的，但由于不同位置可能对应着不同尺度或变形的物体，因此对尺度或者感受野大小进行自适应是进行精确定位所需要的。
12、所述的一种基于可变形视觉转换器的工业入侵检测方法，所述可变形注意力机制；deformable vision transformer由重复堆叠l次的编码块组成，编码块之间具有相同的结构；每个编码块有两个子层；其中包括归一化层、多头可变形注意力机制层和残差单元；另一部分包括归一化层、多层感知器和残差单元。
13、所述的一种基于可变形视觉转换器的工业入侵检测方法，所述可变形视觉转换器模型，根据可变形视觉转换器模型的分类结果作为入侵检测的识别结果。
14、本专利技术的优点与效果是：
15、本专利技术提出了一种尖端方法de-vit来应对入侵检测的挑战。de-vit通过将入侵检测数据转换为图像数据，采用图像分类算法来有效解决该问题。该方法不仅细化了原始的vit，还采用了更先进的可变形注意力机制来代替自注意力。为了进一步优化模型，引入了增强的滑动窗口机制以实现卓越的边缘信息提取，同时利用可变形卷积来提取边缘信息并扩大每个块的感受野。为了注意力机制能学习到位置信息，使用正余弦位置编码来表示不同位置的不同特征，随着位置嵌入随着维度序列号逐渐变化，从而产生充满位置信息的纹理。
16、de-vit引入了一种创新的可变形注意力机制模块，该模块以数据依赖的方式选择键值对的位置。这种敏捷的解决方案使可变形注意力机制模块能够专注于相关区域并捕获更多信息特征，从而避免过多的内存和计算成本。为了解决数据集不平衡的问题，提出了一种分层焦点损失函数，称为l-focal损失函数，将注意力集中在难以分类的样本上，从而提高分类精度。
17、实验结果证明了de-vit相对于其他算法的优越性。在二元分类实验中，在cicids2017数据集上获得了99.5％的准确率，在unsw-nb15数据集上获得了97.25％的准确率，优于cnn、lstm和dbn-kelm等大多数主流算法。在多分类实验中，算法继续超越其他算法，在大多数类别上实现了值得称赞的准确性和精确度。在损失函数的约束下，小样本的准确率没有明显下降，最终获得了总体令人满意的实验结果。
18、本专利技术的显著特点如下：
19、1.将de-vit应用于ids的设计。解决了cnn等传统神经网络在探索特征间空间关系方面效果不佳的问题，提高了检测模型的泛化能力。
20、2.输入图像的硬分割被滑动窗口机制所取代，使得在每个patch和相邻patch之间构建更好的相关性成为可能。因此，可以更好地对局部信息进行建模，例如边缘和线条。
21、3.加入可变形注意力机制计算距离无关的两个位置之间的关联，可以使模型更好更快地提取特征，同时能够专注于相关区域并捕获更多信息特征，降低运算力。加入可变形卷积增大每个patch的感受野，在不增加卷积核大小的情况下，使得每个patch蕴含更多的信息。
22、4本文档来自技高网...
【技术保护点】
1.一种基于可变形视觉转换器的工业入侵检测方法，其特征在于，所述方法包括以下步骤：
2.根据权利要求1所述的一种基于可变形视觉转换器的工业入侵检测方法，其特征在于，所述数据处理，将特征图像化后采用分块展开方法，更具体地说，对图像进行分块得到使用可变形卷积将图像变成一个向量大小为P×P×C的一维向量，然后对每个向量进行线性变换，将其维数压缩为D。
3.根据权利要求1所述的一种基于可变形视觉转换器的工业入侵检测方法，其特征在于，所述可变形卷积实现如下：基于传统CNN对大型，未知形状变换的建模存在固有的缺陷，即卷积单元对输入特征图的固定位置进行采样，在同一层卷积中，所有的激活单元的感受野是一样的，但由于不同位置可能对应着不同尺度或变形的物体，因此对尺度或者感受野大小进行自适应是进行精确定位所需要的。
4.根据权利要求1所述的一种基于可变形视觉转换器的工业入侵检测方法，其特征在于，所述可变形注意力机制；Deformable Vision Transformer由重复堆叠L次的编码块组成，编码块之间具有相同的结构；每个编码块有两个子层；其中包括归一化层、
5.根据权利要求1所述的一种基于可变形视觉转换器的工业入侵检测方法，其特征在于，所述可变形视觉转换器模型，根据可变形视觉转换器模型的分类结果作为入侵检测的识别结果。
...【技术特征摘要】
1.一种基于可变形视觉转换器的工业入侵检测方法，其特征在于，所述方法包括以下步骤：
2.根据权利要求1所述的一种基于可变形视觉转换器的工业入侵检测方法，其特征在于，所述数据处理，将特征图像化后采用分块展开方法，更具体地说，对图像进行分块得到使用可变形卷积将图像变成一个向量大小为p×p×c的一维向量，然后对每个向量进行线性变换，将其维数压缩为d。
3.根据权利要求1所述的一种基于可变形视觉转换器的工业入侵检测方法，其特征在于，所述可变形卷积实现如下：基于传统cnn对大型，未知形状变换的建模存在固有的缺陷，即卷积单元对输入特征图的固定位置进行采样，在同一层卷积中，所有的激活单元的感受野是一样的，但由...
【专利技术属性】
技术研发人员：何戡，张伟，宗学军，宁博伟，连莲，孙逸菲，郑洪宇，王国刚，
申请(专利权)人：沈阳化工大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。