System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及神经网络模型逆向工程,特别是涉及一种基于侧信道攻击gmm聚类和神经网络混合的模型结构逆向方法。
技术介绍
1、神经网络模型逆向是指尝试理解神经网络模型内部工作原理以及推断模型背后的逻辑和决策过程的一系列方法和技术,这种逆向工程旨在探索神经网络是如何将输入数据转换为输出预测的,并试图从网络的结构、参数或输出中获取信息,获取芯片内部模型结构的信息更有利于我们进一步对芯片设备展开研究。
2、大致来说,目前有两种方法用于反演神经网络模型的结构信息,其中一种是基于元学习的方法,另一种则是基于硬件侧信道的方法;
3、基于元学习的方法的核心思想是利用元学习模型与多种白盒模型的训练输出,通过训练得到一个元模型,能够预测目标黑盒模型的结构属性。方法包括:在元训练阶段,收集多种结构类型的白盒模型作为元训练集,通过这些模型的训练数据进行训练,使其趋近于目标模型。在元模型构建阶段,基于元训练集上训练得到“元模型”,建立白盒模型输出和结构属性之间的关系,在推理阶段,则通过元模型,给定目标黑盒模型的输出,预测其结构属性;
4、这种方法需要构建大量白盒模型和它们的输出数据,因此计算成本较高,虽然在简单神经网络结构反向推演上效果较好,但在复杂网络上的表现仍需进一步检验;
5、另一种是基于硬件侧信道的方法,这个方法是通过分析底层硬件留下的轨迹信息(例如缓存侧信道、总线监听等),来实现模型架构细节的恢复,从硬件角度分析,当模型执行推理任务时,硬件上会留下依赖于架构的轨迹,分析这些轨迹信息,以实现模型架构
6、基于此,需一种gmm聚类和神经网络混合的模型结构逆向方法。
技术实现思路
1、为实现上述目的,本专利技术提供了如下方案:一种gmm聚类和神经网络混合的模型结构逆向方法,包括以下步骤:
2、s1、采集神经网络模型在嵌入式设备上不同输入、不同权重条件下的功率数据及其他多模态物理信号数据;
3、s2、对采集到的数据进行统计分析,计算均值、中位数、标准差、四分位数、四分位数差值、变异系数统计量;
4、s3、利用主成分分析(pca)技术,将高维统计量特征投影到低维空间,增强特征间的可分性,减少计算复杂度;
5、s4、将降维后的特征数据输入到高斯混合模型(gmm)中,通过expectation-maximization(em)算法进行聚类分析,输出各个模型类别的概率;
6、s5、在gmm判断过程中,增加动态阈值调整模块,实时分析数据分布和分类结果,动态调整阈值,当所有分类的gmm输出概率均小于该动态阈值时,启用神经网络做进一步判断;
7、s6、将特征数据输入到预先训练好的神经网络中,利用神经网络进行最终的模型类别判定,输出神经网络分类结果。
8、进一步地,所述数据采集步骤包括以高频率采样功率数据,具体为以400hz的频率采样,确保采集到的功率数据具有足够的时间分辨率,以便更精确地捕捉神经网络模型在不同输入和权重条件下的细微变化,提高统计量计算的精度和逆向模型的准确性。
9、进一步地,所述特征统计量计算步骤进一步包括计算多模态物理信号的统计量,信号包括但不限于电磁辐射、温度变化、电流电压监测,通过引入多模态数据,提高对神经网络模型运行特征的全面捕捉能力,增加逆向分析的准确性和鲁棒性。
10、进一步地,所述高维特征空间投影与降维步骤中使用主成分分析(pca)技术,将多维统计量特征投影到低维空间,以减少计算复杂度并提高特征间的可分性,有效地进行聚类分析和后续的神经网络分类。
11、进一步地,所述gmm聚类分析步骤包括通过expectation-maximization(em)算法迭代优化参数,直到参数变化小于预设阈值或者达到最大迭代次数,在每次迭代中分别更新权重、均值和协方差矩阵。
12、进一步地,所述动态自适应阈值调整机制通过分析历史数据和当前环境变量来实时调整gmm和神经网络的判定阈值,提高模型的灵活性和准确性,通过动态调整确保在不同数据分布和环境下均能保持高效准确的分类性能。
13、进一步地,所述神经网络分类步骤中的神经网络为多层感知器(mlp),包含至少三层隐藏层,每层包含至少128个神经元,并使用relu(rectified linear unit)激活函数,提高神经网络的非线性表达能力和分类性能。
14、进一步地,所述神经网络的训练数据包括多种不同结构类型的神经网络模型的功率统计量,通过监督学习方法进行训练,使神经网络能够有效识别和分类不同的神经网络模型结构。
15、进一步地,所述实时在线学习与更新步骤包括在实际应用中持续采集新数据并实时更新gmm和神经网络模型参数,以动态适应新的侧信道攻击模式和环境变化,从而确保模型在长时间运行中的稳定性和高效性。
16、根据本专利技术提供的具体实施例,本专利技术公开了以下技术效果:
17、一、本专利技术通过侧信道攻击收集大量单个神经网络模型在不同输入、不同权重条件下的功耗数据,并计算这些数据的统计量,不同神经网络模型在运行时产生的功率统计量特征不同,利用这些特征可以更准确地区分不同的神经网络模型,从而实现更精确的模型逆向,此外,引入高维统计量特征,有助于在高维空间中更清晰地区分不同模型,提高分类的准确性。
18、二、本专利技术通过侧信道攻击获取功耗数据,并通过gmm和神经网络混合的方式进行逆向模型结构,无需构建大量白盒模型,显著降低了计算成本,gmm在处理较简单的分类问题时效率较高,而神经网络在处理复杂问题时更具优势,二者结合能够实现准确度和效率的平衡。
19、三、本专利技术引入了更多的统计量进行特征提取,每个统计量都是一个维度,这些丰富的统计量特征有助于更全面地理解数据的分布形态、集中趋势和离散程度,从而提高分类的准确度,多模态数据的引入,进一步提高了对神经网络模型运行特征的全面捕捉能力,增加了逆向分析的准确性和鲁棒性。
20、四、本专利技术采用动态自适应阈值调整机制,通过分析历史数据和当前环境变量来实时调整gmm和神经网络的判定阈值,确保在不同数据分布和环境条件下均能保持高效、准确的分类性能,这种动态调整机制使得模型在实际应用中更具灵活性和鲁棒性,当所有分类的gmm输出概率均小于设定的阈值时,启用神经网络进一步判断,确保结果的准确性。
本文档来自技高网...【技术保护点】
1.一种GMM聚类和神经网络混合的模型结构逆向方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种GMM聚类和神经网络混合的模型结构逆向方法,其特征在于,所述数据采集步骤包括以高频率采样功率数据,具体为以400Hz的频率采样,确保采集到的功率数据具有足够的时间分辨率,以便更精确地捕捉神经网络模型在不同输入和权重条件下的细微变化,提高统计量计算的精度和逆向模型的准确性。
3.根据权利要求1所述的一种GMM聚类和神经网络混合的模型结构逆向方法,其特征在于,所述特征统计量计算步骤进一步包括计算多模态物理信号的统计量,信号包括但不限于电磁辐射、温度变化、电流电压监测,通过引入多模态数据,提高对神经网络模型运行特征的全面捕捉能力,增加逆向分析的准确性和鲁棒性。
4.根据权利要求1所述的一种GMM聚类和神经网络混合的模型结构逆向方法,其特征在于,所述高维特征空间投影与降维步骤中使用主成分分析(PCA)技术,将多维统计量特征投影到低维空间,以减少计算复杂度并提高特征间的可分性,有效地进行聚类分析和后续的神经网络分类。
5.如权利要求1所
6.根据权利要求5所述的一种GMM聚类和神经网络混合的模型结构逆向方法,其特征在于,所述动态自适应阈值调整机制通过分析历史数据和当前环境变量来实时调整GMM和神经网络的判定阈值,提高模型的灵活性和准确性,通过动态调整确保在不同数据分布和环境下均能保持高效准确的分类性能。
7.根据权利要求1所述的一种GMM聚类和神经网络混合的模型结构逆向方法,其特征在于,所述神经网络分类步骤中的神经网络为多层感知器(MLP),包含至少三层隐藏层,每层包含至少128个神经元,并使用ReLU(Rectified Linear Unit)激活函数,提高神经网络的非线性表达能力和分类性能。
8.根据权利要求1所述的一种GMM聚类和神经网络混合的模型结构逆向方法,其特征在于,所述神经网络的训练数据包括多种不同结构类型的神经网络模型的功率统计量,通过监督学习方法进行训练,使神经网络能够有效识别和分类不同的神经网络模型结构。
9.根据权利要求1所述的一种GMM聚类和神经网络混合的模型结构逆向方法,其特征在于,所述实时在线学习与更新步骤包括在实际应用中持续采集新数据并实时更新GMM和神经网络模型参数,以动态适应新的侧信道攻击模式和环境变化,从而确保模型在长时间运行中的稳定性和高效性。
...【技术特征摘要】
1.一种gmm聚类和神经网络混合的模型结构逆向方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种gmm聚类和神经网络混合的模型结构逆向方法,其特征在于,所述数据采集步骤包括以高频率采样功率数据,具体为以400hz的频率采样,确保采集到的功率数据具有足够的时间分辨率,以便更精确地捕捉神经网络模型在不同输入和权重条件下的细微变化,提高统计量计算的精度和逆向模型的准确性。
3.根据权利要求1所述的一种gmm聚类和神经网络混合的模型结构逆向方法,其特征在于,所述特征统计量计算步骤进一步包括计算多模态物理信号的统计量,信号包括但不限于电磁辐射、温度变化、电流电压监测,通过引入多模态数据,提高对神经网络模型运行特征的全面捕捉能力,增加逆向分析的准确性和鲁棒性。
4.根据权利要求1所述的一种gmm聚类和神经网络混合的模型结构逆向方法,其特征在于,所述高维特征空间投影与降维步骤中使用主成分分析(pca)技术,将多维统计量特征投影到低维空间,以减少计算复杂度并提高特征间的可分性,有效地进行聚类分析和后续的神经网络分类。
5.如权利要求1所述的一种gmm聚类和神经网络混合的模型结构逆向方法,其特征在于,所述gmm聚类分析步骤包括通过expectation-maximization(em)算法迭代优化参数,直到参数变化小于预设阈...
【专利技术属性】
技术研发人员:袁帅,李思聪,张志铜,
申请(专利权)人:浙江芯科物联科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。