提高检测模型鲁棒性的可知性判断方法及装置制造方法及图纸

本发明专利技术实施例提供一种提高检测模型鲁棒性的可知性判断方法及装置，该方法包括：获取待验证对象的特征向量与所有训练集样本特征向量的汉明距离最小值；若所述汉明距离的最小值大于预设汉明距离阈值，则所述待验证对象，对于以所述训练集训练的卷积神经网络模型为不可知的；其中，所述汉明距离阈值，根据测试集样本对训练后的卷积神经网络模型的测试结果，以及每一测试样本与每一训练样本的汉明距离分布得到。该方法实现过程简单，通过该汉明距离阈值，能够准确判断出待验证对象的可知性，能够有效避免因模型检测出错导致的失误。若不可知对象过多，说明模型检测效果不佳，该方法可以作为模型是否进行更新的指导。

Knowability judgment method and device to improve the robustness of detection model

【技术实现步骤摘要】
提高检测模型鲁棒性的可知性判断方法及装置
本专利技术涉及恶意软件检测领域，尤其涉及一种提高检测模型鲁棒性的可知性判断方法及装置。
技术介绍
近年来，恶意程序的数量呈指数级的增长，已经成为威胁互联网安全的关键因素之一。如何对恶意程序进行有效检测和查杀，也成为了企业与网络安全人员着重思考的问题之一。随着人工智能技术的不断发展与完善，能够将人工智能技术应用到恶意程序检测中。随着人工智能方法研究的不断深入，机器学习方法在各个科研领域被广泛细致地进行了研究，同时在很多应用领域中被广泛使用。对于机器学习模型的离线训练，包括TensorFlow，PyTorch等在内的框架为人们提供了比较成熟的离线训练环境。而对在线学习的实际场景，为快速发现系统级别的全局数据变化和新产生的数据所具有的新特征，都需要根据线上生产环境对模型进行实时的更新和学习。但这种在线更新的方法，迄今为止仍是业界的一个难点。当前模型的在线更新方法包括全量更新和增量更新相结合，以及对模型的局部更新两个主要方向。在全局更新中，模型直接利用某个时间段内的所有训练样本重新训练，而增量更本文档来自技高网...

【技术保护点】
1.一种提高检测模型鲁棒性的可知性判断方法，其特征在于，包括：/n获取待验证对象的特征向量，与所有训练集样本特征向量的汉明距离最小值；/n若所述汉明距离的最小值大于预设汉明距离阈值，则所述待验证对象，对于以所述训练集训练的卷积神经网络模型为不可知的；/n其中，所述汉明距离阈值，根据测试集样本对训练后的卷积神经网络模型的测试结果，以及每一测试样本与每一训练样本的汉明距离分布得到。/n

【技术特征摘要】
1.一种提高检测模型鲁棒性的可知性判断方法，其特征在于，包括：
获取待验证对象的特征向量，与所有训练集样本特征向量的汉明距离最小值；
若所述汉明距离的最小值大于预设汉明距离阈值，则所述待验证对象，对于以所述训练集训练的卷积神经网络模型为不可知的；
其中，所述汉明距离阈值，根据测试集样本对训练后的卷积神经网络模型的测试结果，以及每一测试样本与每一训练样本的汉明距离分布得到。


2.根据权利要求1所述的提高检测模型鲁棒性的可知性判断方法，其特征在于，所述获取待验证对象的特征向量之前，还包括：
获取多个已知结果的测试样本，得到测试集；
将测试集的每一样本，输入训练后的卷积神经网络模型，获取测试集的测试结果；
获取每一判对样本与所有训练集样本汉明距离的最小值，得到判对样本汉明距离分布，获取每一判错样本与所有训练集样本汉明距离的最小值，得到判错样本汉明距离分布；
根据判对样本汉明距离分布和判错样本汉明距离分布，确定预设的汉明距离阈值。


3.根据权利要求2所述的提高检测模型鲁棒性的可知性判断方法，其特征在于，所述根据判对样本汉明距离分布和判错样本汉明距离分布，确定预设的汉明距离阈值，包括：
根据判对样本汉明距离分布和预设的第一比例阈值，确定第一汉明距离，以使得判对样本中，小于第一汉明距离的样本占总判对样本的比例，大于第一比例阈值；
根据判错样本汉明距离分布和预设的第二比例阈值，确定第二汉明距离，以使得判错样本中，大于第二汉明距离的样本占总判错样本的比例，大于第二比例阈值；
根据第一汉明距离和/或第二汉明距离，确定汉明距离阈值。


4.根据权利要求1所述的提高检测模型鲁棒性的可知性判断方法，其特征在于，所述方法还包括：
若不可知的待验证对象超过预设数量，则对所述卷积神经网络模型进行训练更新。


5.根据权利要求1所述的提高检测模型鲁...

【专利技术属性】
技术研发人员：张文博，孙志敏，朱鼎成，党伟，胡冰城，杨松，雷凯，程艳，邓晏宁，席丽霞，张虎，
申请(专利权)人：北京邮电大学，华为技术有限公司，
类型：发明
国别省市：北京;11