异常点检测模型验证方法、装置、计算机设备及存储介质制造方法及图纸

技术编号:21400117 阅读:25 留言:0更新日期:2019-06-19 07:18
本发明专利技术公开了异常点检测模型验证方法、装置、计算机设备及存储介质。该方法包括:根据预设的当前异常点比例及待分类样本构建孤立森林模型;将待分类样本根据孤立森林模型及当前异常点比例进行分类得到分类结果;根据预先设置的数据属性分类策略,将分类结果进行分类,得到属性分类结果;获取属性分类结果中每一属性分类结果;若每一属性分类结果中第一属性平均值均小于第二属性平均值,将孤立森林模型增加一个合理模型标签。该方法采用智能决策实现了对孤立森林模型的分类合理性自动进行快速而准确的判断,避免了因人工判断而导致的效率低下和高成本。

【技术实现步骤摘要】
异常点检测模型验证方法、装置、计算机设备及存储介质
本专利技术涉及智能决策
,尤其涉及一种异常点检测模型验证方法、装置、计算机设备及存储介质。
技术介绍
异常值分析是检验数据是否有录入错误以及含有不合常理的数据的过程,忽视异常值的存在是十分不利的,不加剔除地把异常值包括进数据的计算分析过程中,对结果会产生不良影响。异常值分析常用的是无监督异常检测模型,而对于无监督异常检测模型的输出结果,往往需要从现实中判断该模型分类的合理性。现有最常用的方法是专家法,即请教相关的专家以其业务知识,判断模型分类是否合理,这就导致判断成本高,而且效率低下。
技术实现思路
本专利技术实施例提供了一种异常点检测模型验证方法、装置、计算机设备及存储介质,旨在解决现有技术中对于无监督异常检测模型的输出结果通过相关的专家以其业务知识,判断模型分类是否合理,这就导致判断成本高,而且效率低下的问题。第一方面,本专利技术实施例提供了一种异常点检测模型验证方法,其包括:接收待分类样本,根据预设的当前异常点比例及所述待分类样本构建用于异常点检测的孤立森林模型;将所述待分类样本根据所述孤立森林模型及所述当前异常点比例进行分类,得到分类结果;其中,所述分类结果包括正常数据点和异常数据点;根据预先设置的数据属性分类策略,将所述分类结果进行分类,得到属性分类结果;获取所述属性分类结果中所包括的每一属性分类结果,判断每一属性分类结果中正常点数据对应选定属性的第一属性平均值是否均小于异常点数据对应选定属性的第二属性平均值;以及若每一属性分类结果中所述第一属性平均值均小于所述第二属性平均值,将所述孤立森林模型增加一个合理模型标签。第二方面,本专利技术实施例提供了一种异常点检测模型验证装置,其包括:初始构建单元,用于接收待分类样本,根据预设的当前异常点比例及所述待分类样本构建用于异常点检测的孤立森林模型;数据点分类单元,用于将所述待分类样本根据所述孤立森林模型及所述当前异常点比例进行分类,得到分类结果;其中,所述分类结果包括正常数据点和异常数据点;属性分类单元,用于根据预先设置的数据属性分类策略,将所述分类结果进行分类,得到属性分类结果;平均值比较单元,用于获取所述属性分类结果中所包括的每一属性分类结果,判断每一属性分类结果中正常点数据对应选定属性的第一属性平均值是否均小于异常点数据对应选定属性的第二属性平均值;以及第一标签设置单元,用于若每一属性分类结果中所述第一属性平均值均小于所述第二属性平均值,将所述孤立森林模型增加一个合理模型标签。第三方面,本专利技术实施例又提供了一种计算机设备,其包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述第一方面所述的异常点检测模型验证方法。第四方面,本专利技术实施例还提供了一种计算机可读存储介质,其中所述计算机可读存储介质存储有计算机程序,所述计算机程序当被处理器执行时使所述处理器执行上述第一方面所述的异常点检测模型验证方法。本专利技术实施例提供了一种异常点检测模型验证方法、装置、计算机设备及存储介质。该方法包括接收待分类样本,根据预设的当前异常点比例及所述待分类样本构建用于异常点检测的孤立森林模型;将所述待分类样本根据所述孤立森林模型及所述当前异常点比例进行分类,得到分类结果;其中,所述分类结果包括正常数据点和异常数据点;根据预先设置的数据属性分类策略,将所述分类结果进行分类,得到属性分类结果;获取所述属性分类结果中所包括的每一属性分类结果,判断每一属性分类结果中正常点数据对应选定属性的第一属性平均值是否均小于异常点数据对应选定属性的第二属性平均值;以及若每一属性分类结果中所述第一属性平均值均小于所述第二属性平均值,将所述孤立森林模型增加一个合理模型标签。该方法实现了对孤立森林模型的分类合理性自动进行快速而准确的判断,避免了因人工判断而导致的效率低下和高成本。附图说明为了更清楚地说明本专利技术实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本专利技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。图1为本专利技术实施例提供的异常点检测模型验证方法的流程示意图;图2为本专利技术实施例提供的异常点检测模型验证方法的子流程示意图;图3为本专利技术实施例提供的异常点检测模型验证方法的另一子流程示意图;图4为本专利技术实施例提供的异常点检测模型验证方法的另一流程示意图;图5为本专利技术实施例提供的异常点检测模型验证装置的示意性框图;图6为本专利技术实施例提供的异常点检测模型验证装置的子单元示意性框图;图7为本专利技术实施例提供的异常点检测模型验证装置的另一子单元示意性框图;图8为本专利技术实施例提供的异常点检测模型验证装置的另一示意性框图;图9为本专利技术实施例提供的计算机设备的示意性框图。具体实施方式下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本专利技术一部分实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本专利技术保护的范围。应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。还应当理解,在此本专利技术说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本专利技术。如在本专利技术说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。还应当进一步理解,在本专利技术说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。请参阅图1,图1为本专利技术实施例提供的异常点检测模型验证方法的流程示意图,该异常点检测模型验证方法应用于服务器中,该方法通过安装于服务器中的应用软件进行执行。如图1所示,该方法包括步骤S110~S150。S110、接收待分类样本,根据预设的当前异常点比例及所述待分类样本构建用于异常点检测的孤立森林模型。在本实施例中,例如,服务器接收了上传端所上传的待分类样本后,也同时获取所设置初始的当前异常点比例为0.5(如将初始的当前异常点比例记为m0),表示所期望的孤立森林模型的分类结果中正常点样本和异常点样本比例为1:1。由于假设正常点数量比异常点多,因此此时异常点类别中含有大量的错分正常点。当异常点比例减少的时候,异常点类别中的正常点会被剔除。孤立森林算法,即iForest算法,用于挖掘异常数据,或者是离群点挖掘,能在在海量数据中,检索出与其它数据的规律不太符合的数据。例如,通常用于网络安全中的攻击检测和流量异常等分析,金融机构则用于挖掘出欺诈行为。在一实施例中,如图2所示,步骤S110包括:S111、从所述待分类样本中随机获取数据属性,及由数据属性和当前异常点比例所确定的分裂值;S112、根据所述数据属性及所述分裂值将所述待分类样本进行划分,得到多个孤立树,由多个孤立树组合得到用于异常点检测的孤立森林模本文档来自技高网...

【技术保护点】
1.一种异常点检测模型验证方法,其特征在于,包括:接收待分类样本,根据预设的当前异常点比例及所述待分类样本构建用于异常点检测的孤立森林模型;将所述待分类样本根据所述孤立森林模型及所述当前异常点比例进行分类,得到分类结果;其中,所述分类结果包括正常数据点和异常数据点;根据预先设置的数据属性分类策略,将所述分类结果进行分类,得到属性分类结果;获取所述属性分类结果中所包括的每一属性分类结果,判断每一属性分类结果中正常点数据对应选定属性的第一属性平均值是否均小于异常点数据对应选定属性的第二属性平均值;以及若每一属性分类结果中所述第一属性平均值均小于所述第二属性平均值,将所述孤立森林模型增加一个合理模型标签。

【技术特征摘要】
1.一种异常点检测模型验证方法,其特征在于,包括:接收待分类样本,根据预设的当前异常点比例及所述待分类样本构建用于异常点检测的孤立森林模型;将所述待分类样本根据所述孤立森林模型及所述当前异常点比例进行分类,得到分类结果;其中,所述分类结果包括正常数据点和异常数据点;根据预先设置的数据属性分类策略,将所述分类结果进行分类,得到属性分类结果;获取所述属性分类结果中所包括的每一属性分类结果,判断每一属性分类结果中正常点数据对应选定属性的第一属性平均值是否均小于异常点数据对应选定属性的第二属性平均值;以及若每一属性分类结果中所述第一属性平均值均小于所述第二属性平均值,将所述孤立森林模型增加一个合理模型标签。2.根据权利要求1所述的异常点检测模型验证方法,其特征在于,所述根据预先设置的数据属性分类策略,将所述分类结果进行分类,得到属性分类结果之前,还包括:获取所述分类结果中正常类别的正常点中心;获取所述分类结果中异常类别的每一数据点与所述正常点中心的平均欧式距离,以作为当前状态平均欧式距离;通过所述当前异常点比例减去预设的步长,以更新当前异常点比例;将所述待分类样本根据所述孤立森林模型及当前异常点比例进行分类,得到当前异常类别的数据点,获取当前异常类别的每一数据点与所述正常点中心的平均欧式距离以作为下一状态平均欧式距离;通过下一状态平均欧式距离与当前状态平均欧式距离之差除以所述步长,得到平均欧式距离变动幅度;若所述平均欧式距离变动幅度超出预设的变动幅度阈值,将当前异常点比例加上步长作为最优异常点比例,通过所述最优异常点比例以更新当前异常点比例;将所述待分类样本根据所述孤立森林模型及所述最优异常点比例进行分类,得到分类结果。3.根据权利要求1所述的异常点检测模型验证方法,其特征在于,所述根据预设的当前异常点比例及所述待分类样本构建用于异常点检测的孤立森林模型,包括:从所述待分类样本中随机获取数据属性,及由数据属性和当前异常点比例所确定的分裂值;根据所述数据属性及所述分裂值将所述待分类样本进行划分,得到多个孤立树,由多个孤立树组合得到用于异常点检测的孤立森林模型。4.根据权利要求1所述的异常点检测模型验证方法,其特征在于,所述根据预先设置的数据属性分类策略,将所述分类结果进行分类,得到属性分类结果,包括:根据所述数据属性分类策略判断每一正常数据点所属的分组,以得到正常类别属性分类结果;根据所述数据属性分类策略判断每一异常数据点所属的分组,以得到异常类别属性分类结果;由所述正常类别属性分类结果及所述异常类别属性分类结果组成所述属性分类结果。5.根据权利要求2所述的异常点检测模型验证方法,其特征在于,所述获取所述属性分类结果中所包括的每一属性分类结果,判断每一属性分类结果中正常点数据对应选定属性的第一属性平均值是否均小于异常点数据对应选定属性的第二属性平均值之后,还包括:若每一属性分类结果中所述第一属性平均值有大...

【专利技术属性】
技术研发人员:杨志鸿徐亮阮晓雯
申请(专利权)人:平安科技深圳有限公司
类型:发明
国别省市:广东,44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1