一种违规检测方法、装置、电子设备及存储介质制造方法及图纸

本发明专利技术的实施例提供了一种违规检测方法、装置、电子设备及存储介质，涉及数据处理领域，方法包括：获取待检测对象，获取不同类型的原子引擎集合，基于不同类型的原子引擎集合中的每个原子引擎对待检测对象进行检测，得到待检测对象的至少一个违规分数，获取最大的违规分数，作为该原子引擎检测待检测对象的第一检测分数，从各第一检测分数中，获取最大的第一检测分数，作为不同类型的原子引擎集合对待检测对象检测的第二检测分数，从各第二检测分数中，获取最大的第二检测分数，作为待检测对象的目标分数，将目标分数对应的违规标签和违规位置，作为待检测对象的违规信息。能够提高检测准确性。测准确性。测准确性。

【技术实现步骤摘要】
一种违规检测方法、装置、电子设备及存储介质


[0001]本专利技术涉及数据处理
，具体而言，涉及一种违规检测方法、装置、电子设备及存储介质。

技术介绍

[0002]现有技术中，检测目标是否违规时，通常针对单个业务独有的检测模型，将原始目标对象输入到检测模型，得出当前业务的检测结果。比如谩骂检测模型，对原始目标进行检测最后得出是否涉及谩骂违规。
[0003]现有的检测方式检测类型比较单一，漏报情况比较明显。

技术实现思路

[0004]本专利技术的目的在于提供一种违规检测方法、装置、电子设备及存储介质，能够提高检测准确度。
[0005]为了实现上述目的，本申请实施例采用的技术方案如下：
[0006]第一方面，本申请实施例提供了一种违规检测方法，所述方法包括：
[0007]获取待检测对象；
[0008]获取不同类型的原子引擎集合，其中，不同类型的原子引擎集合中包含至少一个原子引擎；
[0009]基于每个类型的原子引擎集合中的每个原子引擎，对所述待检测对象进行检测，得到所述待检测对象的至少一个违规分数，其中，违规分数对应违规类型、违规标签以及违规位置；
[0010]从各违规分数中，获取最大的违规分数，作为各所述原子引擎对所述待检测对象检测的第一检测分数；
[0011]从各第一检测分数中，获取最大的第一检测分数，作为不同类型的原子引擎集合对所述待检测对象检测的第二检测分数；
[0012]从各第二检测分数中，获取最大的第二检测分数，作为所述待检测对象的目标分数；
[0013]将所述目标分数对应的违规类型、违规标签以及违规位置，作为所述待检测对象的违规信息。
[0014]在可选的实施方式中，所述基于每个类型的原子引擎集合中的每个原子引擎，对所述待检测对象进行检测，得到所述待检测对象的至少一个违规分数的步骤，包括：
[0015]基于每个类型的原子引擎集合中的每个原子引擎，对所述待检测对象进行检测，得到所述待检测对象的至少一组检测信息；
[0016]确定该原子引擎的第一权重信息；
[0017]基于各组所述检测信息和该原子引擎的第一权重信息，确定各组检测信息对应的违规分数，作为所述待检测对象的违规分数。
[0018]在可选的实施方式中，所述基于各组所述检测信息和该原子引擎的权重，确定各组检测信息对应的违规分数，作为所述待检测对象的违规分数的步骤，包括：
[0019]确定各组检测信息中违规标签的第二权重信息，其中，所述检测信息包括违规标签、违规位置以及第一违规分数；
[0020]针对各组检测信息，基于所述第一权重信息、第二权重信息以及第一违规分数，确定该组检测信息对应的违规分数，作为所述待检测对象的违规分数。
[0021]在可选的实施方式中，所述针对各组检测信息，基于所述第一权重信息、第二权重信息以及第一违规分数，确定该组检测信息对应的违规分数，作为所述待检测对象的违规分数的步骤，包括：
[0022]针对各组检测信息，计算所述第一权重信息、第二权重信息以及第一违规分数的乘积，作为所述待检测对象的违规分数。
[0023]在可选的实施方式中，所述从各第二检测分数中，获取最大的第二检测分数，作为所述待检测对象的目标分数的步骤，包括：
[0024]在最大的第二检测分数包含至少两个的情况下，确定各个最大的第二检测分数对应的原子引擎集合的优先级；
[0025]获取最高优先级对应的最大的第二检测分数，作为所述待检测对象的目标分数。
[0026]在可选的实施方式中，所述方法还包括：
[0027]确定所述待检测对象的业务；
[0028]所述获取不同类型的原子引擎集合的步骤，包括：
[0029]确定与所述业务对应的不同类型的原子引擎集合。
[0030]第二方面，本申请实施例提供了一种违规检测装置，所述装置包括：获取模块、检测模块以及确定模块；
[0031]所述获取模块，用于获取待检测对象；
[0032]获取不同类型的原子引擎集合，其中，不同类型的原子引擎集合中包含至少一个原子引擎；
[0033]所述检测模块，用于基于每个类型的原子引擎集合中的每个原子引擎，对所述待检测对象进行检测，得到所述待检测对象的至少一个违规分数，其中，违规分数对应违规类型、违规标签以及违规位置；
[0034]所述确定模块，用于从各违规分数中，获取最大的违规分数，作为各所述原子引擎对所述待检测对象检测的第一检测分数；
[0035]从各第一检测分数中，获取最大的第一检测分数，作为不同类型的原子引擎集合对所述待检测对象检测的第二检测分数；
[0036]从各第二检测分数中，获取最大的第二检测分数，作为所述待检测对象的目标分数；
[0037]将所述目标分数对应的违规类型、违规标签以及违规位置，作为所述待检测对象的违规信息。
[0038]第三方面，本申请实施例提供了一种电子设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现所述违规检测方法的步骤。
[0039]第四方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程
序，该计算机程序被处理器执行时实现所述违规检测方法的步骤。
[0040]本申请具有以下有益效果：
[0041]本申请通过获取待检测对象，获取不同类型的原子引擎集合，基于不同类型的原子引擎集合中的每个原子引擎对待检测对象进行检测，可以实现对不同维度对待检测对象的违规信息进行检测，得到待检测对象的至少一个违规分数，每个原子引擎会检测待检测在该类型下的违规场景，得到该类型下不同场景的违规分数，从不同场景的各违规分数中，获取最大的违规分数，作为该原子引擎检测待检测对象的第一检测分数，由于不同类型的原子引擎集合包含多个原子引擎，需要确定该类型下最终检测得到分数，即从各第一检测分数中，获取最大的第一检测分数，作为不同类型的原子引擎集合对待检测对象检测的第二检测分数，从各第二检测分数中，获取最大的第二检测分数，作为待检测对象的目标分数，将目标分数对应的违规标签和违规位置，作为待检测对象的违规信息。基于本申请能够对复杂场景进行违规检测，提高对违规信息的检测准确性。
附图说明
[0042]为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本专利技术的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
[0043]图1为本专利技术实施例提供的电子设备的方框示意图；
[0044]图2为本专利技术实施例提供的一种违规检测方法的步骤流程图之一；
[0045]图3为本专利技术实施例提供的一种违规检测方法的步骤流程图之二；
[0046]图4为本专利技术实施例提供的一种违规检测方法的步骤流程图之三；...

【技术保护点】

【技术特征摘要】
1.一种违规检测方法，其特征在于，所述方法包括：获取待检测对象；获取不同类型的原子引擎集合，其中，不同类型的原子引擎集合中包含至少一个原子引擎；基于每个类型的原子引擎集合中的每个原子引擎，对所述待检测对象进行检测，得到所述待检测对象的至少一个违规分数，其中，违规分数对应违规类型、违规标签以及违规位置；从各违规分数中，获取最大的违规分数，作为各所述原子引擎对所述待检测对象检测的第一检测分数；从各第一检测分数中，获取最大的第一检测分数，作为不同类型的原子引擎集合对所述待检测对象检测的第二检测分数；从各第二检测分数中，获取最大的第二检测分数，作为所述待检测对象的目标分数；将所述目标分数对应的违规类型、违规标签以及违规位置，作为所述待检测对象的违规信息。2.根据权利要求1所述的方法，其特征在于，所述基于每个类型的原子引擎集合中的每个原子引擎，对所述待检测对象进行检测，得到所述待检测对象的至少一个违规分数的步骤，包括：基于每个类型的原子引擎集合中的每个原子引擎，对所述待检测对象进行检测，得到所述待检测对象的至少一组检测信息；确定该原子引擎的第一权重信息；基于各组所述检测信息和该原子引擎的第一权重信息，确定各组检测信息对应的违规分数，作为所述待检测对象的违规分数。3.根据权利要求2所述的方法，其特征在于，所述基于各组所述检测信息和该原子引擎的权重，确定各组检测信息对应的违规分数，作为所述待检测对象的违规分数的步骤，包括：确定各组检测信息中违规标签的第二权重信息，其中，所述检测信息包括违规标签、违规位置以及第一违规分数；针对各组检测信息，基于所述第一权重信息、第二权重信息以及第一违规分数，确定该组检测信息对应的违规分数，作为所述待检测对象的违规分数。4.根据权利要求3所述的方法，其特征在于，所述针对各组检测信息，基于所述第一权重信息、第二权重信息以及第一违规分数，确定该组检测信息对应的违规分数，作为所述待检测对象的违规分数的步骤，包括：针对各组检测信息，计算所述第一权重信息、第二权重信息以及第一违规分数的乘积，作为所述待检测对象的违规分数。5.根据权利要求1所述的方法，其特征在于，所述从各第二检...

【专利技术属性】
技术研发人员：邹玉玺，赵伟，杨冀龙，
申请(专利权)人：北京知道创宇信息技术股份有限公司，
类型：发明
国别省市：