基于对象特征的网络风险检测方法、装置、设备及介质制造方法及图纸

本申请实施例公开了一种基于对象特征的网络风险检测方法、装置、设备及介质，属于计算机技术领域。该方法包括：接收携带对象信息的访问请求，对该对象信息进行特征提取得到特征向量，通过检测模型对该特征向量进行检测得到检测结果，在检测结果满足预设条件的情况下将对象确定为风险对象，实现了对网络风险的自动检测，无需人工进行分析，可以节省人力和时间，提高网络风险检测的准确性和效率。并且，通过检测模型对应的解释模型，对该特征向量进行处理得到解释向量，根据该解释向量可以得知特征向量中的哪些特征值导致该特征向量对应的对象被检测为风险对象，使检测结果便于理解，通过检测模型对应的解释模型实现了该检测模型的可解释性。

Network risk detection methods, devices, equipment and media based on object characteristics

【技术实现步骤摘要】
基于对象特征的网络风险检测方法、装置、设备及介质
本申请实施例涉及计算机
，特别涉及一种基于对象特征的网络风险检测方法、装置、设备及介质。
技术介绍
随着计算机技术的飞速发展，网络安全问题日益凸显，网络中存在可疑设备或者可疑IP（InternetProtocol，网际互连协议）地址等风险对象，这些风险对象经常进行恶意行为的现象，如风险对象对网站进行攻击、恶意刷票、恶意抢票、恶意访问、在网站上实施欺诈行为等。因此需要对网络上的风险对象进行检测，以便保护网络安全。相关技术中，当接收到访问请求时，获取发起该访问请求的对象对应的对象信息，人工对对象信息进行分析，来判断该对象是否为风险对象。但是，该方法仅通过人工对对象信息进行分析，难以保证对风险对象进行检测的准确性，耗费人力和时间。
技术实现思路
本申请实施例提供了一种基于对象特征的网络风险检测方法、装置、设备及介质，可以提高风险对象检测的效率和准确性。所述技术方案如下：一方面，提供了一种基于对象特征的网络风险检测方法，所述方法包括：接收访问请求，所述访问请求携带对象信息，所述对象信息用于指示发起所述访问请求的对象；对所述对象信息进行特征提取，得到所述对象对应的特征向量；通过检测模型对所述特征向量进行检测，得到所述特征向量对应的检测结果；在所述检测结果满足预设条件的情况下，将所述对象确定为风险对象；通过所述检测模型对应的解释模型，对所述特征向量进行处理，得到所述特征向量的解释向量，所述特征向量包括多个维度的特征值，所述解释向量包括所述多个维度的特征值的权重，所述权重用于表示所述特征向量中对应的特征值对所述检测结果的影响程度。可选地，所述检测结果包括第一数值和第二数值，所述第一数值表示所述对象是风险对象的概率，所述第二数值表示所述对象不是风险对象的概率；所述在所述检测结果满足预设条件的情况下，将所述对象确定为风险对象，包括：在所述第一数值大于所述第二数值的情况下，将所述对象确定为风险对象。可选地，所述检测结果包括第一数值，所述第一数值表示所述对象是风险对象的概率，所述在所述检测结果满足预设条件的情况下，将所述对象确定为风险对象，包括：在所述第一数值大于预设阈值的情况下，将所述对象确定为风险对象。一方面，提供了一种模型训练方法，所述方法包括：获取第一样本对象信息对应的第一样本特征向量；通过检测模型对所述第一样本特征向量进行检测，得到所述第一样本特征向量对应的第一目标检测结果；对所述第一样本特征向量进行扰动处理，得到所述第一样本特征向量对应的多个扰动特征向量；通过所述检测模型，分别对每个扰动特征向量进行检测，得到所述每个扰动特征向量对应的第二目标检测结果；根据所述第一样本特征向量、所述多个扰动特征向量、所述第一目标检测结果和多个第二目标检测结果，训练解释模型。另一方面，提供了一种基于对象特征的网络风险检测装置，所述装置包括：请求接收模块，用于接收访问请求，所述访问请求携带对象信息，所述对象信息用于指示发起所述访问请求的对象；特征提取模块，用于对所述对象信息进行特征提取，得到所述对象对应的特征向量；检测模块，用于通过检测模型对所述特征向量进行检测，得到所述特征向量对应的检测结果；确定模块，用于在所述检测结果满足预设条件的情况下，将所述对象确定为风险对象；解释模块，用于通过所述检测模型对应的解释模型，对所述特征向量进行处理，得到所述特征向量的解释向量，所述特征向量包括多个维度的特征值，所述解释向量包括所述多个维度的特征值的权重，所述权重用于表示所述特征向量中对应的特征值对所述检测结果的影响程度。可选地，所述装置还包括：获取模块，用于获取第一样本对象信息对应的第一样本特征向量；所述检测模块，还用于通过所述检测模型对所述第一样本特征向量进行检测，得到所述第一样本特征向量对应的第一目标检测结果；扰动处理模块，用于对所述第一样本特征向量进行扰动处理，得到所述第一样本特征向量对应的多个扰动特征向量；所述检测模块，还用于通过所述检测模型，分别对每个扰动特征向量进行检测，得到所述每个扰动特征向量对应的第二目标检测结果；第一训练模块，用于根据所述第一样本特征向量、所述多个扰动特征向量、所述第一目标检测结果和多个第二目标检测结果，训练所述解释模型。可选地，所述第一训练模块，包括：距离获取单元，用于分别获取所述每个扰动特征向量与所述第一样本特征向量之间的距离；调整单元，用于根据所述每个扰动特征向量与所述第一样本特征向量之间的距离，分别对所述每个扰动特征向量对应的第二目标检测结果进行调整，得到所述每个扰动特征向量对应的第三目标检测结果；训练单元，用于根据所述第一目标检测结果与多个第三目标检测结果之间的差异，训练所述解释模型。可选地，所述装置还包括：所述解释模块，还用于通过训练后的所述解释模型，对所述第一样本特征向量进行处理，得到所述第一样本特征向量对应的样本解释向量，所述第一样本特征向量包括多个维度的特征值，所述样本解释向量包括所述多个维度的特征值的权重，所述权重用于表示所述第一样本特征向量中对应的特征值，对所述第一样本特征向量对应的第一样本检测结果的影响程度；调整模块，用于根据所述样本解释向量中的多个权重，对所述第一样本特征向量中的多个特征值进行调整，得到调整后的第二样本特征向量；第二训练模块，用于根据所述第二样本特征向量和所述第一样本检测结果，继续训练所述检测模型。可选地，所述装置还包括：所述获取模块，还用于获取第二样本对象信息对应的第三样本特征向量和第二样本检测结果；所述检测模块，还用于通过所述检测模型，对所述第三样本特征向量进行检测，得到所述第二样本对象信息对应的第四目标检测结果；第三训练模块，用于根据所述第二样本检测结果和所述第四目标检测结果之间的误差，对所述检测模型进行训练，以使通过训练后的检测模型检测后得到的检测结果的误差减小。可选地，所述对象信息包括对象标识，所述特征提取模块，包括：选取单元，用于若接收到多个访问请求，根据所述多个访问请求携带的对象信息中的对象标识，选取包括目标对象标识的至少一条对象信息，所述目标对象标识为任一对象标识；特征提取单元，用于对所述至少一条对象信息进行特征提取，得到所述目标对象标识对应的特征向量。可选地，所述选取单元，还用于：若接收到多个访问请求，将所述多个访问请求携带的对象信息进行分组，得到多组对象信息集合，每组对象信息集合中的至少一条对象信息包括相同的对象标识；从所述多组对象信息集合中，确定所述目标对象标识对应的目标对象信息集合，选取所述目标对象信息集合中的至少一条对象信息。可选地，所述装置还包括：解析处理模块，用于对所述访问请求进行解析处理，得到所述访问请求中携带本文档来自技高网...

【技术保护点】
1.一种基于对象特征的网络风险检测方法，其特征在于，所述方法包括：/n接收访问请求，所述访问请求携带对象信息，所述对象信息用于指示发起所述访问请求的对象；/n对所述对象信息进行特征提取，得到所述对象对应的特征向量；/n通过检测模型对所述特征向量进行检测，得到所述特征向量对应的检测结果；/n在所述检测结果满足预设条件的情况下，将所述对象确定为风险对象；/n通过所述检测模型对应的解释模型，对所述特征向量进行处理，得到所述特征向量的解释向量，所述特征向量包括多个维度的特征值，所述解释向量包括所述多个维度的特征值的权重，所述权重用于表示所述特征向量中对应的特征值对所述检测结果的影响程度。/n

【技术特征摘要】
1.一种基于对象特征的网络风险检测方法，其特征在于，所述方法包括：
接收访问请求，所述访问请求携带对象信息，所述对象信息用于指示发起所述访问请求的对象；
对所述对象信息进行特征提取，得到所述对象对应的特征向量；
通过检测模型对所述特征向量进行检测，得到所述特征向量对应的检测结果；
在所述检测结果满足预设条件的情况下，将所述对象确定为风险对象；
通过所述检测模型对应的解释模型，对所述特征向量进行处理，得到所述特征向量的解释向量，所述特征向量包括多个维度的特征值，所述解释向量包括所述多个维度的特征值的权重，所述权重用于表示所述特征向量中对应的特征值对所述检测结果的影响程度。


2.根据权利要求1所述的方法，其特征在于，所述通过所述检测模型对应的解释模型，对所述特征向量进行处理，得到所述特征向量的解释向量之前，所述方法还包括：
获取第一样本对象信息对应的第一样本特征向量；
通过所述检测模型对所述第一样本特征向量进行检测，得到所述第一样本特征向量对应的第一目标检测结果；
对所述第一样本特征向量进行扰动处理，得到所述第一样本特征向量对应的多个扰动特征向量；
通过所述检测模型，分别对每个扰动特征向量进行检测，得到所述每个扰动特征向量对应的第二目标检测结果；
根据所述第一样本特征向量、所述多个扰动特征向量、所述第一目标检测结果和多个第二目标检测结果，训练所述解释模型。


3.根据权利要求2所述的方法，其特征在于，所述根据所述第一样本特征向量、所述多个扰动特征向量、所述第一目标检测结果和多个第二目标检测结果，训练所述解释模型，包括：
分别获取所述每个扰动特征向量与所述第一样本特征向量之间的距离；
根据所述每个扰动特征向量与所述第一样本特征向量之间的距离，分别对所述每个扰动特征向量对应的第二目标检测结果进行调整，得到所述每个扰动特征向量对应的第三目标检测结果；
根据所述第一目标检测结果与多个第三目标检测结果之间的差异，训练所述解释模型。


4.根据权利要求2所述的方法，其特征在于，所述根据所述第一样本特征向量、所述多个扰动特征向量、所述第一目标检测结果和多个第二目标检测结果，训练所述解释模型之后，所述方法还包括：
通过训练后的所述解释模型，对所述第一样本特征向量进行处理，得到所述第一样本特征向量对应的样本解释向量，所述第一样本特征向量包括多个维度的特征值，所述样本解释向量包括所述多个维度的特征值的权重，所述权重用于表示所述第一样本特征向量中对应的特征值，对所述第一样本特征向量对应的第一样本检测结果的影响程度；
根据所述样本解释向量中的多个权重，对所述第一样本特征向量中的多个特征值进行调整，得到调整后的第二样本特征向量；
根据所述第二样本特征向量和所述第一样本检测结果，继续训练所述检测模型。


5.根据权利要求2所述的方法，其特征在于，所述通过检测模型对所述特征向量进行检测，得到所述特征向量对应的检测结果之前，所述方法还包括：
获取第二样本对象信息对应的第三样本特征向量和第二样本检测结果；
通过所述检测模型，对所述第三样本特征向量进行检测，得到所述第二样本对象信息对应的第四目标检测结果；
根据所述第二样本检测结果和所述第四目标检测结果之间的误差，对所述检测模型进行训练，以使通过训练后的检测模型检测后得到的检测结果的误差减小。


6.根据权利要求1所述的方法，其特征在于，所述对象信息包括对象标识，所述对所述对象信息进行特征提取，得到所述对象对应的特征向量，包括：
若接收到多个访问请求，根据所述多个访问请求携带的对象信息中的对象标识，选取包括目标对象标识的至少一条对象信息，所述目标对象标识为任一对象标识；
对所述至少一条对象信息进行特征提取，得到所述目标对象标识对应的特征向量。


7.根据权利要求6所述的方法，其特征在于，所述若接收到多个访问请求，根据所述多个访问请求携带的对象信息中的对象标识，选取包括目标对象标识的至少一条对象信息，包括：
若接收到多个访问请求，将所述多个访问请求携带的对象信息进行分组，得到多组对象信息集合，每组对象信息集合中的至少一条对象信息包括相同的对象标识；
从所述多组对象信息集合中，...

【专利技术属性】
技术研发人员：周菲，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：广东;44