风险识别方法技术

本发明专利技术实施例提供一种风险识别方法

【技术实现步骤摘要】
风险识别方法、系统、装置、设备和存储介质


[0001]本专利技术涉及人工智能
，尤其涉及一种风险识别方法
、
系统
、
装置
、
设备和存储介质
。

技术介绍

[0002]即时通信
(Instant Messaging
，简称
IM)
工具是一种在用户之间传递即时消息的应用程序，是最流行的互联网通讯工具之一
。
在实际中，用户使用
IM
工具与他人聊天时产生的对话文本中可能包括与违规风险相关的信息，比如不合规的收费信息
、
虚假信息以及欺诈信息等等
。
因此，如何提高对话文本风险识别的准确性就成为一个亟待解决的技术问题
。

技术实现思路

[0003]有鉴于此，本专利技术实施例提供一种风险识别方法
、
系统
、
装置
、
设备和存储介质，用以提高对话文本风险识别的准确性
。
[0004]第一方面，本专利技术实施例提供一种风险识别方法，包括：
[0005]确定潜在风险文本在对话文本中的目标位置；
[0006]以所述目标位置为起点，从所述对话文本中截取预设长度的目标文本，所述目标文本中的其他对话文本在所述潜在风险文本之前产生；
[0007]将包含所述潜在风险文本的所述目标文本以及风险识别文本作为提示信息，输入生成式模型中，以由所述生成式模型确定所述潜在风险文本是否存在风险
。
[0008]第二方面，本专利技术实施例提供一种风险识别系统，包括：客户端和部署有生成式模型的服务端；
[0009]所述客户端，用于确定潜在风险文本在对话文本中的目标位置；
[0010]以所述目标位置为起点，从所述对话文本中截取预设长度的目标文本，所述目标文本中的其他对话文本在所述潜在风险文本之前产生；发送所述目标文本至所述服务端；
[0011]所述服务端，用于将包含所述潜在风险文本的所述目标文本以及风险识别文本作为提示信息，输入所述生成式模型中，以由所述生成式模型确定所述潜在风险文本是否存在风险
。
[0012]第三方面，本专利技术实施例提供一种风险识别系统，包括：客户端和部署有生成式模型的服务端；
[0013]所述客户端，用于发送用户输入的潜在风险文本；
[0014]所述服务端，用于接收所述的潜在风险文本，以由所述潜在风险文本和在所述潜在风险文本之前产生的对话文本构成对话文本；
[0015]确定潜在风险文本在对话文本中的目标位置；
[0016]以所述目标位置为起点，从所述对话文本中截取预设长度的目标文本，所述目标文本中的其他对话文本在所述潜在风险文本之前产生；
[0017]将包含所述潜在风险文本的所述目标文本以及风险识别文本作为提示信息，输入
所述生成式模型中，以由所述生成式模型确定所述潜在风险文本是否存在风险
。
[0018]第四方面，本专利技术实施例提供一种风险识别装置，包括：
[0019]位置确定模块，用于确定潜在风险文本在对话文本中的目标位置；
[0020]目标文本确定模块，用于以所述目标位置为起点，从所述对话文本中截取预设长度的目标文本，所述目标文本中的其他对话文本在所述潜在风险文本之前产生；
[0021]风险确定模块，用于将包含所述潜在风险文本的所述目标文本以及风险识别文本作为提示信息，输入生成式模型中，以由所述生成式模型确定所述潜在风险文本是否存在风险
。
[0022]第五方面，本专利技术实施例提供一种电子设备，包括处理器和存储器，所述存储器用于存储一条或多条计算机指令，其中，所述一条或多条计算机指令被所述处理器执行时实现上述第一方面中的风险识别方法
。
该电子设备还可以包括通信接口，用于与其他设备或通信系统通信
。
[0023]第六方面，本专利技术实施例提供了一种非暂时性机器可读存储介质，所述非暂时性机器可读存储介质上存储有可执行代码，当所述可执行代码被电子设备的处理器执行时，使所述处理器至少可以实现如上述第一方面中的风险识别方法
。
[0024]本专利技术实施例提供的风险识别方法中，风险识别装置在获取到对话文本后，可以先确定对话文本中是否存在潜在风险文本，若存在，则进一步确定潜在风险文本在对话文本中的目标位置
。
然后，以该目标位置为起点，从对话文本中截取预设长度的目标文本
。
其中，目标文本中的其他对话文本在潜在风险文本之前产生
。
最终，将包含潜在风险文本的目标文本以及风险识别文本作为提示信息，输入生成式模型中，以由生成式模型进一步确定潜在风险文本是否存在风险
。
[0025]可见，上述方法中，风险识别装置是对潜在风险文本即有可能存在风险的文本进行进一步风险识别
。
并且在识别过程中，基于潜在风险文本所处的目标位置，该装置还能够进一步提取出潜在风险文本的上文
。
则生成式模型可以借助潜在风险文本及其上文对潜在风险文本再次进行风险识别，也即是通过联系上文语境对潜在风险文本进行风险识别，以提高文本风险识别的准确性
。
附图说明
[0026]为了更清楚地说明本专利技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图
。
[0027]图1为本专利技术实施例提供的一种风险识别方法的流程图；
[0028]图2为本专利技术实施例提供的另一种风险识别方法的流程图；
[0029]图3为本专利技术实施例提供的又一种风险识别方法的流程图；
[0030]图4为本专利技术实施例提供的一种模型训练方法的流程图；
[0031]图5为本专利技术实施例提供的一种风险识别系统的结构示意图；
[0032]图6为本专利技术实施例提供的一种企业招聘场景下的风险识别过程的示意图；
[0033]图7为本专利技术实施例提供的一种风险识别装置的结构示意图；
[0034]图8为与图7所示实施例提供的风险识别装置对应的电子设备的结构示意图
。
具体实施方式
[0035]为使本专利技术实施例的目的
、
技术方案和优点更加清楚，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚
、
完整地描述，显然，所描述的实施例是本专利技术一部分实施例，而不是全部的实施例
。
基于本专利技术中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围
。
[0036]在本专利技术实施例中使用的术语是仅仅出于描述特定实施例的目的，而非本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种风险识别方法，其特征在于，包括：确定潜在风险文本在对话文本中的目标位置；以所述目标位置为起点，从所述对话文本中截取预设长度的目标文本，所述目标文本中的其他对话文本在所述潜在风险文本之前产生；将包含所述潜在风险文本的所述目标文本以及风险识别文本作为提示信息，输入生成式模型中，以由所述生成式模型确定所述潜在风险文本是否存在风险
。2.
根据权利要求1所述的方法，其特征在于，所述确定潜在风险文本在对话文本中的目标位置，包括：分别对所述对话文本中各条文本进行特征提取；根据所述各条文本各自的特征向量，确定所述对话文本中是否存在潜在风险文本；若存在所述潜在风险文本，则确定所述潜在风险文本的所述目标位置
。3.
根据权利要求1所述的方法，其特征在于，所述确定潜在风险文本在对话文本中的目标位置，包括：将所述对话文本输入第一模型，以由所述第一模型根据所述对话文本中各条文本各自的特征向量，输出所述潜在风险文本的所述目标位置
。4.
根据权利要求1所述的方法，其特征在于，所述以所述目标位置为起点，从所述对话文本中截取预设长度的目标文本，包括：按照对话主题将所述对话文本划分为至少一个对话段；以所述目标位置为起点，按照预设长度从所述潜在风险文本所属的目标对话段中截取所述目标文本
。5.
根据权利要求4所述的方法，其特征在于，所述方法还包括：若所述目标对话段的长度小于所述预设长度，则将所述目标对话段确定为所述目标文本
。6.
根据权利要求1所述的方法，其特征在于，所述以所述目标位置为起点，从所述对话文本中截取预设长度的目标文本，包括：将所述对话文本
、
所述目标位置以及所述预设长度输入第二模型，以由所述第二模型将所述对话文本划分为至少一个对话段，并输出以所述目标位置为起点，按照所述预设长度从所述潜在风险文本所属的目标对话段中截取出的所述目标文本
。7.
根据权利要求6所述的方法，其特征在于，所述方法还包括：获取训练对话文本
、
风险文本在所述训练对话文本中训练位置，以及所述训练对话文本中包含所述风险文本的参考文本；将所述训练对话文本
、
所述训练位置以及预设长度输入所述第二模型，以由所述第二模型输出以所述训练位置为起点，按照所述预设...

【专利技术属性】
技术研发人员：彭飞，
申请(专利权)人：北京五八信息技术有限公司，
类型：发明
国别省市：