【技术实现步骤摘要】
本说明书涉及计算机，尤其涉及一种风险识别方法、装置、存储介质及电子设备。
技术介绍
1、如今，随着人工智能(artificial intelligence，ai)技术的快速发展，基于ai进行的内容创作已经逐渐开始应用在各个领域中。但目前，ai创作技术仍还尚不完善，仍存在很多不足之处。
2、以风控领域为例，在借助ai分析用户是否存在风险时，常见的方法为将用户的数据输入到基于ai构建的大语言模型中，随后向大语言模型提问，使大语言模型回答对用户的风险描述。在上述过程中，由于大语言模型作为生成式模型在输出内容时具有较强的随机性，即使输入相同的数据与问题，其每次输出的内容都可能存在很大的差别，因此目前，很难保证ai生成出的内容真实可靠且逻辑可控。而在实际应用时，生成内容的不确定很可能会导致判断错误、泄露业务数据以及用户隐私等情况的发生。
3、因此，如何保证ai生成的内容的逻辑可控是一个亟待解决的问题。
技术实现思路
1、本说明书提供一种风险识别方法、装置、存储介质及电子设备，以至少部分地解决现有技术存在的上述问题。
2、本说明书采用下述技术方案：
3、本说明书提供了一种风险识别方法，包括：
4、获取目标用户在目标业务下的业务数据，并确定对所述目标用户所需识别的目标风险类型；
5、根据所述目标风险类型，在预先设置的风险规则中，确定用于识别所述目标风险类型的风险规则，作为目标规则；
6、在所述业务数据中筛选与所述
7、根据所述目标风险类型、所述目标规则、所述可用数据构建提示信息；
8、将所述提示信息输入预先训练的生成式模型，得到所述生成式模型输出的对所述目标用户的风险描述。
9、可选地，根据所述目标风险类型，在预先设置的风险规则中，确定用于识别所述目标风险类型的风险规则，作为目标规则，具体包括：
10、将所述业务数据输入预先创建的图谱框架，得到所述目标用户的逻辑图谱；
11、在所述逻辑图谱中召回与所述目标风险类型匹配的风险路径，作为目标风险路径，所述风险路径由风险类型、得到所述风险类型的风险规则以及满足所述风险规则的业务数据构成；
12、将所述目标风险路径中包含的风险规则确定为目标规则；
13、在所述业务数据中筛选与所述目标规则匹配的数据，作为可用数据，具体包括：
14、将所述目标风险路径中包含的业务数据确定为可用数据。
15、可选地，预先创建图谱框架，具体包括：
16、根据从历史信息中得到的所述目标业务下的专家经验，确定所述目标业务中存在的各风险类型与得到所述各风险类型的风险规则；
17、以所述各风险类型为第一节点，得到所述各风险类型的风险规则为第二节点，数据框架为第三节点，构建图谱框架，其中，每个第二节点与一个第一节点和一个第三节点相连，作为一个风险路径。
18、可选地，确定对所述目标用户所需识别的目标风险类型，具体包括：
19、响应于接收到查询信息，确定所述查询信息中包含的目标风险类型；
20、在所述逻辑图谱中召回与所述目标风险类型匹配的风险路径，作为目标风险路径，具体包括：
21、在所述逻辑图谱中将包含所述目标风险类型的风险路径确定为候选风险路径；
22、分别提取所述查询信息的查询文本特征与各候选风险路径的路径文本特征；
23、针对每个候选风险路径，确定该候选风险路径的路径文本特征与所述查询文本特征之间的相似度；
24、将所述相似度不小于指定阈值的候选风险路径确定为目标风险路径。
25、可选地，根据所述目标风险类型、所述目标规则、所述可用数据构建提示信息，具体包括：
26、在所述目标规则与所述可用数据中提取与所述目标风险类型相关的关键词；
27、根据所述目标风险类型与所述关键词构建提示信息。
28、可选地，预先训练生成式模型，具体包括：
29、获取样本风控语料；
30、对所述样本风控语料进行掩码，得到带扰风控语料；
31、将所述带扰风控语料输入待训练的生成式模型，得到所述生成式模型输出的待优化语料；
32、根据所述待优化语料与所述样本风控语料之间的差异，对所述生成式模型进行训练。
33、可选地，所述方法还包括：
34、获取样本指令以及与所述样本指令对应的标注回答；
35、将所述样本指令输入所述生成式模型，得到所述生成式模型输出的待优化回答；
36、根据所述待优化回答与所述标注回答之间的差异，对所述生成式模型的参数进行调整。
37、本说明书提供了一种风险识别装置，包括：
38、获取模块，用于获取目标用户在目标业务下的业务数据，并确定对所述目标用户所需识别的目标风险类型；
39、确定模块，用于根据所述目标风险类型，在预先设置的风险规则中，确定用于识别所述目标风险类型的风险规则，作为目标规则；
40、匹配模块，用于在所述业务数据中筛选与所述目标规则匹配的数据，作为可用数据；
41、构建模块，用于根据所述目标风险类型、所述目标规则、所述可用数据构建提示信息；
42、输出模块，用于将所述提示信息输入预先训练的生成式模型，得到所述生成式模型输出的对所述目标用户的风险描述。
43、可选地，所述确定模块，具体用于将所述业务数据输入预先创建的图谱框架，得到所述目标用户的逻辑图谱；在所述逻辑图谱中召回与所述目标风险类型匹配的风险路径，作为目标风险路径，所述风险路径由风险类型、得到所述风险类型的风险规则以及满足所述风险规则的业务数据构成；将所述目标风险路径中包含的风险规则确定为目标规则；
44、所述匹配模块，具体用于将所述目标风险路径中包含的业务数据确定为可用数据。
45、可选地，所述装置还包括预设模块，具体用于根据从历史信息中得到的所述目标业务下的专家经验，确定所述目标业务中存在的各风险类型与得到所述各风险类型的风险规则；以所述各风险类型为第一节点，得到所述各风险类型的风险规则为第二节点，数据框架为第三节点，构建图谱框架，其中，每个第二节点与一个第一节点和一个第三节点相连，作为一个风险路径。
46、可选地，所述获取模块，具体用于响应于接收到查询信息，确定所述查询信息中包含的目标风险类型；
47、所述确定模块，具体用于在所述逻辑图谱中将包含所述目标风险类型的风险路径确定为候选风险路径；分别提取所述查询信息的查询文本特征与各候选风险路径的路径文本特征；针对每个候选风险路径，确定该候选风险路径的路径文本特征与所述查询文本特征之间的相似度；将所述相似度不小于指定阈值的候选风险路径确定为目标风险路径。
48、可选地，所述构建模块，具体本文档来自技高网...
【技术保护点】
1.一种风险识别方法，包括：
2.如权利要求1所述的方法，根据所述目标风险类型，在预先设置的风险规则中，确定用于识别所述目标风险类型的风险规则，作为目标规则，具体包括：
3.如权利要求2所述的方法，预先创建图谱框架，具体包括：
4.如权利要求2所述的方法，确定对所述目标用户所需识别的目标风险类型，具体包括：
5.如权利要求1所述的方法，根据所述目标风险类型、所述目标规则、所述可用数据构建提示信息，具体包括：
6.如权利要求1所述的方法，预先训练生成式模型，具体包括：
7.如权利要求6所述的方法，所述方法还包括：
8.一种风险识别装置，包括：
9.如权利要求8所述的装置，所述确定模块，具体用于将所述业务数据输入预先创建的图谱框架，得到所述目标用户的逻辑图谱；在所述逻辑图谱中召回与所述目标风险类型匹配的风险路径，作为目标风险路径，所述风险路径由风险类型、得到所述风险类型的风险规则以及满足所述风险规则的业务数据构成；将所述目标风险路径中包含的风险规则确定为目标规则；
10.如权利
11.如权利要求9所述的装置，所述获取模块，具体用于响应于接收到查询信息，确定所述查询信息中包含的目标风险类型；
12.如权利要求8所述的装置，所述构建模块，具体用于在所述目标规则与所述可用数据中提取与所述目标风险类型相关的关键词；根据所述目标风险类型与所述关键词构建提示信息。
13.如权利要求8所述的装置，所述装置还包括训练模块，具体用于获取样本风控语料；对所述样本风控语料进行掩码，得到带扰风控语料；将所述带扰风控语料输入待训练的生成式模型，得到所述生成式模型输出的待优化语料；根据所述待优化语料与所述样本风控语料之间的差异，对所述生成式模型进行训练。
14.如权利要求13所述的装置，所述训练模块，还用于获取样本指令以及与所述样本指令对应的标注回答；将所述样本指令输入所述生成式模型，得到所述生成式模型输出的待优化回答；根据所述待优化回答与所述标注回答之间的差异，对所述生成式模型的参数进行调整。
15.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述权利要求1～7任一项所述的方法。
16.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述权利要求1～7任一项所述的方法。
...【技术特征摘要】
1.一种风险识别方法，包括：
2.如权利要求1所述的方法，根据所述目标风险类型，在预先设置的风险规则中，确定用于识别所述目标风险类型的风险规则，作为目标规则，具体包括：
3.如权利要求2所述的方法，预先创建图谱框架，具体包括：
4.如权利要求2所述的方法，确定对所述目标用户所需识别的目标风险类型，具体包括：
5.如权利要求1所述的方法，根据所述目标风险类型、所述目标规则、所述可用数据构建提示信息，具体包括：
6.如权利要求1所述的方法，预先训练生成式模型，具体包括：
7.如权利要求6所述的方法，所述方法还包括：
8.一种风险识别装置，包括：
9.如权利要求8所述的装置，所述确定模块，具体用于将所述业务数据输入预先创建的图谱框架，得到所述目标用户的逻辑图谱；在所述逻辑图谱中召回与所述目标风险类型匹配的风险路径，作为目标风险路径，所述风险路径由风险类型、得到所述风险类型的风险规则以及满足所述风险规则的业务数据构成；将所述目标风险路径中包含的风险规则确定为目标规则；
10.如权利要求9所述的装置，所述装置还包括预设模块，具体用于根据从历史信息中得到的所述目标业务下的专家经验，确定所述目标业务中存在的各风险类型与得到所述各风险类型的风险规则；以所述各风险类型为第一节点，得到所述各风险类型的风险规则为第二节点，数据框架为第三节点，...
【专利技术属性】
技术研发人员：陈中奇，李怀松，宋博文，张天翼，王维强，靳雅，张映，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。