信息处理方法技术

本申请实施例公开了一种信息处理方法

【技术实现步骤摘要】
信息处理方法、装置、设备以及存储介质


[0001]本申请涉及人工智能领域，尤其涉及一种信息处理方法
、
装置
、
设备以及存储介质
。

技术介绍

[0002]随着人工智能
(Artificial Intelligence
，
AI)
技术的发展以及各类人机对话产品
(
如生成式模型
)
的出现极大地丰富了人们的日常生活
。
现有技术中，在各类生成式模型
(
如大语言模型
)
的使用过程中，输入的查询信息往往有可能会是包括违规信息或者包含诱导意图的风险信息，从而使得生成式模型输出的回复内容可能存在风险内容，如包括敏感话题，违规信息等，进而导致回复信息的信息质量偏低
。
[0003]因此，生成式模型所生成的回复信息的信息质量有待提升
。

技术实现思路

[0004]本申请实施例提供一种信息处理方法
、
装置
、
设备以及存储介质，可在初始查询信息属于风险信息的情况下提升回复信息的信息质量，适用性高
。
[0005]一方面，本申请实施例提供一种信息处理方法，该方法包括：
[0006]获取初始查询信息；
[0007]响应于上述初始查询信息属于风险信息，确定上述初始查询信息对应的目标约束信息，上述目标约束信息用于对上述初始查询信息的回复信息进行内容约束；
[0008]根据上述初始查询信息和上述目标约束信息，确定上述初始查询信息对应的受限查询信息；
[0009]将上述初始查询信息对应的受限查询信息输入生成式模型，得到上述初始查询信息的回复信息
。
[0010]另一方面，本申请实施例提供了一种信息处理装置，该装置包括：
[0011]信息获取模块，用于获取初始查询信息；
[0012]信息处理模块，用于响应于上述初始查询信息属于风险信息，确定上述初始查询信息对应的目标约束信息，上述目标约束信息用于对上述初始查询信息的回复信息进行内容约束；
[0013]上述信息处理模块，用于根据上述初始查询信息和上述目标约束信息，确定上述初始查询信息对应的受限查询信息；
[0014]信息生成模块，用于将上述初始查询信息对应的受限查询信息输入生成式模型，得到上述初始查询信息的回复信息
。
[0015]可选地，上述信息生成模块，还用于：
[0016]响应于上述初始查询信息不属于风险信息，将上述初始查询信息输入上述生成式模型，得到上述初始查询信息的回复信息
。
[0017]可选地，上述信息处理模块在确定上述初始查询信息对应的目标约束信息时，用
于：
[0018]根据上述初始查询信息所属的风险类型，从约束信息集合中确定出上述初始查询信息对应的目标约束信息；
[0019]其中，上述约束信息集合包括多条预设约束信息，每条预设约束信息用于对一种风险类型的查询信息的回复信息进行内容约束
。
[0020]可选地，对于每种风险类型，该风险类型对应的预设约束信息是由上述信息处理模块基于以下方式确定的：
[0021]确定该风险类型对应的至少一条候选约束信息；
[0022]对于每条上述候选约束信息，根据该候选约束信息和预设查询信息，确定上述预设查询信息对应的一条受限查询信息，将该受限查询信息输入上述生成式模型，得到上述预设查询信息的一条回复信息以及该回复信息的生成概率；
[0023]将上述预设查询信息对应的每条回复信息中，生成概率最高的回复信息所对应的候选约束信息，确定为该风险类型对应的预设约束信息
。
[0024]可选地，对于每种风险类型，上述信息处理模块确定该风险类型对应的多条候选约束信息时，用于：
[0025]确定该风险类型对应的至少一条初始约束信息；
[0026]将每条上述初始约束信息输入上述生成式模型，得到每条上述初始约束信息对应的至少一条扩展约束信息；
[0027]将各上述初始约束信息和各上述扩展约束信息确定为该风险类型对应的候选约束信息
。
[0028]可选地，上述信息处理模块在根据上述初始查询信息和上述目标约束信息，确定上述初始查询信息对应的受限查询信息时，用于：
[0029]将上述初始查询信息和上述目标约束信息进行拼接，得到上述初始查询信息对应的受限查询信息
。
[0030]可选地，上述信息处理模块，还用于：
[0031]对上述初始查询信息的回复信息进行合规性验证；
[0032]响应于上述初始查询信息的回复信息通过合规性验证，将上述初始查询信息的回复信息返回至上述初始查询信息的信息提交方
。
[0033]可选地，上述信息处理模块，还用于：
[0034]响应于上述初始查询信息的回复信息未通过合规性验证，将预设回复信息返回至上述初始查询信息的信息提交方
。
[0035]另一方面，本申请实施例提供了一种电子设备，包括处理器和存储器，该处理器和存储器相互连接；
[0036]上述存储器用于存储计算机程序；
[0037]上述处理器用于在调用上述计算机程序时，执行本申请实施例提供的信息处理方法
。
[0038]另一方面，本申请实施例提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行以实现本申请实施例提供的信息处理方法
。
[0039]另一方面，本申请实施例提供了一种计算机程序产品，该计算机程序产品包括计算机程序，上述计算机程序被处理器执行时实现本申请实施例提供的信息处理方法
。
[0040]在本申请实施例中，在初始查询信息属于风险信息的情况下，可通过目标约束信息生成受限查询信息，以对初始查询信息的回复信息进行内容约束，从而提升回复信息的生成质量
。
附图说明
[0041]为了更清楚地说明本申请实施例中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图
。
[0042]图1是本申请实施例提供的信息处理方法的场景示意图；
[0043]图2是本申请实施例提供的信息处理方法的一流程示意图；
[0044]图3是本申请实施例提供的确定风险类型的场景示意图；
[0045]图4是本申请实施例提供的确定目标约束信息的场景示意图；
[0046]图5是本申请实施例提供的信息处理方法的另一流程示意图；
[0047]图6是本申请实施例提供的信息处理方法的又一流程示意图；
[0048]图7是本申请实施例提供的信息处理方法的流程框架示意图；
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种信息处理方法，其特征在于，所述方法包括：获取初始查询信息；响应于所述初始查询信息属于风险信息，确定所述初始查询信息对应的目标约束信息，所述目标约束信息用于对所述初始查询信息的回复信息进行内容约束；根据所述初始查询信息和所述目标约束信息，确定所述初始查询信息对应的受限查询信息；将所述初始查询信息对应的受限查询信息输入生成式模型，得到所述初始查询信息的回复信息
。2.
根据权利要求1所述的方法，其特征在于，所述方法还包括：响应于所述初始查询信息不属于风险信息，将所述初始查询信息输入所述生成式模型，得到所述初始查询信息的回复信息
。3.
根据权利要求1所述的方法，其特征在于，所述确定所述初始查询信息对应的目标约束信息，包括：根据所述初始查询信息所属的风险类型，从约束信息集合中确定出所述初始查询信息对应的目标约束信息；其中，所述约束信息集合包括多条预设约束信息，每条预设约束信息用于对一种风险类型的查询信息的回复信息进行内容约束
。4.
根据权利要求3所述的方法，其特征在于，对于每种风险类型，该风险类型对应的预设约束信息是基于以下方式确定的：确定该风险类型对应的至少一条候选约束信息；对于每条所述候选约束信息，根据该候选约束信息和预设查询信息，确定所述预设查询信息对应的一条受限查询信息，将该受限查询信息输入所述生成式模型，得到所述预设查询信息的一条回复信息以及该回复信息的生成概率；将所述预设查询信息对应的每条回复信息中，生成概率最高的回复信息所对应的候选约束信息，确定为该风险类型对应的预设约束信息
。5.
根据权利要求4所述的方法，其特征在于，对于每种风险类型，所述确定该风险类型对应的多条候选约束信息，包括：确定该风险类型对应的至少一条初始约束信息；将每条所述初始约束信息输入所述生成式模型，得到每条所述初始约束信息对应的至少一条扩展约束信息；将各所述初始约束信息和各所述扩展约束信息确定为该风险类型对应的候选约束信...

【专利技术属性】
技术研发人员：吴秉哲，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：