数据处理方法、系统、电子设备及存储介质技术方案

技术编号:40092212 阅读:28 留言:0更新日期:2024-01-23 16:23
本申请公开了一种数据处理方法、系统、电子设备及存储介质,涉及大模型技术、人工智能、数据安全领域。其中,该方法包括:对生成式交互界面中显示的第一回复信息进行校验,得到第一校验结果;在第一校验结果为第一回复信息的内容不安全,且第一回复信息是利用生成模型基于第一询问信息所生成的信息的情况下,基于区块链中存储的数据,确定第一询问信息;基于第一询问信息,对生成模型的原始训练数据进行调整,得到目标训练数据,其中,目标训练数据用于对生成模型的模型参数进行调整。本申请解决了利用大模型进行内容生成的安全性较低的技术问题。

【技术实现步骤摘要】

本申请涉及大模型技术、人工智能、数据安全领域,具体而言,涉及一种数据处理方法、系统、电子设备及存储介质


技术介绍

1、目前利用大模型进行内容生成的应用越来越广泛,内容生成过程中的数据安全问题也收到广泛关注。由于利用大模型进行内容生成一方面依赖于用户输入的询问信息,另一方面依赖于大模型本身,在利用大模型生成的内容存在数据安全问题的时候,无法准确定位数据安全问题产生的根本原因,导致了利用大模型进行内容生成的安全性较低。

2、针对上述的问题,目前尚未提出有效的解决方案。


技术实现思路

1、本申请实施例提供了一种数据处理方法、系统、电子设备及存储介质,以至少解决利用大模型进行内容生成的安全性较低的技术问题。

2、根据本申请实施例的一个方面,提供了一种数据处理方法,包括:对生成式交互界面中显示的第一回复信息进行校验,得到第一校验结果,其中,第一校验结果用于表征第一回复信息的内容是否安全,第一回复信息用于表征对生成式交互界面中输入的第一询问信息进行回复的信息;在第一校验结果为第一回复信息的内容不本文档来自技高网...

【技术保护点】

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,基于区块链中存储的数据,确定所述第一询问信息,包括如下之一:

3.根据权利要求1所述的方法,其特征在于,基于所述第一询问信息,对所述生成模型的原始训练数据进行调整,得到目标训练数据,包括:

4.根据权利要求1所述的方法,其特征在于,所述方法还包括:

5.根据权利要求1所述的方法,其特征在于,所述方法还包括:

6.根据权利要求5所述的方法,其特征在于,在所述生成式交互界面中显示所述第二回复信息,并将所述第二询问信息对应的数据和所述第二回复信息对应的...

【技术特征摘要】

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,基于区块链中存储的数据,确定所述第一询问信息,包括如下之一:

3.根据权利要求1所述的方法,其特征在于,基于所述第一询问信息,对所述生成模型的原始训练数据进行调整,得到目标训练数据,包括:

4.根据权利要求1所述的方法,其特征在于,所述方法还包括:

5.根据权利要求1所述的方法,其特征在于,所述方法还包括:

6.根据权利要求5所述的方法,其特征在于,在所述生成式交互界面中显示所述第二回复信息,并将所述第二询问信息对应的数据和所述第二回复信息对应的数据存储至所述区块链,包括:

7.根据权利要求6所述的方法,其特征在于,在预设时间段内未接收到所述确认指令的情况下,禁止在所述生成式交互界面中显示所述第二回复信息,禁止并将所述第二询问信息对应的数据和所述第二回复信息对应的数据存储至所述区块链。

8.根据权利要求5所述的方法,其特征在于,所述方法还包括:

9.根据权利要求7或8所述的方法,其特征在于,所述方法还包括:

10.根据权利要求7或8所述的方法,其特征在于,所述方法还包括:

11.根据权利要求5所述的方法,其特征...

【专利技术属性】
技术研发人员:张建锋李想
申请(专利权)人:阿里巴巴达摩院杭州科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1