【技术实现步骤摘要】
本申请涉及大模型技术、人工智能、数据安全领域，具体而言，涉及一种数据处理方法、系统、电子设备及存储介质。
技术介绍
1、目前利用大模型进行内容生成的应用越来越广泛，内容生成过程中的数据安全问题也收到广泛关注。由于利用大模型进行内容生成一方面依赖于用户输入的询问信息，另一方面依赖于大模型本身，在利用大模型生成的内容存在数据安全问题的时候，无法准确定位数据安全问题产生的根本原因，导致了利用大模型进行内容生成的安全性较低。
2、针对上述的问题，目前尚未提出有效的解决方案。
技术实现思路
1、本申请实施例提供了一种数据处理方法、系统、电子设备及存储介质，以至少解决利用大模型进行内容生成的安全性较低的技术问题。
2、根据本申请实施例的一个方面，提供了一种数据处理方法，包括：对生成式交互界面中显示的第一回复信息进行校验，得到第一校验结果，其中，第一校验结果用于表征第一回复信息的内容是否安全，第一回复信息用于表征对生成式交互界面中输入的第一询问信息进行回复的信息；在第一校验结果为第一回复信息的内容不安全，且第一回复信息是利用生成模型基于第一询问信息所生成的信息的情况下，基于区块链中存储的数据，确定第一询问信息，其中，区块链用于存储不同询问信息对应的数据和相应的回复信息对应的数据，相应的回复信息是利用生成模型基于不同询问信息生成的信息；基于第一询问信息，对生成模型的原始训练数据进行调整，得到目标训练数据，其中，目标训练数据用于对生成模型的模型参数进行调整。
3、
4、根据本申请实施例的另一方面，还提供了一种数据处理方法，包括：在生成式交互界面中显示的第一回复信息；响应作用于生成式交互界面上的校验指令，在第一询问信息上显示第一校验结果，其中，第一校验结果用于表征第一回复信息的内容是否安全，第一回复信息用于表征对生成式交互界面中输入的第一询问信息进行回复的信息；响应作用于生成式交互界面上的调整指令，在第一询问信息上显示生成模型的目标训练数据，其中，目标训练数据是基于第一询问信息对生成模型的原始训练数据进行调整得到的数据，第一询问信息是在第一校验结果为第一回复信息的内容不安全，且第一回复信息是利用生成模型基于第一询问信息所生成的信息的情况下，基于区块链中存储的数据所确定的信息，区块链用于存储不同询问信息对应的数据和相应的回复信息对应的数据，相应的回复信息是利用生成模型基于不同询问信息生成的信息。
5、根据本申请实施例的另一方面，还提供了一种数据处理方法，包括：响应作用于生成式交互界面上的输入指令，在生成式交互界面上显示第一询问信息；响应作用于第一询问信息上的生成指令，在第一询问信息上显示第一回复信息，其中，第一回复信息是利用生成模型基于第一询问信息生成的信息，第一询问信息对应的数据和第一回复信息对应的数据存储在区块链中，区块链用于存储不同询问信息对应的数据和相应的回复信息对应的数据，相应的回复信息是利用生成模型基于不同询问信息生成的信息。
6、根据本申请实施例的另一方面，还提供了一种数据处理方法，包括：通过调用第一接口获取生成式交互界面中显示的第一回复信息，其中，第一接口包括第一参数，第一参数的参数值为第一回复信息；对第一回复信息进行校验，得到第一校验结果，其中，第一校验结果用于表征第一回复信息的内容是否安全，第一回复信息用于表征对生成式交互界面中输入的第一询问信息进行回复的信息；在第一校验结果为第一回复信息的内容不安全，且第一回复信息是利用生成模型基于第一询问信息所生成的信息的情况下，基于区块链中存储的数据，确定第一询问信息，其中，区块链用于存储不同询问信息对应的数据和相应的回复信息对应的数据，相应的回复信息是利用生成模型基于不同询问信息生成的信息；基于第一询问信息，对生成模型的原始训练数据进行调整，得到目标训练数据，其中，目标训练数据用于对生成模型的模型参数进行调整；通过调用第二接口输出目标训练数据，其中，第二接口包括第二参数，第二参数的参数值为目标训练数据。
7、根据本申请实施例的另一方面，还提供了一种数据处理方法，包括：在对话界面中输入多模态信息，其中，多模态信息的类型包括如下至少之一：包含字符信息的文本信息，包含帧图像信息的视频帧信息，音频信息；利用生成模型基于多模态信息生成多模态信息对应的答复信息，其中，答复信息的类型包括如下至少之一：文本信息、图像信息、视频信息和语音信息；将多模态信息对应的数据和答复信息对应的数据存储至区块链，其中，区块链用于存储不同询问信息对应的数据和相应的回复信息对应的数据，相应的回复信息是利用生成模型基于不同询问信息生成的信息。
8、根据本申请实施例的另一方面，还提供了一种数据处理系统，包括：前端客户端，用于显示生成式交互界面，并捕获生成式交互界面中输入的第一询问信息；后端服务器，与前端客户端连接，用于利用生成模型基于第一询问信息生成第一回复信息；区块链，与后端服务器连接，用于存储第一询问信息对应的数据和第一回复信息对应的数据。
9、根据本申请实施例的另一方面，还提供了一种电子设备，包括：存储器，存储有可执行程序；处理器，用于运行程序，其中，程序运行时执行上述中任意一项的方法。
10、根据本申请实施例的另一方面，还提供了一种计算机可读存储介质，计算机可读存储介质包括存储的可执行程序，其中，在可执行程序运行时控制计算机可读存储介质所在设备执行上述中任意一项的方法。
11、在本申请实施例中，通过对生成式交互界面中显示的第一回复信息进行校验，得到第一校验结果，其中，第一校验结果用于表征第一回复信息的内容是否安全，第一回复信息用于表征对生成式交互界面中输入的第一询问信息进行回复的信息；在第一校验结果为第一回复信息的内容不安全，且第一回复信息是利用生成模型基于第一询问信息所生成的信息的情况下，基于区块链中存储的数据，确定第一询问信息，其中，区块链用于存储不同询问信息对应的数据和相应的回复信息对应的数据，相应的回复信息是利用生成模型基于不同询问信息生成的信息；基于第一询问信息，对生成模型的原始训练数据进行调整，得到目标训练数据，其中，目标训练数据用于对生成模型的模型参数进行调整。容易注意到的是，可以通过区块链对不同询问信息对应的数据和相应的恢复信息对应的数据进行存储，使得在确定第一回复信息的内容不安全，且第一回复信息是利用生成模型基于第一询问信息所生成的信息的情况下，可以基于第一询问信息准确定位出第一回复信息的内容不安全的原因，并对生成模型进行参数调整，从而提高了利用大模型进行内容生成的安全性，进而解决了利用大模本文档来自技高网...
【技术保护点】
1.一种数据处理方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，基于区块链中存储的数据，确定所述第一询问信息，包括如下之一：
3.根据权利要求1所述的方法，其特征在于，基于所述第一询问信息，对所述生成模型的原始训练数据进行调整，得到目标训练数据，包括：
4.根据权利要求1所述的方法，其特征在于，所述方法还包括：
5.根据权利要求1所述的方法，其特征在于，所述方法还包括：
6.根据权利要求5所述的方法，其特征在于，在所述生成式交互界面中显示所述第二回复信息，并将所述第二询问信息对应的数据和所述第二回复信息对应的数据存储至所述区块链，包括：
7.根据权利要求6所述的方法，其特征在于，在预设时间段内未接收到所述确认指令的情况下，禁止在所述生成式交互界面中显示所述第二回复信息，禁止并将所述第二询问信息对应的数据和所述第二回复信息对应的数据存储至所述区块链。
8.根据权利要求5所述的方法，其特征在于，所述方法还包括：
9.根据权利要求7或8所述的方法，其特征在于，所述方法还包
10.根据权利要求7或8所述的方法，其特征在于，所述方法还包括：
11.根据权利要求5所述的方法，其特征在于，利用所述生成模型基于所述第二询问信息生成第二回复信息，包括如下至少之一：
12.一种数据处理方法，其特征在于，包括：
13.根据权利要求12所述的方法，其特征在于，在所述生成式交互界面中显示所述第一回复信息，并将所述第一询问信息对应的数据和所述第一回复信息对应的数据存储至所述区块链，包括：
14.根据权利要求13所述的方法，其特征在于，在预设时间段内未接收到所述确认指令的情况下，禁止在所述生成式交互界面中显示所述第一回复信息，禁止并将所述第一询问信息对应的数据和所述第一回复信息对应的数据存储至所述区块链。
15.根据权利要求12所述的方法，其特征在于，所述方法还包括：
16.根据权利要求12所述的方法，其特征在于，利用所述生成模型基于所述第一询问信息生成第一回复信息，包括如下至少之一：
17.一种数据处理方法，其特征在于，包括：
18.一种数据处理系统，其特征在于，包括：
19.一种电子设备，其特征在于，包括：
20.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质包括存储的可执行程序，其中，在所述可执行程序运行时控制所述计算机可读存储介质所在设备执行权利要求1至18中任意一项所述的方法。
...【技术特征摘要】
1.一种数据处理方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，基于区块链中存储的数据，确定所述第一询问信息，包括如下之一：
3.根据权利要求1所述的方法，其特征在于，基于所述第一询问信息，对所述生成模型的原始训练数据进行调整，得到目标训练数据，包括：
4.根据权利要求1所述的方法，其特征在于，所述方法还包括：
5.根据权利要求1所述的方法，其特征在于，所述方法还包括：
6.根据权利要求5所述的方法，其特征在于，在所述生成式交互界面中显示所述第二回复信息，并将所述第二询问信息对应的数据和所述第二回复信息对应的数据存储至所述区块链，包括：
7.根据权利要求6所述的方法，其特征在于，在预设时间段内未接收到所述确认指令的情况下，禁止在所述生成式交互界面中显示所述第二回复信息，禁止并将所述第二询问信息对应的数据和所述第二回复信息对应的数据存储至所述区块链。
8.根据权利要求5所述的方法，其特征在于，所述方法还包括：
9.根据权利要求7或8所述的方法，其特征在于，所述方法还包括：
10.根据权利要求7或8所述的方法，其特征在于，所述方法还包括：
11.根据权利要求5所述的方法，其特征...
【专利技术属性】
技术研发人员：张建锋，李想，
申请(专利权)人：阿里巴巴达摩院杭州科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。