一种用于大语言模型的隐私保护方法及装置、系统制造方法及图纸

本说明书实施例公开了一种用于大语言模型的隐私保护方法及装置、系统，首先，获取输入的当前提问数据，并将当前提问数据输入到预先部署的大语言模型进行意图识别，确定当前提问数据对应的提问意图，根据提问意图确定待调用函数工具，进而基于当前提问数据关联的用户标识信息对待调用函数工具进行权限验证，确定可调用函数工具，通过当前提问数据、可调用函数工具和大语言模型，确定当前提问数据对应的回答反馈数据。本说明书实施例中的技术方案能够实现对用户调用工具的权限的控制，提升用户数据安全性，保护用户隐私；同时并不需要对大语言模型进行重新训练，有效降低隐私保护成本。

【技术实现步骤摘要】

本说明书涉及计算机，尤其涉及一种用于大语言模型的隐私保护方法及装置、系统。

技术介绍

1、随着科学技术的飞速发展，大语言模型（large language model，llm）越来越受到人们的关注。大语言模型是基于海量文本数据训练的深度学习模型，能够生成自然语言文本或理解语言文本的含义，这类模型可以执行多种自然语言处理（natural languageprocessing，nlp）任务，包括但不限于文本分类、问答和对话等。

2、目前，大语言模型在回答提问数据时，一些情况下需要调用第三方函数工具实现对相关数据的获取，而攻击者可能通过设计提问并调用第三方函数工具获取到隐私数据，导致用户隐私数据的安全性较差。

技术实现思路

1、在说明书实施例的第一方面，提供一种用于大语言模型的隐私保护方法，该方法能够提升用户数据安全性，保护用户隐私，有效降低隐私保护成本，该方法包括：

2、获取输入的当前提问数据，并将所述当前提问数据输入到预先部署的大语言模型进行意图识别，确定所述当前提问数据对应的提问意图；本文档来自技高网...

【技术保护点】

1.一种用于大语言模型的隐私保护方法，所述方法包括：

2.根据权利要求1所述的用于大语言模型的隐私保护方法，所述基于所述当前提问数据关联的用户标识信息对所述待调用函数工具进行权限验证，确定可调用函数工具，包括：

3.根据权利要求2所述的用于大语言模型的隐私保护方法，若所述待调用函数工具的数量为一个，所述根据所述用户访问权限和所述工具调用权限从所述待调用函数工具中确定可调用函数工具，包括：

4.根据权利要求2所述的用于大语言模型的隐私保护方法，若所述待调用函数工具的数量为至少两个，所述根据所述用户访问权限和所述工具调用权限从所述待调用函数工具中确定可调用...

【技术特征摘要】

1.一种用于大语言模型的隐私保护方法，所述方法包括：

2.根据权利要求1所述的用于大语言模型的隐私保护方法，所述基于所述当前提问数据关联的用户标识信息对所述待调用函数工具进行权限验证，确定可调用函数工具，包括：

3.根据权利要求2所述的用于大语言模型的隐私保护方法，若所述待调用函数工具的数量为一个，所述根据所述用户访问权限和所述工具调用权限从所述待调用函数工具中确定可调用函数工具，包括：

4.根据权利要求2所述的用于大语言模型的隐私保护方法，若所述待调用函数工具的数量为至少两个，所述根据所述用户访问权限和所述工具调用权限从所述待调用函数工具中确定可调用函数工具，包括：

5.根据权利要求3所述的用于大语言模型的隐私保护方法，所述方法还包括：

6.根据权利要求1所述的用于大语言模型的隐私保护方法，所述根据所述提问意图确定待调用函数工具，包括：

7.根据权利要求6所述的用于大语言模型的隐私保护方法，所述根据所述提问意图从预先配置的候选工具集合中匹配待调用函数工具，包括：

8.根据权利要求6所述的用于大语言模型的隐私保护方法，所述方法还包括：

9.根据权利要求1所述的用于大语言模型的隐私保护方法，所述将所述当前提问数据输入到...

【专利技术属性】
技术研发人员：刘焱，翁海琴，
申请(专利权)人：蚂蚁科技集团股份有限公司，
类型：发明
国别省市：