【技术实现步骤摘要】
本说明书涉及计算机，尤其涉及一种用于大语言模型的隐私保护方法及装置、系统。
技术介绍
1、随着科学技术的飞速发展，大语言模型（large language model，llm）越来越受到人们的关注。大语言模型是基于海量文本数据训练的深度学习模型，能够生成自然语言文本或理解语言文本的含义，这类模型可以执行多种自然语言处理（natural languageprocessing，nlp）任务，包括但不限于文本分类、问答和对话等。
2、目前，大语言模型在回答提问数据时，一些情况下需要调用第三方函数工具实现对相关数据的获取，而攻击者可能通过设计提问并调用第三方函数工具获取到隐私数据，导致用户隐私数据的安全性较差。
技术实现思路
1、在说明书实施例的第一方面，提供一种用于大语言模型的隐私保护方法，该方法能够提升用户数据安全性，保护用户隐私，有效降低隐私保护成本，该方法包括：
2、获取输入的当前提问数据，并将所述当前提问数据输入到预先部署的大语言模型进行意图识别，确定所述当前提问数据对应的提问意图；
3、根据所述提问意图确定待调用函数工具；
4、基于所述当前提问数据关联的用户标识信息对所述待调用函数工具进行权限验证，确定可调用函数工具；
5、通过所述当前提问数据、所述可调用函数工具和所述大语言模型，确定所述当前提问数据对应的回答反馈数据。
6、进一步地，在一些实施方式中，所述基于所述当前提问数据关联的用户标识信息对所述待调用
7、通过预构建的权限管理数据库确定所述用户标识信息对应的用户访问权限以及所述待调用函数工具对应的工具调用权限；
8、根据所述用户访问权限和所述工具调用权限从所述待调用函数工具中确定可调用函数工具。
9、进一步地，在一些实施方式中，若所述待调用函数工具的数量为一个，所述根据所述用户访问权限和所述工具调用权限从所述待调用函数工具中确定可调用函数工具，包括：
10、若确定所述用户访问权限和所述工具调用权限的权限验证结果为验证通过，则将所述待调用函数工具作为可调用函数工具。
11、进一步地，在一些实施方式中，若所述待调用函数工具的数量为至少两个，所述根据所述用户访问权限和所述工具调用权限从所述待调用函数工具中确定可调用函数工具，包括：
12、将所述工具调用权限小于或者等于所述用户访问权限的待调用函数工具作为可调用函数工具。
13、进一步地，在一些实施方式中，所述方法还包括：
14、若各所述待调用函数工具对应的工具调用权限均大于所述用户访问权限，则生成无权调用提示。
15、进一步地，在一些实施方式中，所述根据所述提问意图确定待调用函数工具，包括：
16、确定所述提问意图对应的意图类型；
17、若确定所述意图类型为需要调用函数工具，则根据所述提问意图从预先配置的候选函数工具集合中匹配待调用函数工具。
18、进一步地，在一些实施方式中，所述根据所述提问意图从预先配置的候选工具集合中匹配待调用函数工具，包括：
19、确定所述提问意图与所述候选工具集合中各函数工具的工具标识信息之间的语义相似度；
20、将所述语义相似度大于或者等于预设的相似度阈值的函数工具作为所述待调用函数工具。
21、进一步地，在一些实施方式中，所述方法还包括：
22、若确定所述意图类型不需要调用函数工具，则将所述当前提问数据输入到所述大语言模型中，输出所述当前提问数据对应的回答反馈数据。
23、进一步地，在一些实施方式中，所述将所述当前提问数据输入到预先部署的大语言模型进行意图识别，确定所述当前提问数据对应的提问意图，包括：
24、获取意图识别引导模版，并根据所述意图识别引导模版和所述当前提问数据构建意图识别引导提问数据；
25、将所述意图识别引导提问数据输入到所述大语言模型中，实现对所述当前提问数据的意图识别，得到所述当前提问数据对应的提问意图。
26、进一步地，在一些实施方式中，所述通过所述当前提问数据、所述可调用函数工具和所述大语言模型，确定所述提问数据对应的回答反馈数据，包括：
27、根据所述可调用函数工具确定回答所述当前提问数据所需的反馈结果；
28、通过所述当前提问数据和所述反馈结果构建回答提示数据，并将所述回答提示数据输入到所述大语言模型中，输出所述提问数据对应的回答反馈数据。
29、进一步地，在一些实施方式中，所述根据所述可调用函数工具确定回答所述当前提问数据所需的反馈结果，包括：
30、根据所述当前提问数据确定所述可调用函数工具对应的函数参数列表；
31、通过所述可调用函数工具以及所述函数参数列表中的各函数参数生成行为请求数据；
32、基于所述行为请求数据调取所述当前提问数据对应的反馈结果。
33、进一步地，在一些实施方式中，所述通过所述当前提问数据和所述反馈结果构建回答提示数据，包括：
34、获取预设的回答提示模版，并将所述当前提问数据和所述反馈结果填充到所述回答提示模版中，得到回答提示数据。
35、在说明书实施例的第二方面，还提出了一种用于大语言模型的隐私保护装置，包括：
36、提问意图确定模块，用于获取输入的当前提问数据，并将所述当前提问数据输入到预先部署的大语言模型进行意图识别，确定所述当前提问数据对应的提问意图；
37、函数工具确定模块，用于根据所述提问意图确定待调用函数工具；
38、权限验证模块，用于基于所述当前提问数据关联的用户标识信息对所述待调用函数工具进行权限验证，确定可调用函数工具；
39、回答反馈数据生成模块，用于通过所述当前提问数据、所述可调用函数工具和所述大语言模型，确定所述当前提问数据对应的回答反馈数据。
40、在说明书实施例的第三方面，还提出了一种用于大语言模型的隐私保护系统，包括：
41、客户端，用于获取当前提问数据和所述当前提问数据对应的用户标识信息；
42、服务端，部署有大语言模型，包括权限管理数据库、候选函数工具集合以及如第二方面中的用于大语言模型的隐私保护装置；其中：
43、所述权限管理数据库，用于验证或者管理用户访问权限以及工具调用权限；
44、所述候选函数工具集合，用于配置函数工具；
45、所述用于大语言模型的隐私保护装置，用于实现第一方面中的用于大语言模型的隐私保护方法的步骤。
46、本说明书实施例的第四方面，还提供一种计算机程序产品，计算机程序产品存储有至少一条指令，至少一条指令适于由处理器加载并执行第一方面中的方法步骤。
47、本说明书实施例的第五方面，还提供一种存储介质，存储介质本文档来自技高网...
【技术保护点】
1.一种用于大语言模型的隐私保护方法，所述方法包括：
2.根据权利要求1所述的用于大语言模型的隐私保护方法，所述基于所述当前提问数据关联的用户标识信息对所述待调用函数工具进行权限验证，确定可调用函数工具，包括：
3.根据权利要求2所述的用于大语言模型的隐私保护方法，若所述待调用函数工具的数量为一个，所述根据所述用户访问权限和所述工具调用权限从所述待调用函数工具中确定可调用函数工具，包括：
4.根据权利要求2所述的用于大语言模型的隐私保护方法，若所述待调用函数工具的数量为至少两个，所述根据所述用户访问权限和所述工具调用权限从所述待调用函数工具中确定可调用函数工具，包括：
5.根据权利要求3所述的用于大语言模型的隐私保护方法，所述方法还包括：
6.根据权利要求1所述的用于大语言模型的隐私保护方法，所述根据所述提问意图确定待调用函数工具，包括：
7.根据权利要求6所述的用于大语言模型的隐私保护方法，所述根据所述提问意图从预先配置的候选工具集合中匹配待调用函数工具，包括：
8.根据权利要求6所述的用于大语
9.根据权利要求1所述的用于大语言模型的隐私保护方法，所述将所述当前提问数据输入到预先部署的大语言模型进行意图识别，确定所述当前提问数据对应的提问意图，包括：
10.根据权利要求1所述的用于大语言模型的隐私保护方法，所述通过所述当前提问数据、所述可调用函数工具和所述大语言模型，确定所述提问数据对应的回答反馈数据，包括：
11.根据权利要求10所述的用于大语言模型的隐私保护方法，所述根据所述可调用函数工具确定回答所述当前提问数据所需的反馈结果，包括：
12.根据权利要求10所述的用于大语言模型的隐私保护方法，所述通过所述当前提问数据和所述反馈结果构建回答提示数据，包括：
13.一种用于大语言模型的隐私保护装置，包括：
14.一种用于大语言模型的隐私保护系统，包括：
15.一种存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1～12中任意一项所述方法的步骤。
16.一种电子设备，其特征在于，包括：处理器和存储器；其中，所述存储器存储有计算机程序，所述计算机程序适于由所述处理器加载并执行如权利要求1～12中任意一项所述方法的步骤。
17.一种计算机程序产品，其上存储有至少一条指令，其特征在于，所述至少一条指令被处理器执行时实现权利要求1～12中任意一项所述方法的步骤。
...【技术特征摘要】
1.一种用于大语言模型的隐私保护方法，所述方法包括：
2.根据权利要求1所述的用于大语言模型的隐私保护方法，所述基于所述当前提问数据关联的用户标识信息对所述待调用函数工具进行权限验证，确定可调用函数工具，包括：
3.根据权利要求2所述的用于大语言模型的隐私保护方法，若所述待调用函数工具的数量为一个，所述根据所述用户访问权限和所述工具调用权限从所述待调用函数工具中确定可调用函数工具，包括：
4.根据权利要求2所述的用于大语言模型的隐私保护方法，若所述待调用函数工具的数量为至少两个，所述根据所述用户访问权限和所述工具调用权限从所述待调用函数工具中确定可调用函数工具，包括：
5.根据权利要求3所述的用于大语言模型的隐私保护方法，所述方法还包括：
6.根据权利要求1所述的用于大语言模型的隐私保护方法，所述根据所述提问意图确定待调用函数工具，包括：
7.根据权利要求6所述的用于大语言模型的隐私保护方法，所述根据所述提问意图从预先配置的候选工具集合中匹配待调用函数工具，包括：
8.根据权利要求6所述的用于大语言模型的隐私保护方法，所述方法还包括：
9.根据权利要求1所述的用于大语言模型的隐私保护方法，所述将所述当前提问数据输入到...
【专利技术属性】
技术研发人员：刘焱，翁海琴，
申请(专利权)人：蚂蚁科技集团股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。