【技术实现步骤摘要】
本申请涉及大语言模型，尤其是涉及一种数据缓存方法、问题答复方法、电子设备及存储介质。
技术介绍
1、大语言模型(llm，large language model)是基于海量文本数据训练的深度学习模型。它不仅能够生成自然语言文本，还能够深入理解文本含义，处理各种自然语言任务，如文本摘要、客服问答、翻译等。在过去的一年里，大语言模型在吸纳新知识、分解复杂任务以及图文对齐等多方面都有显著提升。随着技术的不断成熟，其不断拓展其应用范围，为人类提供更加智能化和个性化的服务，进一步改善人们的生活和生产方式。
2、现有技术中，在使用大模型中，会使用高速缓冲存储器方案(cache方案)来减少token的消耗(减少请求次数)。但是，在关系到用户个性化的数据被缓存时，对于用户的敏感数据，如采用现有的缓存方案，则可能会造成用户信息泄露等问题。
技术实现思路
1、为了有助于改善现有大语言模型缓存方案可能造成信息泄露的问题，本申请提供了一种数据缓存方法、问题答复方法、电子设备及存储介质。
2、第一方面，本申请提供一种数据缓存方法，应用于大语言模型中，所述方法包括：
3、接收用户问题；搜索该问题是否命中缓存池中的固定答复；如是，则调取命中的固定答复；
4、如否，检查答复是否需要结合个性化数据；如是则请求获取个性化数据，并生成个性化答复；如否则生成固定答复；
5、将生成的固定答复存储于第一缓存池中，将生成的个性化答复脱敏后存储于第二缓存池中。
<...【技术保护点】
1.一种数据缓存方法，其特征在于，应用于大语言模型中，所述方法包括：
2.根据权利要求1所述的数据缓存方法，其特征在于，如用户问题命中缓存池中的固定答复，则检查命中的固定答复数量是否低于预设值，如是则生成新的固定答复，并将生成的固定答复存储于所述第一缓存池中。
3.根据权利要求2所述的数据缓存方法，其特征在于，用户问题答复结束后，收集用户评价，并将用户评价与所述固定答复匹配；删除所述第一缓存池中的评价低于预设值的固定答复。
4.根据权利要求2所述的数据缓存方法，其特征在于，当一固定答复存储于所述第一缓存池中的时间大于预设时长时，删除该固定答复。
5.根据权利要求1所述的数据缓存方法，其特征在于，通过向量搜索判断用户问题是否命中答复；所述第一缓存池及所述第二缓存池都为向量数据库。
6.根据权利要求5所述的数据缓存方法，其特征在于，标记用户问题的特征向量和是否为个性化，并记录到向量数据库中。
7.一种问题答复方法，其特征在于，所述方法包括：
8.根据权利要求7所述的问题答复方法，其特征在于，答复需要结
9.一种电子设备，其特征在于，该电子设备包括：
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，当所述计算机程序在计算机中执行时，令所述计算机执行权利要求1至6任一项所述的数据缓存方法。
...【技术特征摘要】
1.一种数据缓存方法，其特征在于，应用于大语言模型中，所述方法包括：
2.根据权利要求1所述的数据缓存方法，其特征在于，如用户问题命中缓存池中的固定答复，则检查命中的固定答复数量是否低于预设值，如是则生成新的固定答复，并将生成的固定答复存储于所述第一缓存池中。
3.根据权利要求2所述的数据缓存方法，其特征在于，用户问题答复结束后，收集用户评价，并将用户评价与所述固定答复匹配；删除所述第一缓存池中的评价低于预设值的固定答复。
4.根据权利要求2所述的数据缓存方法，其特征在于，当一固定答复存储于所述第一缓存池中的时间大于预设时长时，删除该固定答复。
5.根据权利要求1所述的数据缓存方法，其特征在于，通过向量搜索判断用户问题是否命...
【专利技术属性】
技术研发人员：邹建峰，薛超，
申请(专利权)人：福州畅昕信息科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。