【技术实现步骤摘要】
本申请涉及人工智能，尤其涉及一种基于大语言模型的问答方法、装置及电子设备。
技术介绍
1、随着大语言模型(large language model，llm)技术的发展，大语言模型可以帮助用户解决越来越多的问题。
2、然而，对于在端侧的大语言模型来说，虽然大语言模型存储在本地，可以由用户持续使用，但是在用户同大语言模型交互过程中，大语言模型只能记住当前阶段(session)同用户的历史对话信息，对此外的历史对话信息一无所知。因此，大语言模型的记忆能力相当有限，无法随着用户使用的深入而逐渐具有个性化推理能力，对用户所提问题的回答存在千人一面的问题，影响用户的使用体验。
3、为了提升大语言模型的记忆能力，相关技术通过对大语言模型外置一个记忆模块，在需要的时候从记忆模块中提取相关的历史对话信息辅助大语言模型回答用户问题。该技术虽然一定程度上改善了大语言模型记忆短的情况，但是，由于记忆模块中存储有用户同大语言模型历史交互过程中的大量历史对话信息，则会导致记忆模块需要占用较大的内存空间。
技术实现
本文档来自技高网...【技术保护点】
1.一种基于大语言模型的问答方法，包括：
2.根据权利要求1所述的基于大语言模型的问答方法，所述方法还包括：
3.根据权利要求1所述的基于大语言模型的问答方法，所述方法还包括：
4.根据权利要求3所述的基于大语言模型的问答方法，所述至少一个历史对话信息按照各自对应的生命周期时长存储在所述记忆模块中；
5.根据权利要求4所述的基于大语言模型的问答方法，在所述将所述第二历史对话信息在所述记忆模块中存储的所述生命周期时长从原始的第一特定时长延长至第二特定时长之后，所述方法还包括：
6.根据权利要求1所述的基于大语言...
【技术特征摘要】
1.一种基于大语言模型的问答方法，包括：
2.根据权利要求1所述的基于大语言模型的问答方法，所述方法还包括：
3.根据权利要求1所述的基于大语言模型的问答方法，所述方法还包括：
4.根据权利要求3所述的基于大语言模型的问答方法，所述至少一个历史对话信息按照各自对应的生命周期时长存储在所述记忆模块中；
5.根据权利要求4所述的基于大语言模型的问答方法，在所述将所述第二历史对话信息在所述记忆模块中存储的所述生命周期时长从原始的第一特定时长延长至第...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。