一种利用大语言模型实现聊天记忆的方法、介质及系统技术方案

本发明专利技术提供了一种利用大语言模型实现聊天记忆的方法、介质及系统，属于人工智能对话系统技术领域，该利用大语言模型实现聊天记忆的方法，包括：获取用户与第一大语言模型的对话过程中输入和输出的token，并存储到聊天知识库并处理，得到聊天知识图谱；当同一用户继续启用聊天功能时，根据新问题获取最匹配的知识作为参照内容，并将新问题和参照内容形成prompt，并提供给大语言模型；若最匹配的知识大于2048字符，则利用第二大语言模型对知识进行总结，提供给第一大语言模型；得到第一大语言模型的输出后，执行步骤S10~S20，并对聊天知识图谱进行更新；本发明专利技术能够处理并记忆用户输入的信息，提高交互的有效性。

【技术实现步骤摘要】

本专利技术属于人工智能对话系统，具体而言，涉及一种利用大语言模型实现聊天记忆的方法、介质及系统。

技术介绍

1、随着人工智能技术的快速发展，尤其是自然语言处理（natural languageprocessing, nlp）领域，大型预训练语言模型（large pre-trained language models,lplms）如gpt（generative pre-trained transformer）、bert（bidirectional encoderrepresentations from transformers）等在聊天机器人、智能问答、信息检索等多个应用场景中展现出了显著的性能。这些模型通过在海量文本数据上进行预训练，能够掌握复杂的语言规律和丰富的世界知识，从而在与用户的交互中生成流畅、连贯、相关性强的文本。

2、然而，现有的大语言模型在实际应用中仍存在一些局限性。首先，大多数模型缺乏有效的记忆机制，导致在与同一用户的连续对话中难以保持上下文的连续性和一致性，用户需反复提供信息，影响交互体验。其次，模型的输入输出长度有限，使得处本文档来自技高网...

【技术保护点】

1.一种利用大语言模型实现聊天记忆的方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的一种利用大语言模型实现聊天记忆的方法，其特征在于，所述步骤S10具体包括：

3.根据权利要求2所述的一种利用大语言模型实现聊天记忆的方法，其特征在于，所述步骤S30具体包括：

4.根据权利要求3所述的一种利用大语言模型实现聊天记忆的方法，其特征在于，所述步骤S40具体包括：

5.根据权利要求4所述的一种利用大语言模型实现聊天记忆的方法，其特征在于，所述步骤S50具体包括：

6.根据权利要求5所述的一种利用大语言模型实现聊天记忆的方法，其...

【技术特征摘要】

1.一种利用大语言模型实现聊天记忆的方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的一种利用大语言模型实现聊天记忆的方法，其特征在于，所述步骤s10具体包括：

3.根据权利要求2所述的一种利用大语言模型实现聊天记忆的方法，其特征在于，所述步骤s30具体包括：

4.根据权利要求3所述的一种利用大语言模型实现聊天记忆的方法，其特征在于，所述步骤s40具体包括：

5.根据权利要求4所述的一种利用大语言模型实现聊天记忆的方法，其特征在于，所述步骤s50具体包括：

6.根据权利要求5所述的一种利用大语言模型实现聊天记忆的方法...

【专利技术属性】
技术研发人员：王炳文，周书田，薛雁，于海洋，
申请(专利权)人：青岛网信信息科技有限公司，
类型：发明
国别省市：