【技术实现步骤摘要】
本申请涉及人工智能,尤其涉及一种大模型会话方法、装置、电子设备及存储介质。
技术介绍
1、随着人工智能技术的发展,语言模型已广泛应用于多个领域,如智能客服、自动问答、数据分析、内容生成等。语言模型在nlp(natural language processing,自然语言处理)任务中表现出了强大的能力,特别是在文本理解、语义推理和对话生成方面,能够实现高效、精准的语义匹配和推理生成。但在实际应用中,尤其是多轮对话场景中,语言模型的性能和稳定性仍然面临一些挑战。
2、在相关技术中,大模型对话的主流实现方式是基于连续的文本输入输出,这种方式通过每轮用户输入(如问题、请求或命令)与模型的推理结果进行交互,逐步生成回答。然而,这种基于对话的交互模式,在并发会话及多轮对话中,在模型对前一对话请求进行推理时,如果发送新的对话请求给模型,则会导致模型无法正确维持对话的上下文,以及无法保证上下文的连续性,从而出现上下文紊乱和对话流程紊乱的问题,影响模型的回答效果,尤其是推理的精度和效率。虽然一些方案通过区分用户或者在前端对用户输入进行限制,以
...【技术保护点】
1.一种大模型会话方法,其特征在于,所述方法包括:
2.根据权利要求1所述的大模型会话方法,其特征在于,在所述响应于任一会话下的对话请求之前,还包括:
3.根据权利要求1所述的大模型会话方法,其特征在于,所述周期性地访问状态管理模型中所述第一对话请求的处理状态,包括:
4.根据权利要求3所述的大模型会话方法,其特征在于,在所述第一对话请求的处理状态为已完成之后,还包括:
5.根据权利要求1所述的大模型会话方法,其特征在于,所述获取到下一对话请求的处理权限的确定方式,包括:
6.根据权利要求1所述的大模型会话方
...【技术特征摘要】
1.一种大模型会话方法,其特征在于,所述方法包括:
2.根据权利要求1所述的大模型会话方法,其特征在于,在所述响应于任一会话下的对话请求之前,还包括:
3.根据权利要求1所述的大模型会话方法,其特征在于,所述周期性地访问状态管理模型中所述第一对话请求的处理状态,包括:
4.根据权利要求3所述的大模型会话方法,其特征在于,在所述第一对话请求的处理状态为已完成之后,还包括:
5.根据权利要求1所述的大模型会话方法,其特征在于,所述获取到下一对话请求的处理权限的确定方式,包括:
6.根据权利要求1所述的大模...
【专利技术属性】
技术研发人员:任中帆,刘楚雄,邓洪伟,
申请(专利权)人:重庆凤凰技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。