一种大模型会话方法、装置、电子设备及存储介质制造方法及图纸

技术编号:46562701 阅读:1 留言:0更新日期:2025-10-10 21:14
本申请提供一种大模型会话方法、装置、电子设备及存储介质,其中,该方法包括:响应于任一会话下的对话请求,为对话请求分配唯一的对话请求标识,任一会话下的各对话请求的对话请求标识按照顺序排列,包括请求时间顺序;若任一会话下存在正在处理的第一对话请求,则周期性地访问状态管理模型中第一对话请求的处理状态,以获取下一对话请求的处理权限,状态管理模型用于管理各对话请求的处理状态;若获取到下一对话请求的处理权限,则调用大模型根据顺序生成针对第二对话请求的回答,并同步更新状态管理模型中的处理状态。融合分布式标识管理机制、自旋机制和状态追踪调度机制,有效实现了会话中对话请求的序列化执行,提升了模型推理的可靠性。

【技术实现步骤摘要】

本申请涉及人工智能,尤其涉及一种大模型会话方法、装置、电子设备及存储介质


技术介绍

1、随着人工智能技术的发展,语言模型已广泛应用于多个领域,如智能客服、自动问答、数据分析、内容生成等。语言模型在nlp(natural language processing,自然语言处理)任务中表现出了强大的能力,特别是在文本理解、语义推理和对话生成方面,能够实现高效、精准的语义匹配和推理生成。但在实际应用中,尤其是多轮对话场景中,语言模型的性能和稳定性仍然面临一些挑战。

2、在相关技术中,大模型对话的主流实现方式是基于连续的文本输入输出,这种方式通过每轮用户输入(如问题、请求或命令)与模型的推理结果进行交互,逐步生成回答。然而,这种基于对话的交互模式,在并发会话及多轮对话中,在模型对前一对话请求进行推理时,如果发送新的对话请求给模型,则会导致模型无法正确维持对话的上下文,以及无法保证上下文的连续性,从而出现上下文紊乱和对话流程紊乱的问题,影响模型的回答效果,尤其是推理的精度和效率。虽然一些方案通过区分用户或者在前端对用户输入进行限制,以此来保证同一会话内模本文档来自技高网...

【技术保护点】

1.一种大模型会话方法,其特征在于,所述方法包括:

2.根据权利要求1所述的大模型会话方法,其特征在于,在所述响应于任一会话下的对话请求之前,还包括:

3.根据权利要求1所述的大模型会话方法,其特征在于,所述周期性地访问状态管理模型中所述第一对话请求的处理状态,包括:

4.根据权利要求3所述的大模型会话方法,其特征在于,在所述第一对话请求的处理状态为已完成之后,还包括:

5.根据权利要求1所述的大模型会话方法,其特征在于,所述获取到下一对话请求的处理权限的确定方式,包括:

6.根据权利要求1所述的大模型会话方法,其特征在于,所述...

【技术特征摘要】

1.一种大模型会话方法,其特征在于,所述方法包括:

2.根据权利要求1所述的大模型会话方法,其特征在于,在所述响应于任一会话下的对话请求之前,还包括:

3.根据权利要求1所述的大模型会话方法,其特征在于,所述周期性地访问状态管理模型中所述第一对话请求的处理状态,包括:

4.根据权利要求3所述的大模型会话方法,其特征在于,在所述第一对话请求的处理状态为已完成之后,还包括:

5.根据权利要求1所述的大模型会话方法,其特征在于,所述获取到下一对话请求的处理权限的确定方式,包括:

6.根据权利要求1所述的大模...

【专利技术属性】
技术研发人员:任中帆刘楚雄邓洪伟
申请(专利权)人:重庆凤凰技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1