推理系统的推理方法、推理方法及推理系统技术方案

技术编号:43469141 阅读:16 留言:0更新日期:2024-11-27 13:06
本公开提供了一种推理系统的推理方法、推理方法及推理系统,涉及人工智能技术领域,尤其涉及大模型、生成模型领域。具体实现方案为:获得提问信息;推理系统包括推理模块、评估模块和处理模块;基于推理模块,执行与提问信息相对应的推理任务中的当前推理子任务,得到当前推理子任务的推理子结果;基于评估模块,对推理子结果进行评估,得到推理子结果的评估结果;在确定评估结果满足处理条件的情况下,基于处理模块,对推理子结果进行处理,得到当前推理子任务的处理结果;基于推理模块,通过提问信息和当前推理子任务的处理结果,执行当前推理任务的下一推理子任务,以至少基于最后一个推理子任务的推理子结果确定与提问信息相对应的推理结果。

【技术实现步骤摘要】

本公开涉及人工智能,尤其涉及大模型、生成模型等领域,更具体地,本公开提供了一种推理系统的推理方法、推理方法及推理系统


技术介绍

1、在实际应用中,可以使用推理系统来执行推理任务,例如用户输入提问信息,由推理系统来解答用户的问题。


技术实现思路

1、本公开提供了一种推理系统的推理方法、推理方法及推理系统。

2、根据本公开的一方面,提供了一种推理系统的推理方法,包括:获得提问信息;推理系统包括推理模块、评估模块和处理模块;基于推理模块,执行与提问信息相对应的推理任务中的当前推理子任务,得到当前推理子任务的推理子结果;基于评估模块,对推理子结果进行评估,得到推理子结果的评估结果;在确定评估结果满足处理条件的情况下,基于处理模块,对推理子结果进行处理,得到当前推理子任务的处理结果;基于推理模块,通过提问信息和当前推理子任务的处理结果,执行当前推理任务的下一推理子任务,以至少基于最后一个推理子任务的推理子结果确定与提问信息相对应的推理结果。

3、根据本公开另一实施例,评估结果包括以下至少一个置本文档来自技高网...

【技术保护点】

1.一种推理系统的推理方法,包括:

2.根据权利要求1所述的方法,其中,所述评估结果包括以下至少一个置信度:表征所述推理子结果正确性的置信度、表征所述推理子结果与所述提问信息之间相关性的置信度以及表征所述推理子结果敏感性的置信度;

3.根据权利要求2所述的方法,其中,所述评估结果还包括:参考信息,所述参考信息表征所述推理子结果对应所述至少一个置信度的原因。

4.根据权利要求1所述的方法,其中,基于所述评估结果对所述推理子结果进行处理,得到当前推理子任务的处理结果,包括:

5.根据权利要求1至4中任意一项所述的方法,所述推理系统还包括交互模块...

【技术特征摘要】

1.一种推理系统的推理方法,包括:

2.根据权利要求1所述的方法,其中,所述评估结果包括以下至少一个置信度:表征所述推理子结果正确性的置信度、表征所述推理子结果与所述提问信息之间相关性的置信度以及表征所述推理子结果敏感性的置信度;

3.根据权利要求2所述的方法,其中,所述评估结果还包括:参考信息,所述参考信息表征所述推理子结果对应所述至少一个置信度的原因。

4.根据权利要求1所述的方法,其中,基于所述评估结果对所述推理子结果进行处理,得到当前推理子任务的处理结果,包...

【专利技术属性】
技术研发人员:马鑫王鹏徐东东
申请(专利权)人:联想北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1