基于交互学习的垂类政务大模型服务方法及系统技术方案

技术编号:43089233 阅读:52 留言:0更新日期:2024-10-26 09:37
本发明专利技术提供基于交互学习的垂类政务大模型服务方法及系统,涉及大模型技术领域,包括获取每个垂类领域的政务数据和用户查询日志数据,构建垂类领域的本体知识库,基于所述本体知识库,通过构建多类型节点和多关系边的图数据结构,生成图谱化的垂类知识库;通过掩码语言建模和次级语言建模,得到具备垂类领域知识的垂类语言模型,得到融合了垂类知识库的垂类政务大模型;获取用户输入的自然语言政务查询,通过垂类政务大模型对自然语言政务查询进行理解和语义解析,并结合图谱化的垂类知识库进行知识推理和问题回答生成,得到满足用户查询需求的自然语言回复。

【技术实现步骤摘要】

本专利技术涉及大模型技术,尤其涉及基于交互学习的垂类政务大模型服务方法及系统


技术介绍

1、现有技术中,智能问答系统通常采用基于规则或检索的方法,难以处理复杂的自然语言查询,且无法提供个性化和上下文相关的回答。这些系统依赖于预定义的规则或知识库,缺乏灵活性和可扩展性,难以适应不断变化的用户需求和领域知识。

2、为了提高智能问答系统的性能和用户体验,一些研究尝试引入用户反馈和交互信息,通过反馈驱动的学习方法优化问答模型。但是,现有的交互学习方法主要针对通用领域,缺乏对垂直领域特点的考虑,难以有效利用领域用户的反馈信息。同时,现有方法通常采用简单的反馈形式,如点击和评分,无法捕捉用户的细粒度偏好和意图,限制了交互学习的效果。


技术实现思路

1、本专利技术实施例提供基于交互学习的垂类政务大模型服务方法及系统,能够解决现有技术中的问题。

2、本专利技术实施例的第一方面,

3、提供基于交互学习的垂类政务大模型服务方法,包括:

4、获取每个垂类领域的政务数据和用户查询日志本文档来自技高网...

【技术保护点】

1.基于交互学习的垂类政务大模型服务方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,基于所述本体知识库,通过构建多类型节点和多关系边的图数据结构,结合多条关系路径和关系路径相似度的注意力节点聚合过程,捕捉多类型节点之间的语义关联,生成图谱化的垂类知识库包括:

3.根据权利要求2所述的方法,其特征在于,采用基于路径结构的序列匹配算法和基于路径语义的语义嵌入模型,计算不同关系路径之间的结构相似度和语义相似度,基于所述结构相似度和所述语义相似度构建关系路径之间的相似度矩阵包括:

4.根据权利要求1所述的方法,其特征在于,利用预训练语言模型...

【技术特征摘要】

1.基于交互学习的垂类政务大模型服务方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,基于所述本体知识库,通过构建多类型节点和多关系边的图数据结构,结合多条关系路径和关系路径相似度的注意力节点聚合过程,捕捉多类型节点之间的语义关联,生成图谱化的垂类知识库包括:

3.根据权利要求2所述的方法,其特征在于,采用基于路径结构的序列匹配算法和基于路径语义的语义嵌入模型,计算不同关系路径之间的结构相似度和语义相似度,基于所述结构相似度和所述语义相似度构建关系路径之间的相似度矩阵包括:

4.根据权利要求1所述的方法,其特征在于,利用预训练语言模型对所述政务数据进行学习,通过掩码语言建模和次级语言建模,得到具备垂类领域知识的垂类语言模型;利用所述垂类知识库中的结构化知识对所述垂类语言模型的参数进行微调并将所述垂类知识库中的结构化知识融入所述垂类语言模型,得到融合了垂类知识库的垂类政务大模型包括:...

【专利技术属性】
技术研发人员:袁海杰
申请(专利权)人:小哆智能科技北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1