当前位置: 首页 > 专利查询>浙江大学专利>正文

一种基于大语言模型的机器学习运维方法技术

技术编号:43466543 阅读:18 留言:0更新日期:2024-11-27 13:03
本发明专利技术公开了一种基于大语言模型的机器学习运维方法,包括:对机器学习运维平台上的各类资产文档进行数据预处理,包括数据清洗、元数据提取、文档总结、向量存储和分片索引;根据用户问题、对话历史和上下文语境,大语言模型构建并发送查询请求至匹配的知识库进行针对性检索;大语言模型分析用户问题,识别用户意图,对简单问题直接回答,对于复杂任务则分解成子问题,并将子问题路由至工具代理系统或机器学习任务代理系统进一步处理,整合处理结果并构造最终响应;通过人类实时反馈机制,动态调整工具代理系统或机器学习任务代理系统的推理流程,修正大语言模型的错误判断。本发明专利技术通过全面优化机器学习运维流程,提升运维效率与智能化水平。

【技术实现步骤摘要】

本专利技术涉及机器学习运维,尤其是涉及一种基于大语言模型的机器学习运维方法


技术介绍

1、在信息化时代的浪潮中,算法开发与运维领域正经历着深刻变革。随着数据量的指数级增长、系统架构的日益复杂以及业务需求的快速迭代,传统运维模式面临严峻挑战。算法科学家和技术团队在模型部署、资源调度和服务监控方面的困难尤为突出。这不仅是由于软件工程知识的不足导致运维效率低下,还因为高性能计算资源,特别是gpu资源的稀缺性和高成本,严重限制了研发速度和创新能力。

2、针对这些痛点,mlops(机器学习运维)应运而生,成为信息技术运维领域的一场革命。mlops集成了大数据处理、机器学习和自动化技术,旨在颠覆传统运维模式,提升运维效率、降低运营成本,并确保系统的高度稳定性和可靠性。

3、基于云原生、虚拟化和容器技术,mlops算法平台整合了领先的开源工具和自研组件,构建了一个全面、高效的算法开发生命周期管理体系。通过动态可扩展、自动负载均衡的微服务架构,平台提供了从数据处理、算法开发到模型部署和服务监控的全自动化或半自动化流程,特别适用于追求高效算法实施的本文档来自技高网...

【技术保护点】

1.一种基于大语言模型的机器学习运维方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于大语言模型的机器学习运维方法,其特征在于,在元数据提取过程中,将文档内容作为输入,通过预定义模板格式化大语言模型识别并输出的元数据,并转化为json格式的结构化信息写入平台资产配置文件;将这些步骤封装成调用链,实现对平台资产文档的自动化提取与管理。

3.根据权利要求1所述的基于大语言模型的机器学习运维方法,其特征在于,文档总结采用递归总结方式生成期望的总结内容,具体步骤包括:

4.根据权利要求1所述的基于大语言模型的机器学习运维方法,其特征在于,预处理阶段...

【技术特征摘要】

1.一种基于大语言模型的机器学习运维方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于大语言模型的机器学习运维方法,其特征在于,在元数据提取过程中,将文档内容作为输入,通过预定义模板格式化大语言模型识别并输出的元数据,并转化为json格式的结构化信息写入平台资产配置文件;将这些步骤封装成调用链,实现对平台资产文档的自动化提取与管理。

3.根据权利要求1所述的基于大语言模型的机器学习运维方法,其特征在于,文档总结采用递归总结方式生成期望的总结内容,具体步骤包括:

4.根据权利要求1所述的基于大语言模型的机器学习运维方法,其特征在于,预处理阶段,采用small-to-big策略对文档进行向量存储和分片索引,具体步骤包括:

5.根据权利要求4所述的基于大语言模型的机器学习运维方法,其特征在于,检索召回阶段,大语言模型构建并发送查询请求至匹配的知识库进行针对性检索,包括如下步骤:

6.根据权利要求1所述的基于大语言模型的机器学习运维方法,其特征在于,请求处理阶段,工具代理系统采用思维链机制,负责执行...

【专利技术属性】
技术研发人员:谢立夫张犁李石坚潘纲
申请(专利权)人:浙江大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1