一种信息采集分析方法、装置、设备、介质及产品制造方法及图纸

技术编号:45468557 阅读:12 留言:0更新日期:2025-06-06 22:01
本发明专利技术公开了一种信息采集分析方法、装置、设备、介质及产品,涉及云计算技术领域。本方案通过具有多协议识别功能的网关与动态流量处理平台,监测多数据源传输的语言模型调用请求,实现了对LLM调用数据的统一管理,适配多种协议;当接收到语言模型调用请求时,将语言模型调用请求转发至语言模型服务集群,生成对应的问答数据,并获取目标数据源依据问答数据生成的用户行为数据,以便于基于问答数据和对应的用户行为数据进行全链路多维分析,分析过程不但关注调用请求和响应,而且考虑到了对应的用户行为,使得生成的调用分析结果更具准确性,提高了对LLM的应用效果分析的可信性。

【技术实现步骤摘要】

本专利技术涉及云计算,尤其涉及一种信息采集分析方法、装置、设备、介质及产品


技术介绍

1、随着人工智能技术的飞速进步,大语言模型(large language model,llm)在企业内外的应用场景愈发广泛,涵盖了集成开发环境(integrated development environment,ide)、用户界面(user interface,ui)以及应用程序编程接口(application programminginterface,api)调用等多个领域。为了更好地评估和优化llm的性能、了解用户交互模式,并进行精细管理和资源调度,对llm调用信息的全面采集和分析变得至关重要。

2、然而,由于不同入口的调用信息散布于各个系统,缺乏统一的采集机制,导致数据难以集中管理,跨入口分析变得复杂困难。其次,现有的采集技术往往仅关注请求和响应,而忽视了用户行为数据等关键信息,如代码补全的采纳情况或ui交互行为,这使得对llm应用效果的深入分析受到限制。

3、鉴于上述内容,如何解决目前llm调用数据分散不利于管理,采集维度单一忽视用户行本文档来自技高网...

【技术保护点】

1.一种信息采集分析方法,其特征在于,包括:

2.根据权利要求1所述的信息采集分析方法,其特征在于,通过具有多协议识别功能的网关与动态流量处理平台,监测多数据源传输的语言模型调用请求,包括:

3.根据权利要求2所述的信息采集分析方法,其特征在于,当接收到目标数据源传输的语言模型调用请求时,将所述语言模型调用请求转发至语言模型服务集群,包括:

4.根据权利要求3所述的信息采集分析方法,其特征在于,根据对应请求头中的所述请求指纹,将所述语言模型调用请求转发至所述语言模型服务集群,包括:

5.根据权利要求1所述的信息采集分析方法,其特征在于,将所...

【技术特征摘要】

1.一种信息采集分析方法,其特征在于,包括:

2.根据权利要求1所述的信息采集分析方法,其特征在于,通过具有多协议识别功能的网关与动态流量处理平台,监测多数据源传输的语言模型调用请求,包括:

3.根据权利要求2所述的信息采集分析方法,其特征在于,当接收到目标数据源传输的语言模型调用请求时,将所述语言模型调用请求转发至语言模型服务集群,包括:

4.根据权利要求3所述的信息采集分析方法,其特征在于,根据对应请求头中的所述请求指纹,将所述语言模型调用请求转发至所述语言模型服务集群,包括:

5.根据权利要求1所述的信息采集分析方法,其特征在于,将所述问答数据转发至所述目标数据源,并获取所述目标数据源依据所述问答数据生成的用户行为数据,包括:

6.根据权利要求5所述的信息采集分析方法,其特征在于,将流式问答数据聚合为对应的完整问答数据,包括:

7.根据权利要求5所述的信息采集分析方法,其特征在于,获取所述集成开发环境插件依据对应的流式问答数据生成的所述用户行为数据,包括:

8.根据权利要求7所述的信息采集分析方法,其特征在于,在获取所述集成开发环境插件依据对应的流式问答数据生成的所述用户行为数据之后,还包括:

9.根据权利要求8所述的信息采集分析方法,其特征在于,确定所述用户行为数据的请求指纹,包括:

10.根据权利要求8所述的信息采集分析方法,其特征在于,在基于所述问答数据和对应的所述用户行为数据进行全链路多维分析之前,在获取所述目标数据源依据所述问答数据生成的用户行为数据之后,还包括:

11.根据权利要求10所述的信息采...

【专利技术属性】
技术研发人员:郭立民张东亓开元郭涛徐冠群孔维亭逄立业
申请(专利权)人:济南浪潮数据技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1