【技术实现步骤摘要】
本专利技术涉及云计算,尤其涉及一种信息采集分析方法、装置、设备、介质及产品。
技术介绍
1、随着人工智能技术的飞速进步,大语言模型(large language model,llm)在企业内外的应用场景愈发广泛,涵盖了集成开发环境(integrated development environment,ide)、用户界面(user interface,ui)以及应用程序编程接口(application programminginterface,api)调用等多个领域。为了更好地评估和优化llm的性能、了解用户交互模式,并进行精细管理和资源调度,对llm调用信息的全面采集和分析变得至关重要。
2、然而,由于不同入口的调用信息散布于各个系统,缺乏统一的采集机制,导致数据难以集中管理,跨入口分析变得复杂困难。其次,现有的采集技术往往仅关注请求和响应,而忽视了用户行为数据等关键信息,如代码补全的采纳情况或ui交互行为,这使得对llm应用效果的深入分析受到限制。
3、鉴于上述内容,如何解决目前llm调用数据分散不利于管理,采
...【技术保护点】
1.一种信息采集分析方法,其特征在于,包括:
2.根据权利要求1所述的信息采集分析方法,其特征在于,通过具有多协议识别功能的网关与动态流量处理平台,监测多数据源传输的语言模型调用请求,包括:
3.根据权利要求2所述的信息采集分析方法,其特征在于,当接收到目标数据源传输的语言模型调用请求时,将所述语言模型调用请求转发至语言模型服务集群,包括:
4.根据权利要求3所述的信息采集分析方法,其特征在于,根据对应请求头中的所述请求指纹,将所述语言模型调用请求转发至所述语言模型服务集群,包括:
5.根据权利要求1所述的信息采集分析方
...【技术特征摘要】
1.一种信息采集分析方法,其特征在于,包括:
2.根据权利要求1所述的信息采集分析方法,其特征在于,通过具有多协议识别功能的网关与动态流量处理平台,监测多数据源传输的语言模型调用请求,包括:
3.根据权利要求2所述的信息采集分析方法,其特征在于,当接收到目标数据源传输的语言模型调用请求时,将所述语言模型调用请求转发至语言模型服务集群,包括:
4.根据权利要求3所述的信息采集分析方法,其特征在于,根据对应请求头中的所述请求指纹,将所述语言模型调用请求转发至所述语言模型服务集群,包括:
5.根据权利要求1所述的信息采集分析方法,其特征在于,将所述问答数据转发至所述目标数据源,并获取所述目标数据源依据所述问答数据生成的用户行为数据,包括:
6.根据权利要求5所述的信息采集分析方法,其特征在于,将流式问答数据聚合为对应的完整问答数据,包括:
7.根据权利要求5所述的信息采集分析方法,其特征在于,获取所述集成开发环境插件依据对应的流式问答数据生成的所述用户行为数据,包括:
8.根据权利要求7所述的信息采集分析方法,其特征在于,在获取所述集成开发环境插件依据对应的流式问答数据生成的所述用户行为数据之后,还包括:
9.根据权利要求8所述的信息采集分析方法,其特征在于,确定所述用户行为数据的请求指纹,包括:
10.根据权利要求8所述的信息采集分析方法,其特征在于,在基于所述问答数据和对应的所述用户行为数据进行全链路多维分析之前,在获取所述目标数据源依据所述问答数据生成的用户行为数据之后,还包括:
11.根据权利要求10所述的信息采...
【专利技术属性】
技术研发人员:郭立民,张东,亓开元,郭涛,徐冠群,孔维亭,逄立业,
申请(专利权)人:济南浪潮数据技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。