【技术实现步骤摘要】
本专利技术涉及数据处理，尤其涉及一种基于llm安全防护系统的交互监控方法及系统。
技术介绍
1、随着大型语言模型（llm）技术的快速发展，其在自然语言处理、智能对话、内容生成等领域的应用日益广泛。然而，llm系统的开放性和交互性也带来了潜在的安全风险，例如恶意用户可能通过输入有害内容、滥用系统资源或进行其他异常交互行为，从而对系统安全性和稳定性造成威胁。因此，如何有效监控和管理用户与llm系统之间的交互行为，成为当前
亟待解决的问题。
2、现有的交互监控技术主要集中在传统的网络安全领域，例如基于规则的内容过滤、行为日志分析等。这些方法虽然能够在一定程度上识别异常行为，但存在异常识别所采用的数据维度单一、依赖固定不变的静态规则、监控实时性低等缺陷。可见，针对现有技术在处理llm系统交互监控存在的缺陷，提供一种对应的解决方案显得尤为重要。
技术实现思路
1、本专利技术提供一种基于llm安全防护系统的交互监控方法及系统，能够提高llm系统交互的监控实时性、精准性与异常交互行为的...
【技术保护点】
1.一种基于LLM安全防护系统的交互监控方法，其特征在于，所述方法包括：
2.根据权利要求1所述的基于LLM安全防护系统的交互监控方法，其特征在于，所述方法还包括：
3.根据权利要求2所述的基于LLM安全防护系统的交互监控方法，其特征在于，所述对所有所述监控数据执行多维数据处理，得到与所有所述监控数据对应的多维数据处理结果，包括：
4.根据权利要求3所述的基于LLM安全防护系统的交互监控方法，其特征在于，所述根据所述标签标注结果，对所述第二处理数据执行风险等级划分，得到与所述第二处理数据对应的风险等级划分结果，包括：
5...
【技术特征摘要】
1.一种基于llm安全防护系统的交互监控方法，其特征在于，所述方法包括：
2.根据权利要求1所述的基于llm安全防护系统的交互监控方法，其特征在于，所述方法还包括：
3.根据权利要求2所述的基于llm安全防护系统的交互监控方法，其特征在于，所述对所有所述监控数据执行多维数据处理，得到与所有所述监控数据对应的多维数据处理结果，包括：
4.根据权利要求3所述的基于llm安全防护系统的交互监控方法，其特征在于，所述根据所述标签标注结果，对所述第二处理数据执行风险等级划分，得到与所述第二处理数据对应的风险等级划分结果，包括：
5.根据权利要求2-4任一项所述的基于llm安全防护系统的交互监控方法，其特征在于，所述并行分析结果与所述历史审计数据均包括所述目标用户针对所述llm安全防护系统的多个目标交互事件，所有所述目标交互事件包括与所述并行分析结果对应的至少一个第一...
【专利技术属性】
技术研发人员：关晓明，由宗铭，许超彬，郑旭升，陈华荣，苏振文，潘旸，
申请(专利权)人：广东省电信规划设计院有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。