【技术实现步骤摘要】
本申请涉及大语言模型领域，尤其涉及一种针对数字内容的风险评估方法及装置。
技术介绍
1、当前数字内容产业的爆炸式增长使多媒体安全分析技术面临严峻挑战。主流审核系统普遍采用基于规则引擎的过滤机制，依赖预定义敏感词库与图像特征模板进行内容匹配。这类方案对显性违规内容具备基础识别能力，但面对日益复杂的变体攻击时存在根本性缺陷。
2、在文本场景中，谐音替换、拼音缩写、隐喻表达等规避手段可轻易绕过关键词检测；在视觉领域，经过局部模糊、色彩偏移处理的违规图像难以被静态模板捕获；更关键的是，单模态独立分析的模式完全无法应对跨模态组合风险，例如画面正常的视频配以违禁音频歌词，或无害文本描述搭配暗示性插图的多模态违规内容，现有系统几乎全部漏检。
技术实现思路
1、本申请提供一种针对数字内容的风险评估方法及装置，用以解决当前多模态内容审核中因跨模态特征割裂导致的组合风险漏检、决策过程不可解释引发的审核问题。
2、第一方面，本申请提供了一种针对数字内容的风险评估方法，包括：
...
【技术保护点】
1.一种针对数字内容的风险评估方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，所述数字内容包括视觉通道、音频通道和文本通道，则所述利用多通道特征提取技术提取数字内容的结构化特征包括：
3.根据权利要求2所述的方法，其特征在于，所述利用跨模态融合技术对所述结构化特征进行对齐融合，以确定所述结构化特征融合后的融合特征包括：
4.根据权利要求3所述的方法，其特征在于，所述决策森林模型包括多棵决策树，则所述基于预设的决策森林模型，对所述融合特征进行多模态的风险评估，以确定各所述模态对应的模态风险评分包括：
5...
【技术特征摘要】
1.一种针对数字内容的风险评估方法，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，所述数字内容包括视觉通道、音频通道和文本通道，则所述利用多通道特征提取技术提取数字内容的结构化特征包括：
3.根据权利要求2所述的方法，其特征在于，所述利用跨模态融合技术对所述结构化特征进行对齐融合，以确定所述结构化特征融合后的融合特征包括：
4.根据权利要求3所述的方法，其特征在于，所述决策森林模型包括多棵决策树，则所述基于预设的决策森林模型，对所述融合特征进行多模态的风险评估，以确定各所述模态对应的模态风险评分包括：
5...
【专利技术属性】
技术研发人员：王志亮，谢恩鹏，赵明，张宇，杨明生，丛锐，孟凡栋，
申请(专利权)人：山东浪潮超高清智能科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。