基于SAAS平台管控用户发布违禁信息的管控方法及系统技术方案

本发明专利技术公开了基于SAAS平台管控用户发布违禁信息的管控方法及系统；使用高斯分布函数GD，所述高斯分布函数GD使相似的所述数据点具有高相似性分数，不相似的所述数据点具有低分数：在低维空间中，最小化KL散度，以使低维相似性分布与高维相似性分布相匹配。这有助于更好地表示数据点之间的相似性；本发明专利技术通过机器学习、相似性分析和可视化等技术，系统能够更准确地识别敏感信息，减少误报率，有效降低违禁内容的传播风险。通过将文本信息在低维空间中进行嵌入和可视化，使用户能够清晰地了解哪些部分被视为敏感信息，而不仅仅是简单的拒绝访问。这提高了用户的满意度，并帮助用户更好地理解和遵守规则。

【技术实现步骤摘要】

本专利技术涉及信息管理，特别涉及基于saas平台管控用户发布违禁信息的管控方法及系统。

技术介绍

1、互联网平台是指在线提供各种服务、功能和内容的数字化平台，它们允许用户在互联网上进行互动、交流、合作和访问信息。这些平台包括社交媒体、电子商务网站、搜索引擎、在线新闻网站、应用商店等。互联网平台的目标是提供各种在线服务和功能，以满足用户的需求和期望，促进信息共享、社交互动和商业活动。

2、互联网平台通常拥有大量用户和内容，这使得管理和监控成为挑战。庞大的用户群体和内容创作者可能会滥用平台，发布违禁内容，威胁用户体验和社区安全。互联网上的内容种类繁多，从文字、图片到视频等，包含了多种媒体类型。平台需要能够处理不同类型的内容，检测其中的违禁信息，同时用户在互联网上发布内容通常是实时的，因此平台需要能够快速响应并检测违禁信息，以防止其传播和造成不良影响。

3、现有的互联网平台主要采用自然语言处理(nlp)算法分析和理解文本内容。lnp算法可以检测文本中的敏感词汇、侮辱性语言、淫秽内容等。但是lnp算法无法理解用户发布违禁词汇的产生机制，其难本文档来自技高网...

【技术保护点】

1.基于SAAS平台管控用户发布违禁信息的管控方法，包括用户填写表单，所述表单包含内容安全控件，所述内容安全控件用于检查输入的内容是否包含敏感信息，其特征在于：包括如下步骤：

2.根据权利要求1所述的基于SAAS平台管控用户发布违禁信息的管控方法，其特征在于：在所述S0中，所述内容安全控件为t-分布邻域嵌入算法；

3.根据权利要求2所述的基于SAAS平台管控用户发布违禁信息的管控方法，其特征在于：在所述S100中，所述计算使用高斯分布函数GD，所述高斯分布函数GD使相似的所述数据点具有高相似性分数，不相似的所述数据点具有低分数：

4.根据权利要求2所述...

【技术特征摘要】

1.基于saas平台管控用户发布违禁信息的管控方法，包括用户填写表单，所述表单包含内容安全控件，所述内容安全控件用于检查输入的内容是否包含敏感信息，其特征在于：包括如下步骤：

2.根据权利要求1所述的基于saas平台管控用户发布违禁信息的管控方法，其特征在于：在所述s0中，所述内容安全控件为t-分布邻域嵌入算法；

3.根据权利要求2所述的基于saas平台管控用户发布违禁信息的管控方法，其特征在于：在所述s100中，所述计算使用高斯分布函数gd，所述高斯分布函数gd使相似的所述数据点具有高相似性分数，不相似的所述数据点具有低分数：

4.根据权利要求2所述的基于saas平台管控用户发布违禁信息的管控方法，其特征在于：在所述101中，对于所述相似性分数，所述数据点的初始位置是高维数据的随机投影：pi＝ri*x；

5.根据权利要求2所述的基于saas平台管控用户发布违禁信息的管控方法，其特征在于：在所述s102中，所述相似性分布包括：

6.根据权利要求2～6任意一项所述的基于saas平台管控用户发布违禁信息的管控方法，其特征在于：在所述s103中，在所...

【专利技术属性】
技术研发人员：于志杰，
申请(专利权)人：北京白龙马云行科技有限公司，
类型：发明
国别省市：