一种敏感信息的封禁方法及系统技术方案

本发明专利技术公开一种敏感信息的封禁方法及系统，所述方法包括以下步骤：获取对话信息；对对话信息进行敏感信息检测，得到对话信息对应的检测结果；当检测结果指示对话信息中包含敏感信息时，获取敏感信息对应的用户信息；将用户信息对应的用户账号进行封禁。可见，实施本发明专利技术实施例，能够检测到用户在使用社交软件进行对话过程中是否出现敏感信息，如果出现敏感信息，可以直接将输出敏感信息的用户进行封禁，从而提升了社交软件中的内容质量。从而提升了社交软件中的内容质量。

【技术实现步骤摘要】
一种敏感信息的封禁方法及系统


[0001]本专利技术属于智能识别
，尤其涉及一种敏感信息的封禁方法及系统。

技术介绍

[0002]随着互联网的快速发展，越来越多的人使用社交软件进行社交，丰富了人们的日常生活，还提高了人们进行日常沟通的效率。然而，在实践中发现，人们在社交软件中交流的内容通常不受社交软件的控制，因此，用户在使用社交软件的过程中可能会遇到质量较差的内容，从而导致社交软件中的内容质量较差。

技术实现思路

[0003]本专利技术针对现有技术中存在的问题，提供一种敏感信息的封禁方法及系统，解决了社交软件中的内容质量较差的问题。
[0004]本申请第一方面公开一种敏感信息的封禁方法，所述方法包括：
[0005]获取对话信息；
[0006]对所述对话信息进行敏感信息检测，得到所述对话信息对应的检测结果；
[0007]当所述检测结果指示所述对话信息中包含敏感信息时，获取所述敏感信息对应的用户信息；
[0008]将所述用户信息对应的用户账号进行封禁。
[0009]作为一种可选的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种敏感信息的封禁方法，其特征在于，所述方法包括：获取对话信息；对所述对话信息进行敏感信息检测，得到所述对话信息对应的检测结果；当所述检测结果指示所述对话信息中包含敏感信息时，获取所述敏感信息对应的用户信息；将所述用户信息对应的用户账号进行封禁。2.根据权利要求1所述的敏感信息的封禁方法，其特征在于，所述对所述对话信息进行敏感信息检测，得到所述对话信息对应的检测结果，包括：将所述对话信息与预设的敏感词库中包含的敏感词进行对比，得到对比结果；当所述对比结果指示所述对话信息与所述敏感词库中的任一敏感词匹配时，将所述任一敏感词确定为敏感信息，并生成与所述对话信息对应的包含所述敏感信息的检测结果。3.根据权利要求2所述的敏感信息的封禁方法，其特征在于，所述将所述对话信息与预设的敏感词库中包含的敏感词进行对比，得到对比结果之后，所述方法还包括：当所述对比结果指示所述对话信息与所述敏感词库中的任一敏感词均不匹配时，对所述对话信息进行语义识别，得到所述对话信息对应的至少一个语义信息；当检测到所述语义信息为敏感语义信息时，将所述敏感语义信息确定为敏感信息，并生成与所述对话信息对应的包含所述敏感信息的检测结果。4.根据权利要求1～3任一项所述的敏感信息的封禁方法，其特征在于，所述获取所述敏感信息对应的用户信息之后，所述方法还包括：检测所述敏感信息对应的敏感等级；当所述敏感等级大于等于预设敏感等级时，获取与所述敏感等级对应的封禁模式；所述将所述用户信息对应的用户账号进行封禁，包括：基于所述封禁模式将所述用户信息对应的用户账号进行封禁。5.根据权利要求4所述的敏感信息的封禁方法，其特征在于，所述检测所述敏感信息对应的敏感等级之后，所述方法还包括：当所述敏感等级小于所述预设敏感等级时，获取与所述敏感信息对应的响应模式，并生成与所述敏感信息对应的警告信息，以及执行与所述响应模式对应的操作，以及向与所述用户信息对应的终端设备发送所述警告信息，以使所述终端设备输出所述警告信息。6.一种敏感信息的封禁系统，其特征在于，包括：第一获取单元，用于获取对话信息...

【专利技术属性】
技术研发人员：余永加，郑恒，
申请(专利权)人：广州明朝互动科技股份有限公司，
类型：发明
国别省市：