【技术实现步骤摘要】
本公开涉及计算机，尤其涉及一种文本内容检测方法、装置、电子设备及存储介质。
技术介绍
1、目前，对文本的管理是互联网风险管控中的重要手段。文本的风险管控主要是检测文本中是否包括敏感词汇，从而根据敏感词汇确定文本的文本风险。
2、目前，检测文本中是否存在敏感词汇的方式为：先对文本中各个句子进行分词处理，得到至少一个待匹配词汇；再将各待匹配词汇与黑白名单词汇进行一一匹配，最后根据匹配结果来确定为黑名单词汇还是白名单词汇。为了进一步提高确定敏感词汇的准确性，可以对分词的分词器进行特殊设置，如将黑名单词汇的权重值设置的高一点，以在分词器分词的过程中，可以尽可能的将黑名单词汇划分在一起，从而保证从句子中查找出黑名单词汇。
3、但是上述方法存在文本安全性的误判以及漏判现象。尤其是在大模型爆发时代，现有的文本安全检测与业务场景不是完全匹配，存在针对诱导性有害文本检测效果不佳的问题。
技术实现思路
1、为了解决上述技术问题中的至少一个，本公开提供了一种文本内容检测方法、装置、电子设
【技术保护点】
1.一种文本内容检测方法，其特征在于，包括：
2.根据权利要求1所述的文本内容检测方法，其特征在于，响应于接收到的所述文本信息，对所述文本信息进行第一内容和第二内容的处理，得到处理结果，包括：
3.根据权利要求1所述的文本内容检测方法，其特征在于，响应于接收到的所述文本信息，对所述文本信息进行第一内容和第二内容的处理，得到处理结果，包括：
4.根据权利要求2或3所述的文本内容检测方法，其特征在于，所述第一内容的分类包括对所述文本信息进行语义的分类，所述第二内容的检测包括对所述文本信息中预设词语义的检测；
5.根据权利要求...
【技术特征摘要】
1.一种文本内容检测方法，其特征在于，包括：
2.根据权利要求1所述的文本内容检测方法，其特征在于，响应于接收到的所述文本信息，对所述文本信息进行第一内容和第二内容的处理，得到处理结果，包括：
3.根据权利要求1所述的文本内容检测方法，其特征在于，响应于接收到的所述文本信息，对所述文本信息进行第一内容和第二内容的处理，得到处理结果，包括：
4.根据权利要求2或3所述的文本内容检测方法，其特征在于，所述第一内容的分类包括对所述文本信息进行语义的分类，所述第二内容的检测包括对所述文本信息中预设词语义的检测；
5.根据权利要求1至3任一所述的文本内容检...
【专利技术属性】
技术研发人员：明卫鹏，李志飞，
申请(专利权)人：出门问问苏州信息科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。