一种多次校验风控方法、装置及设备制造方法及图纸

技术编号:42105112 阅读:15 留言:0更新日期:2024-07-25 00:29
本发明专利技术提供了一种多次校验风控方法、装置及设备,涉及人工智能领域,所述方法包括获取待审核信息;对所述待审核信息进行初步识别,判定所述待审核信息的安全类别;根据所述安全类别确定对应的提示文本,通过大模型处理所述提示文本,获得检测结果;对所述检测结果进行二次识别,判定所述检测结果的结果类别;根据所述结果类别和所述检测结果确定输出结果,保证减少人工智能对高风险内容的误判率。

【技术实现步骤摘要】

本专利技术涉及人工智能领域,具体而言,涉及一种多次校验风控方法、装置及设备


技术介绍

1、用户在互联网的原创内容涉及各个领域,信息的数量也呈现出爆发式增长的趋势,然而在用户原创内容繁荣发展的背后,会出现内容良莠不齐的情况,给网络平台带来了极大的审核挑战。

2、在一些技术方案中,通过人工智能对关键词检测的方式筛选和过滤违禁信息,但此种方式容易对误判语句中意外组成的关键词,另一方面,发布违禁信息的用户为了防止发布的内容被审核过滤,往往采用较为隐晦的表达方式规避审核,关键词很容易被用户规避,从而导致违禁信息被发布。


技术实现思路

1、本专利技术解决的问题是如何减少人工智能对高风险内容的误判率。

2、为解决上述问题,第一方面,本专利技术提供一种多次校验风控方法,包括:

3、获取待审核信息;

4、对所述待审核信息进行初步识别,判定所述待审核信息的安全类别;

5、根据所述安全类别确定对应的提示文本,通过大模型处理所述提示文本,获得检测结果;

6、对本文档来自技高网...

【技术保护点】

1.一种多次校验风控方法,其特征在于,包括:

2.根据权利要求1所述的多次校验风控方法,其特征在于,在所述对所述待审核信息进行初步识别,判定所述待审核信息的安全类别之前,还包括:

3.根据权利要求1或2所述的多次校验风控方法,其特征在于,所述对所述待审核信息进行初步识别,判定所述待审核信息的安全类别包括:

4.根据权利要求3所述的多次校验风控方法,其特征在于,所述根据所述安全类别确定对应的提示文本,通过大模型处理所述提示文本,获得检测结果包括:

5.根据权利要求4所述的多次校验风控方法,其特征在于,在所述根据所述安全类别确定对应的提示文本,...

【技术特征摘要】

1.一种多次校验风控方法,其特征在于,包括:

2.根据权利要求1所述的多次校验风控方法,其特征在于,在所述对所述待审核信息进行初步识别,判定所述待审核信息的安全类别之前,还包括:

3.根据权利要求1或2所述的多次校验风控方法,其特征在于,所述对所述待审核信息进行初步识别,判定所述待审核信息的安全类别包括:

4.根据权利要求3所述的多次校验风控方法,其特征在于,所述根据所述安全类别确定对应的提示文本,通过大模型处理所述提示文本,获得检测结果包括:

5.根据权利要求4所述的多次校验风控方法,其特征在于,在所述根据所述安全类别确定对应的提示文本,通过大...

【专利技术属性】
技术研发人员:周瀚阁郑佳斌张龙图郑冬蒋忠林陈勇
申请(专利权)人:浙江吉利控股集团有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1