【技术实现步骤摘要】
本申请涉及风险评估，尤其涉及一种投稿素材风险审核方法、装置、电子设备及计算机可读存储介质。
技术介绍
1、近些年来，用于呈现由各式用户主动投稿素材的综合平台因其十分真实、“贴地气”、能够充分体现广大劳动人民的所思所想，深得广大普通百姓的喜爱。
2、但各式各样的投稿素材在正式呈现给所有用户之前，还需要进行风险审核，以避免不应该出现的素材内容误导不知情用户以及传递负能量。由此，如何便利、有质量地对素材内容进行审核，是值得关注和迫切需求的。
技术实现思路
1、本申请从多个方面提供一种投稿素材风险审核方法、设备及计算机可读存储介质，用以对各种类型的投稿素材均能够确定出准确描述其风险的综合风险分，进而在统一的综合风险分的基础上实现对审核量的便捷调控。
2、本申请的第一方面，提供一种投稿素材风险审核方法，包括：将待审核图像类投稿素材通过视觉类素材风险评估模型进行风险评估，得到分别属于多个预设风险类别下的第一风险分；将待审核文本类投稿素材通过文本素材风险评估模型进行风险评估，得到第二风险分；将待审核图文混合类投稿素材通过多模态素材风险评估模型进行风险评估，得到第三风险分；将分别属于多个预设风险类别下的第一风险分、第二风险分和第三风险分，分别按照各自所属的投稿素材类型对应的数据分布特性，进行特征编码，得到经统一编码后的各风险特征；利用预设的风险审核模型确定与各风险特征对应的综合风险分，并基于综合风险分对相应的投稿素材进行风险审核。
3、本申请的第二方面，提供一种
4、本申请的第三方面，提供一种电子设备，所述电子设备包括：
5、至少一个处理器；以及
6、与所述至少一个处理器通信连接的存储器；其中，
7、所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上述第一方面描述的投稿素材风险审核的方法。
8、本申请的第四方面，提供一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令可被处理器执行以实现如上述第一方面描述的投稿素材风险审核的方法。
9、本申请实施例提供的投稿素材风险审核方案，通过先将视觉类投稿素材、文本类投稿素材以及图文混合类投稿素材分别通过相应投稿素材类型的风险评估模型给出各自评估体系下的风险分，然后再将各类型投稿素材的风险分按照所属投稿素材类型的数据分布特性进行能够消除不同特征的分数区间不一致所带来的影响的特征编码操作，以更好的体现风险分通常所呈现的偏态部分情况，最终再利用预设的风险审核模型进行整合得到统一评判体系下的综合风险分，能够基于综合风险分对相应的投稿素材进行准确的风险审核。
本文档来自技高网...【技术保护点】
1.一种投稿素材风险审核方法，包括：
2.根据权利要求1所述的方法，其中将所述分别属于多个预设风险类别下的第一风险分、所述第二风险分和所述第三风险分，分别按照各自所属的投稿素材类型对应的数据分布特性，进行特征编码，得到经统一编码后的各风险特征，包括：
3.根据权利要求2所述的方法，其中所述将待审核图像类投稿素材通过视觉类素材风险评估模型进行风险评估，得到分别属于多个预设风险类别下的第一风险分，包括：
4.根据权利要求3所述的方法，其中将所述分别属于多个预设风险类别下的第一风险分按照所属的图像类投稿素材对应的数据分布特性，以分桶编码的方式进行特征编码，包括：
5.根据权利要求2所述的方法，其中将所述第二风险分和所述第三风险封分别按照所属的文本类投稿素材和图文混合类投稿素材对应的数据分布特性，以分桶编码的方式进行特征编码，包括：
6.根据权利要求2所述的方法，还包括：
7.根据权利要求6所述的方法，其中所述将所述第四风险分按照与所述黑样本库中黑样本的划分方式，利用分桶编码的方式进行特征编码，得到经统一编码后的各风
8.根据权利要求1-7任一项所述的方法，还包括：
9.根据权利要求8所述的方法，其中所述根据当前的投稿素材审核负载，对基于所述综合风险分设置的自动过审阈值和/或优先进审阈值进行调整，包括：
10.一种投稿素材风险审核装置，包括：
11.一种电子设备，所述电子设备包括：
12.一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令可被处理器执行以实现如权利要求1至9中任一项所述的投稿素材风险审核方法。
...【技术特征摘要】
1.一种投稿素材风险审核方法，包括：
2.根据权利要求1所述的方法，其中将所述分别属于多个预设风险类别下的第一风险分、所述第二风险分和所述第三风险分，分别按照各自所属的投稿素材类型对应的数据分布特性，进行特征编码，得到经统一编码后的各风险特征，包括：
3.根据权利要求2所述的方法，其中所述将待审核图像类投稿素材通过视觉类素材风险评估模型进行风险评估，得到分别属于多个预设风险类别下的第一风险分，包括：
4.根据权利要求3所述的方法，其中将所述分别属于多个预设风险类别下的第一风险分按照所属的图像类投稿素材对应的数据分布特性，以分桶编码的方式进行特征编码，包括：
5.根据权利要求2所述的方法，其中将所述第二风险分和所述第三风险封分别按照所属的文本类投稿素材和图文混合类投稿素材对应的数据分布特性...
【专利技术属性】
技术研发人员：包颖，黄彦春，高龙文，
申请(专利权)人：上海哔哩哔哩科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。