一种消息审核方法及装置、设备、存储介质制造方法及图纸

本申请实施例提供了一种消息审核方法及装置、设备、存储介质，该方法包括：获取待审核消息；待审核消息中包括待审核文本和待审核图像；分别对待审核文本和待审核图像进行数据处理，得到待审核文本对应的文本表征和待审核图像对应的图像表征；对文本表征和图像表征进行融合，得到多模态表征；并将多模态表征输入预设审核模型中，得到待审核消息对应的审核结果；通过上述技术方案，达到提高在对消息审核进行时的准确性的目的。进行时的准确性的目的。进行时的准确性的目的。

【技术实现步骤摘要】
一种消息审核方法及装置、设备、存储介质


[0001]本申请涉及计算机应用领域，尤其涉及一种消息审核方法及装置、设备、存储介质。

技术介绍

[0002]近年来，第五代移动通信技术(5th Generation Mobile Communication Technology，5G)技术的商用化日渐成熟。2020年4月，中国移动、中国联通、中国电信联合华为、小米等终端厂商联合发布了《5G消息白皮书》。5G消息的推出实现了短信的智能化，无需下载就能够收发短信、影音、表情等信息，这为日常生活的消息传递带来了更多便捷性。2022年6月，中国移动5G套餐客户数累计达到5.10943亿户，在亿级别的用户规模下，5G消息的商业市场规模有望达到千亿甚至万亿，具有极大的经济价值和社会价值。
[0003]随着5G消息商用的加速，其消息数量呈现不断上升的趋势，包含有害内容的信息也随之递增，严重影响了用户的体验，所以需要加强对消息的审核，现有技术在对消息进行审核时，是直接对消息中的文本信息进行审核，导致审核的准确性低。

技术实现思路
r/>[0004]本本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种消息审核方法，其特征在于，所述方法包括：获取待审核消息；所述待审核消息中包括待审核文本和待审核图像；分别对所述待审核文本和所述待审核图像进行数据处理，得到所述待审核文本对应的文本表征和所述待审核图像对应的图像表征；对所述文本表征和所述图像表征进行融合，得到多模态表征；并将所述多模态表征输入预设审核模型中，得到所述待审核消息对应的审核结果。2.根据权利要求1所述的方法，其特征在于，所述分别对所述待审核文本和所述待审核图像进行数据处理，得到所述待审核文本对应的文本表征和所述待审核图像对应的图像表征，包括：对所述待审核文本进行向量表征，得到所述待审核文本对应的所述文本表征；对所述待审核图像进行高维映射，得到所述待审核图像对应的所述图像表征。3.根据权利要求1所述的方法，其特征在于，所述对所述文本表征和所述图像表征进行融合，得到多模态表征，包括：利用预设多任务模型对所述文本表征进行特征提取，得到所述文本表征对应的实体表征和情感表征；将所述实体表征、所述情感表征添加至所述文本表征中，得到文本融合表征；将所述文本融合表征和所述图像表征进行融合，得到所述多模态表征。4.根据权利要求3所述的方法，其特征在于，所述预设多任务模型包括预训练模型、条件随机场CRF层和全连接层，所述利用预设多任务模型对所述文本表征进行特征提取，得到所述文本表征对应的实体表征和情感表征，包括：利用所述预训练模型中的自注意力机制对所述文本表征进行加权学习，得到表征结果；将所述表征结果输入所述CRF层中，得到所述文本表征对应的实体；并将所述表征结果输入所述全连接层中，得到所述文本表征对应的情感倾向；分别将所述实体和所述情感倾向映射为与所述文本表征同一维度的所述实体表征和所述情感表征。5.根据权利要求3所述的方法，其特征在于，所述将所述文本融合表征和所述图像表征进行融合，得到所述多模态表征，包括：将所述文本融合表征和所述图像表征输入多模态预训练模型中，得到结合图像特征的文本融合表征和结合...

【专利技术属性】
技术研发人员：冯梦菲，王惠欣，
申请(专利权)人：中国移动通信集团有限公司，
类型：发明
国别省市：