恶意信息识别方法、恶意信息识别装置及系统制造方法及图纸

本发明专利技术提供一种恶意信息识别方法、恶意信息识别装置及系统，该恶意信息识别方法包括获取会话群组的实时会话信息；使用恶意信息模型，对实时会话信息进行恶意信息判定，以获取疑似恶意信息；对会话群组的用户发起疑似恶意信息的恶意信息判定请求，并接收用户输入的判定结果；以及根据判定结果以及预设判定方法，识别疑似恶意信息中的恶意信息。本发明专利技术还提供一种恶意信息识别装置及系统。本发明专利技术的恶意信息识别方法、恶意信息识别装置及系统通过会话群组的用户对疑似恶意信息进行恶意信息判定，提高了恶意信息的识别准确度。

【技术实现步骤摘要】

本专利技术涉及互联网安全
，特别是涉及一种恶意信息识别方法、恶意信息识别装置及系统。
技术介绍
随着互联网技术的发展，人们可通过各种会话群组进行信息沟通，这种会话群组可以是QQ群或微信群等。同时也有越来越多的人利用上述会话群组发布恶意信息，如诈骗信息、恶意广告信息以及色情信息等。现有对于上述会话群组上恶意信息的监控主要采用以下方式:一、对会话群组上的文字信息进行监控，如检测到沟通内容出现了“银行卡”、“汇款”等文字，会话群组会对会话群组上的用户进行预防提醒。二、对会话群组上用户的行为进行监控，如发现用户进行一系列恶意行为操作，如频繁发送网站链接，则会话群组也会对会话群组上的用户进行预防提醒或对该恶意行为进行屏蔽操作。但是上述监控操作基本通过基于机器的模型进行判断，该基于机器的模型构造复杂且精确度不高。同时由于恶意信息的更新速度越来越快，基于机器的模型常常无法正对最新的恶意信息进行识别。因此导致现有基于机器的模型的恶意信息识别准确率较低。
技术实现思路
本专利技术实施例提供一种可准确高效的对恶意信息进行识别的恶意信息识别方法，以解决现有的恶意信息识别方法的恶意信息识别准本文档来自技高网...

【技术保护点】
一种恶意信息识别方法，其特征在于，包括：获取会话群组的实时会话信息；使用恶意信息模型，对所述实时会话信息进行恶意信息判定，以获取疑似恶意信息；对所述会话群组的多个用户发起所述疑似恶意信息的恶意信息判定请求，并接收所述用户输入的判定结果；以及根据所述判定结果以及预设判定方法，识别所述疑似恶意信息中的恶意信息。

【技术特征摘要】

【专利技术属性】
技术研发人员：张龙攀，贺啸，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：广东;44