信息过滤方法及装置制造方法及图纸

本发明专利技术公开了一种信息过滤方法及装置，属于通信技术领域。所述方法包括：接收第一用户帐号发送的即时通信消息；获取用于接收该即时通信消息的第二用户帐号的信用信息，确定信用信息所对应的过滤策略，根据敏感信息库以及过滤策略检测即时通信消息是否满足过滤条件，当即时通信消息满足过滤条件时，过滤即时通信消息，当即时通信消息不满足过滤条件时，转发即时通信消息至第二用户帐号；解决了通过敏感词匹配进行信息过滤时，对即时通信消息过滤的不够准确的问题；由于信用高低不同的用户帐号对敏感信息的接受度和辨别能力不同，因此，对转发至不同的用户帐号的即时通信消息采用不同的过滤策略进行过滤，过滤方法更灵活，信息过滤更准确。

Information filtering methods and devices

【技术实现步骤摘要】
信息过滤方法及装置
本专利技术实施例涉及通信
，特别涉及一种信息过滤方法及装置。
技术介绍
即时通信类应用程序用于提供即时通信服务，用户可以通过该即时通信类应用程序与其他用户进行通信。用户A与用户B在通过该即时通信类应用程序进行通信时，该即时通信类应用程序的服务器会将用户A在即时通信类应用程序中发送的即时通信消息转发至用户B，用户B可以在该即时通信类应用程序中接收到用户A发送的即时通信消息，从而实现用户A与用户B之间的通信。服务器需要转发给用户的即时通信消息可能是敏感信息，敏感信息包括反动信息和政治负面信息等具有不良影响的垃圾信息，以及用户个人信息和金融支付信息等影响用户信息安全的信息。为了减少垃圾信息的传播以及为了避免用户信息泄露，服务器通常会对接收到的即时通信消息中的敏感信息进行过滤。目前常用的方法是通过敏感信息匹配进行过滤，具体的，服务器将接收到的即时通信消息与敏感信息库中的敏感信息进行匹配，若在即时通信消息中匹配到敏感信息库中的敏感信息，则确定该即时通信消息中包含敏感信息，并将该即时通信消息进行过滤，避免了垃圾信息的传播且保证了用户信息的安全。在实现本专利技术实施例的过本文档来自技高网...

【技术保护点】
一种信息过滤方法，其特征在于，所述方法包括：接收第一用户帐号发送的即时通信消息；获取第二用户帐号的信用信息，所述第二用户帐号是用于接收所述即时通信消息的用户帐号，所述信用信息用于表征所述第二用户帐号的信用；确定所述信用信息所对应的过滤策略；根据敏感信息库以及所述过滤策略检测所述即时通信消息是否满足过滤条件；当所述即时通信消息满足所述过滤条件时，过滤所述即时通信消息；当所述即时通信消息不满足所述过滤条件时，转发所述即时通信消息至所述第二用户帐号。

【技术特征摘要】
1.一种信息过滤方法，其特征在于，所述方法包括：接收第一用户帐号发送的即时通信消息；获取第二用户帐号的信用信息，所述第二用户帐号是用于接收所述即时通信消息的用户帐号，所述信用信息用于表征所述第二用户帐号的信用；确定所述信用信息所对应的过滤策略；根据敏感信息库以及所述过滤策略检测所述即时通信消息是否满足过滤条件；当所述即时通信消息满足所述过滤条件时，过滤所述即时通信消息；当所述即时通信消息不满足所述过滤条件时，转发所述即时通信消息至所述第二用户帐号。2.根据权利要求1所述的方法，其特征在于，所述确定所述信用信息所对应的过滤策略，包括：根据第一预设对应关系查询与所述信用信息对应的所述过滤策略，所述第一预设对应关系中包括所述信用信息与所述过滤策略之间的对应关系。3.根据权利要求1所述的方法，其特征在于，所述确定所述信用信息所对应的过滤策略，包括：根据第二预设对应关系查询与所述信用信息和所述即时通信消息的第一信息类别对应的所述过滤策略，所述第二预设对应关系中包括所述信用信息和所述第一信息类别与所述过滤策略之间的对应关系；其中，所述第一信息类别是政治类、谣言类、暴力类、金融诈骗类和色情类中的任意一种。4.根据权利要求1所述的方法，其特征在于，所述过滤策略包括即时通信消息的过滤频率；所述根据敏感信息库以及所述过滤策略检测所述即时通信消息是否满足过滤条件，包括：按照所述过滤频率确定所述即时通信消息中待检测的即时通信消息；检测待检测的所述即时通信消息中是否包含所述敏感信息库中的敏感信息；当待检测的所述即时通信消息中包含所述敏感信息库中的敏感信息时，确定待检测的所述即时通信消息满足所述过滤条件；当待检测的所述即时通信消息中不包含所述敏感信息库中的敏感信息时，确定待检测的所述即时通信消息不满足所述过滤条件。5.根据权利要求1所述的方法，其特征在于，所述过滤策略包括待过滤的敏感信息的第二信息类别；所述根据敏感信息库以及所述过滤策略检测所述即时通信消息是否满足过滤条件，包括：检测所述即时通信消息中是否包含所述敏感信息库中的敏感信息；当所述即时通信消息中包含所述敏感信息库中的敏感信息时，检测所述即时通信消息中包含的敏感信息对应的信息类别是否是所述第二信息类别；当所述即时通信消息中包含的敏感信息是所述第二信息类别时，确定所述即时通信消息满足所述过滤条件；当所述即时通信消息中包含的敏感信息不是所述第二信息类别时，确定所述即时通信消息不满足所述过滤条件；其中，所述第二信息类别包括政治类、谣言类、暴力类、金融诈骗类和色情类中的至少一种。6.根据权利要求1所述的方法，其特征在于，所述过滤策略包括所述即时通信消息与所述敏感信息库中的敏感信息之间的匹配阈值；所述根据敏感信息库以及所述过滤策略检测所述即时通信消息是否满足过滤条件，包括：计算所述即时通信消息与所述敏感信息库中的敏感信息之间的匹配度；检测所述匹配度是否达到所述匹配阈值；当所述匹配度达到所述匹配阈值时，确定所述即时通信消息满足所述过滤条件；当所述匹配度未达到所述匹配阈值时，确定所述即时通信消息不满足所述过滤条件。7.根据权利要求1所述的方法，其特征在于，所述过滤所述即时通信消息，包括：从第三预设对应关系中查询与所述信用信息对应的过滤方式，所述过滤方式是过滤所述即时通信消息的方式，所述第三预设对应关系中包括所述信用信息与所述过滤方式之间的对应关系；按照所述过滤方式过滤整条所述即时通信消息，或者，按照所述过滤方式过滤所述即时通信消息中包含的敏感信息。8.根据权利要求1所述的方法，其特征在于，所述方法还包括：从第四预设对应关系中查询与所述信用信息对应的提示方式，所述第四预设对应关系中包括所述信用信息与所述提示方式之间的对应关系；按照所述提示方式向所述第二用户帐号发送提示信息。9.根据权利要求1至8任一所述的方法，其特征在于，所述获取第二用户帐号的信用信息，包括：从第五预设对应关系中查询与所述第二用户帐号对应的所述信用信息，所述第五预设对应关系中包括所述第二用户帐号与所述信用信息之间的对应关系；或者；向第一信用服务器发送查询请求，所述查询请求携带有所述第二用户帐号；接收所述第一信用服务器反馈的所述第二用户帐号对应的所述信用信息；或者；向第二信用服务器发送查询请求，所述查询请求携带有所述第二用户帐号的用户的实名信息；接收所述第二信用服务器反馈的所述实名信息对应的所述信用信息。10.一种信息过滤装置，其特征在于，所述装置包括：接收模块，用于接收第一用户帐号发送的即时通信消息；获取模...

【专利技术属性】
技术研发人员：黎新，陈谦，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：广东,44