信息异常检测方法、装置、电子设备和存储介质制造方法及图纸

本申请公开了信息异常检测方法、装置、电子设备和存储介质，涉及自然语言处理和云计算领域。具体实现方案为：获取待处理的信息内容和该信息内容所属的业务场景，并获取该业务场景对应的异常条件表达式，异常条件表达式中包括多个异常条件以及多个异常条件之间的逻辑关系，之后根据多个异常条件中的异常检测算子对信息内容进行检测，以获取信息内容在多个异常条件下的检测结果，从而可根据检测结果以及多个异常条件之间的逻辑关系，确定信息内容是否存在异常。由此，基于业务场景对应的异常条件表达式，对信息内容进行异常检测，不仅可以提升检测效率，而且还可以提升检测结果的可靠性。此外，还能够适用于不同的业务场景中，提升该方法的适用性。

【技术实现步骤摘要】
信息异常检测方法、装置、电子设备和存储介质
本申请涉及NLP(NaturalLanguageProcessing，自然语言处理)、云计算等AI(ArtificialIntelligence，人工智能)领域，尤其涉及信息异常检测方法、装置、电子设备和存储介质。
技术介绍
人工客服是处理客户售前、售后问题的常见服务形态，客服与客户通过对话系统进行交互，产生大量的对话记录。通过对客服与客户之间的对话记录进行语义检测，能够识别对话记录中是否存在不合理话术(比如存在不文明用词、存在重复句子、存在不合理的电话号码或地址、情感倾向负向等等)，从而可以评估客服的工作质效，其目的在于提升客服的整体水平与服务质量。
技术实现思路
本申请提供了一种用于信息异常检测方法、装置、电子设备以及存储介质。根据本申请的一方面，提供了一种信息异常检测方法，包括：获取待处理的信息内容，以及所述信息内容所属的业务场景；获取所述业务场景对应的异常条件表达式，其中，所述异常条件表达式中包括多个异常条件以及所述多个异常条件之间的逻辑关系；根据所述多个异常条件中的异常检测算子对所述信息内容进行检测，以获取所述信息内容在所述多个异常条件下的检测结果；根据所述检测结果以及所述多个异常条件之间的逻辑关系，确定所述信息内容是否存在异常。根据本申请的另一方面，提供了一种信息异常检测装置，包括：第一获取模块，用于获取待处理的信息内容，以及所述信息内容所属的业务场景；第二获取模块，用于获取所述业务场景对应的异常条件表达式，其中，所述异常条件表达式中包括多个异常条件以及所述多个异常条件之间的逻辑关系；检测模块，用于根据所述多个异常条件中的异常检测算子对所述信息内容进行检测，以获取所述信息内容在所述多个异常条件下的检测结果；第一确定模块，用于根据所述检测结果以及所述多个异常条件之间的逻辑关系，确定所述信息内容是否存在异常。根据本申请的又一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本申请上述实施例提出的信息异常检测方法。根据本申请的再一方面，提供了一种计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行本申请上述实施例提出的信息异常检测方法。根据本申请的还一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现本申请上述实施例提出的信息异常检测方法。应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。附图说明附图用于更好地理解本方案，不构成对本申请的限定。其中：图1是本申请实施例一所提供的信息异常检测方法的流程示意图；图2为本申请实施例二所提供的信息异常检测方法的流程示意图；图3为本申请实施例三所提供的信息异常检测方法的流程示意图；图4为本申请实施例四所提供的信息异常检测方法的流程示意图；图5为本申请实施例中的异常检测系统的结构示意图；图6为本申请实施例五所提供的信息异常检测装置的结构示意图；图7示出了可以用来实施本申请的实施例的示例电子设备的示意性框图。具体实施方式以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。现有技术中，主要通过以下两种方式，对客服和客户之间的对话记录进行语义检测：第一种方式，由于业务逻辑以及检测规则的复杂性，通过质检人员人工对客服和客户之间的对话记录进行语义检测，判断对话记录中是否存在不合理话术，从而评估客服的服务质量。第二种方式，使用机器学习模型对客服和客户之间的对话记录进行语义检测，例如，可以使用情感分析模型检测客服对应的回复内容的态度是否积极，使用主题分析模型判断客服的回复与客户的提问是否属于同一话题等等。然而，第一种通过人工经验对对话记录进行语义检测的方式，主要存在以下几方面问题：第一，检测效率较低；第二，对话记录以抽查为主进行语义检测，覆盖率较低；第三，实时性较差，发现问题具有滞后性，可能导致客户大量投诉的情况发生。而第二种方式下，对特定业务场景的适用性较差。因此，本申请主要针对上述问题，提出一种信息异常检测方法、装置、电子设备和存储介质。下面参考附图描述本申请实施例的信息异常检测方法、装置、电子设备和存储介质。图1为本申请实施例一所提供的信息异常检测方法的流程示意图。本申请实施例以该信息异常检测方法被配置于信息异常检测装置中来举例说明，该信息异常检测装置可以应用于任一电子设备中，以使该电子设备可以执行信息异常检测功能。其中，电子设备可以为任一具有计算能力的设备，例如可以为PC(PersonalComputer，个人电脑)、移动终端、服务器等，移动终端例如可以为手机、平板电脑、个人数字助理、穿戴式设备、车载设备等具有各种操作系统、触摸屏和/或显示屏的硬件设备。如图1所示，该信息异常检测方法可以包括以下步骤：步骤101，获取待处理的信息内容，以及信息内容所属的业务场景。其中，业务场景例如可以为购物场景、充值场景、订餐场景、订票场景等等。本申请实施例中，信息内容可以为任一待处理的信息内容，该信息内容可以为线下采集的，或者也可以为线上采集的，或者，也可以为电子设备本地存储的，等等，对此不作限制。作为一种示例，以信息内容为对话内容进行示例，可以理解的是，客服系统是指客户和客服的对话系统，用于存储客户和客服之间的对话记录。因此，本申请中，可以从客服系统，获取待处理的信息内容，即对话内容。作为一种可能的实现方式，可以从客服系统中，提取预设时间段内的一个客服方和一个客户方之间的对话记录，作为待处理的信息内容。在本申请实施例的一种可能的实现方式中，可以根据获取的信息内容，确定该信息内容所属的业务场景，例如，可以对该信息内容进行语义识别，以确定该信息内容所属的业务场景。举例而言，以信息内容为对话内容进行示例性说明，当信息内容为“客户：我购买的衣服质量有问题。客服：您能描述的更仔细些吗？衣服的型号以及哪里不好？”，对该信息内容进行语义识别，可以确定信息内容所属的业务场景为购物场景。在本申请实施例的另一种可能的实现方式中，以信息内容为客服方与客户方之间的信息内容，比如对话内容进行示例，还可以确定信息内容中的客服方，根据信息内容中客服方的属性信息，确定信息内容所属的业务场景本文档来自技高网...

【技术保护点】
1.一种信息异常检测方法，包括：/n获取待处理的信息内容，以及所述信息内容所属的业务场景；/n获取所述业务场景对应的异常条件表达式，其中，所述异常条件表达式中包括多个异常条件以及所述多个异常条件之间的逻辑关系；/n根据所述多个异常条件中的异常检测算子对所述信息内容进行检测，以获取所述信息内容在所述多个异常条件下的检测结果；/n根据所述检测结果以及所述多个异常条件之间的逻辑关系，确定所述信息内容是否存在异常。/n

【技术特征摘要】
1.一种信息异常检测方法，包括：
获取待处理的信息内容，以及所述信息内容所属的业务场景；
获取所述业务场景对应的异常条件表达式，其中，所述异常条件表达式中包括多个异常条件以及所述多个异常条件之间的逻辑关系；
根据所述多个异常条件中的异常检测算子对所述信息内容进行检测，以获取所述信息内容在所述多个异常条件下的检测结果；
根据所述检测结果以及所述多个异常条件之间的逻辑关系，确定所述信息内容是否存在异常。


2.根据权利要求1所述的方法，其中，所述信息内容为客服方与客户方之间的信息内容；
所述获取待处理的信息内容，以及所述信息内容所属的业务场景，包括：
获取所述信息内容以及所述信息内容中的客服方；
根据所述信息内容中所述客服方的属性信息，确定所述信息内容所属的业务场景。


3.根据权利要求1所述的方法，其中，所述根据所述多个异常条件中的异常检测算子对所述信息内容进行检测，以获取所述信息内容在所述多个异常条件下的检测结果，包括：
针对每个异常条件中的异常检测算子，根据所述异常检测算子对应的检测范围提取所述信息内容中的待检测内容；
采用所述异常检测算子对所述待检测内容进行检测，以获取检测结果。


4.根据权利要求1至3任一项所述的方法，其中，所述异常检测算子包括以下算子中的至少一种：基于字符匹配的关键字检测算子、正则表达式检测算子、基于训练模型的语义重复检测算子和情感分析检测算子。


5.根据权利要求1所述的方法，其中，所述检测结果为，所述信息内容对异常条件的命中度；所述根据所述检测结果以及所述多个异常条件之间的逻辑关系，确定所述信息内容是否存在异常，包括：
针对每个异常条件，根据所述信息内容在所述异常条件下的检测结果以及所述异常条件对应的命中度阈值，确定所述信息内容在所述异常条件下的命中结果；
根据所述信息内容在所述多个异常条件下的命中结果以及所述多个异常条件之间的逻辑关系，确定所述信息内容的命中结果；
在所述信息内容的命中结果为命中时，确定所述信息内容存在异常；
在所述信息内容的命中结果为未命中时，确定所述信息内容未存在异常。


6.根据权利要求1所述的方法，其中，所述方法还包括：
获取存在异常的多个候选信息内容，以及所述多个候选信息内容在对应的多个异常条件下的检测结果，其中，所述检测结果为，所述候选信息内容对异常条件的命中度；
针对每个候选信息内容，根据所述候选信息内容在对应的多个异常条件下的命中度以及每个异常条件的权重，确定所述候选信息内容的异常数值；
根据所述异常数值对所述多个候选信息内容进行排序，得到排序结果；
将所述排序结果提供给用户。


7.一种信息异常检测装置，包括：
第一获取模块，用于获取待处理的信息内容，以及所述信息内容所属的业务场景；
第二获取模块，用于获取所述业务场景对应的异常条件表达式，其中，所述异常条件表达式中包括多个异常条件以及所述多个异常条件之间的逻辑关系；
检测...

【专利技术属性】
技术研发人员：张家铭，陈晓旭，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：北京;11