一种自动违规弹幕检测方法、装置、系统、介质及设备制造方法及图纸

本申请公开了一种自动违规弹幕检测方法、装置、系统、介质及设备，属于及网络视频领域。主要包括，获取至少一条弹幕内容以及与至少一条弹幕内容相关的相关视频内容；利用文本编码器根据至少一条弹幕内容生成文本编码特征代表向量，并且利用视频编码器根据相关视频内容生成视频编码特征代表向量；利用多模态融合器对文本编码特征代表向量以及视频编码特征代表向量进行融合生成融合编码特征向量；以及，利用结果预测器根据融合编码特征向量对至少一条弹幕内容是否包含违规内容进行预测得到最终检测结果。本申请能够自动结合文本信息和视频信息对弹幕是否包含违规内容做出正确的判断。判断。判断。

【技术实现步骤摘要】
一种自动违规弹幕检测方法、装置、系统、介质及设备


[0001]本申请涉及网络视频领域，特别涉及一种自动违规弹幕检测方法、装置、系统、介质及设备。

技术介绍

[0002]观众观看网络视频时对交互性、娱乐性的要求越来越高，因此不少视频门户加入了“弹幕”功能。所谓弹幕，就是在观看视频的任何时间点，发表简短的感想、评论，之后，该评论就会出现在视频中，其他观众也能看到。弹幕极大增强了观众之间的互动，拉近了观众与视频制作者的距离。
[0003]然而，由于当前弹幕不受任何限制，观众可以发表任何性质、内容的弹幕，如与视频内容无关的弹幕，甚至是一些违规的，比如包括色情、造谣、辱骂等内容的弹幕，这就导致了大部分观众在观看视频时，会受到少部分此类弹幕的干扰，严重影响观看体验。另一方面，尽管视频门户网站的管理员具有权限删除、屏蔽弹幕，但是每天成千上万的新视频，海量的弹幕使得管理员人工删除所有违规弹幕成为不可能实现的事情。。

技术实现思路

[0004]针对现有技术存在的问题，本申请主要提供一种自动违规弹幕检测方法、装置、系统、介质及设备，通过将文本特征和视频特征进行融合之后，利用预测器根据融合特征进行预测，能够自动结合文本信息和视频信息对弹幕的内容是否违规做出正确的判断。
[0005]为了实现上述目的，本申请采用的一个技术方案是：提供一种自动违规弹幕检测方法，其包括：
[0006]获取至少一条弹幕内容以及与至少一条弹幕内容相关的相关视频内容；利用文本编码器根据至少一条弹幕内容生成文本编码特征代表向量，并且利用视频编码器根据相关视频内容生成视频编码特征代表向量；利用多模态融合器对文本编码特征代表向量以及视频编码特征代表向量进行融合生成融合编码特征向量；以及，利用结果预测器根据融合编码特征向量对至少一条弹幕内容是否包含违规内容进行预测得到最终检测结果。
[0007]本申请采用的另一个技术方案是：提供一种自动违规弹幕检测装置，其包括：
[0008]内容获取模块，用于获取至少一条弹幕内容以及与至少一条弹幕内容相关的相关视频内容；代表向量生成模块，用于利用文本编码器根据至少一条弹幕内容生成文本编码特征代表向量，并且利用视频编码器根据相关视频内容生成视频编码特征代表向量；融合模块，用于利用多模态融合器对文本编码特征代表向量以及视频编码特征代表向量进行融合生成融合编码特征向量；以及，检测模块，用于利用结果预测器根据融合编码特征向量对至少一条弹幕内容是否包含违规内容进行预测得到最终检测结果。
[0009]本申请采用的另一个技术方案是，一种自动违规弹幕检测系统，包括文本编码器、视频编码器、多模块融合器、结果预测器以及上述的自动违规弹幕检测装置。
[0010]本申请采用的另一个技术方案是：一种计算机可读存储介质，其存储有计算机指
令，其特征在于，计算机指令被操作以执行上述方案中的自动违规弹幕检测方法。
[0011]本申请采用的另一个技术方案是：一种计算机设备，其包括处理器和存储器，存储器存储有计算机指令，该计算机指令被操作以执行上述方案中的一种自动违规弹幕检测方法。
[0012]本申请的技术方案可以达到的有益效果是：本申请设计一种自动违规弹幕检测方法、装置、系统、介质及设备。本申请通过将文本特征和视频特征进行融合，利用预测器根据融合后的特征进行预测，能够自动结合文本信息和视频信息对弹幕是否包含违规内容做出正确的判断，从而即时自动对弹幕进行选择保留、屏蔽或过滤等操作，大大减少审核时间。
附图说明
[0013]为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
[0014]图1是本申请一种自动违规弹幕检测方法的一个具体实施方式的流程示意图；
[0015]图2是本申请一种自动违规弹幕检测方法的一个具体实施例的流程示意图；
[0016]图3是本申请一种自动违规弹幕检测方法的一个具体实例的流程示意图；
[0017]图4是本申请一种自动违规弹幕检测装置的一个具体实施方式示意图；
[0018]图5是本申请一种自动违规弹幕检测装置的一个具体实施例示意图。
[0019]通过上述附图，已示出本公开明确的实施例，后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本公开构思的范围，而是通过参考特定实施例为本领域技术人员说明本公开的概念。
具体实施方式
[0020]下面结合附图对本申请的较佳实施例进行详细阐述，以使本申请的优点和特征能更易于被本领域技术人员理解，从而对本申请的保护范围做出更为清楚明确的界定。
[0021]需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括
……”
限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
[0022]随着互联网技术的发展，观众观看网络视频时对交互性、娱乐性的要求越来越高，因此不少视频门户加入了“弹幕”功能。所谓弹幕，就是在观看视频的任何时间点，发表简短的感想、评论，之后，该评论就会出现在视频中，其他观众也能看到。弹幕极大增强了观众之间的互动，拉近了观众与视频制作者的距离。
[0023]然而，由于当前弹幕不受任何限制，观众可以发表任何性质、内容的弹幕，如与视频内容无关的弹幕，甚至是一些违规的，比如包括色情、造谣、辱骂等内容的弹幕，这就导致
了大部分观众在观看视频时，会受到少部分此类弹幕的干扰，严重影响观看体验。另一方面，尽管视频门户网站的管理员具有权限删除、屏蔽弹幕，但是每天成千上万的新视频，如海的弹幕量使得管理员人工删除所有违规弹幕成为不可能实现的事情。
[0024]对弹幕是否包含违规内容进行判断时，如果仅仅针对弹幕的内容进行判断，并不能准确界别出其是否包含违规内容。比如弹幕出现“猪”，如果视频内容也是猪的话，弹幕内容就不包括涉嫌辱骂违规的内容；但是如果视频内容时人的话就会涉嫌包括辱骂违规的内容。
[0025]本申请设计了一种基于多模态信息的一种自动违规弹幕检测方法、装置、系统、介质及设备，在用户发出弹幕之后，就可以即时自动地判断弹幕是否违规，从而选择保留、屏蔽或过滤等操作，大大减少人工审核时间。
[0026]下面以具体地实施例，并结合附图对本申请的技术方案进行详细说明。下面这几个具体的实施例可以相本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种自动违规弹幕检测方法，其特征在于，包括，获取至少一条弹幕内容以及与所述至少一条弹幕内容相关的相关视频内容；利用文本编码器根据所述至少一条弹幕内容生成文本编码特征代表向量，并且利用视频编码器根据所述相关视频内容生成视频编码特征代表向量；利用多模态融合器对所述文本编码特征代表向量以及所述视频编码特征代表向量进行融合生成融合编码特征向量；以及，利用结果预测器根据所述融合编码特征向量对所述至少一条弹幕内容是否包含违规内容进行预测得到最终检测结果。2.根据权利要求1所述的自动违规弹幕检测方法，其特征在于，所述相关视频内容包括，所述至少一条弹幕内容出现的时间点前后预定时间段内的视频内容。3.根据权利要求1所述的自动违规弹幕检测方法，其特征在于，所述利用文本编码器根据所述至少一条弹幕内容生成文本编码特征代表向量的过程包括，利用所述文本编码器根据所述至少一条弹幕内容的每个字生成对应的文本编码特征向量，并将所有所述文本编码特征向量经最大池化得到所述文本编码特征代表向量；所述利用视频编码器根据所述相关视频内容生成视频编码特征代表向量的过程包括，利用所述视频编码器根据所述相关视频内容的每一秒视频内容生成对应的视频编码特征向量，并将所有所述视频编码特征向量经最大池化得到所述视频编码特征代表向量。4.根据权利要求1所述的自动违规弹幕检测方法，其特征在于，还包括，对弹幕内容进行实时监测，以便在第一时间获取所述至少一条弹幕内容以及所述相关视频内容。5.一种自动违规弹幕检测装置，其特征在于，包括，内容获取模块，用于获取至少一条弹幕内容以及与所述至少一条弹幕内容相关的相关视频内容；代表向量生成模块，用于利用文本编码器根据所述至少一条弹幕内容生成文本编码特征代表向量，并且...

【专利技术属性】
技术研发人员：卜贺纯，何豪杰，王思宽，王铎，李晓雅，卢辰鑫，
申请(专利权)人：北京香侬慧语科技有限责任公司，
类型：发明
国别省市：