内容分级数据流过滤制造技术

本申请公开了内容分级数据流过滤。一种计算机实现方法可包括确定要应用于流媒体内容的内容分级级别；从流媒体内容中分离出至少一个流；检测至少一个流不满足内容分级级别；以及响应于至少一个流的至少一部分不满足内容分级级别而阻断至少一个流的至少一部分。分级级别而阻断至少一个流的至少一部分。分级级别而阻断至少一个流的至少一部分。

【技术实现步骤摘要】
内容分级数据流过滤

技术介绍

[0001]流媒体内容，包括实时电话会议流，可能会意外地包括不适当的内容。例如，考虑用户经由电话会议连接的场景。用户中的一个或多个用户可能位于其家庭环境或非正式工作环境中。在电话会议期间，当从用户的设备发送实时视频和/或音频流时，用户或与用户在一起的另一个人可能忘记或忽略与电话会议相关联的正式性的级别。例如，用户可能具有不适当的背景对象，个人可能做出猥亵的姿势或使用亵渎的语言，或者用户可能忘记存在实时视频流而将会议设备带到不适当的地方。同时，由于电话会议是实时的，用户或个人的动作和物体立即被捕获并传输给其他与会者。防止流媒体内容中包括不适当的内容是一种挑战。当流媒体内容被实时呈现时，此类挑战是困难的。

技术实现思路

[0002]通常，在一个方面中，一个或多个实施例涉及一种计算机实现方法，包括确定要应用于流媒体内容的内容分级级别；从流媒体内容中分离出至少一个流；检测至少一个流不满足内容分级级别；以及响应于至少一个流的至少一部分不满足内容分级级别而阻断至少一个流的至少一部分。
[0003]通常，在一个方面中，一个或多个实施例涉及一种系统，包括处理器和存储器。存储器包括应用，其中应用使用存储器在处理器上执行，并且被配置为：确定要应用于流媒体内容的内容分级级别，从流媒体内容中分离出至少一个流，检测至少一个流不满足内容分级级别；以及响应于至少一个流的至少一部分不满足内容分级级别而阻断至少一个流的至少一部分。
[0004]通常，在一个方面中，一个或多个实施例涉及一个或多个非瞬态计算机可读介质的集合，包括用于以下目的的计算机可读程序代码：确定要应用于流媒体内容的内容分级级别；从流媒体内容中分离出至少一个流；检测至少一个流不满足内容分级级别；以及响应于至少一个流的至少一部分不满足内容分级级别而阻断至少一个流的至少一部分。
[0005]根据以下描述以及所附权利要求，本专利技术的其他方面将是显而易见的。
附图说明
[0006]图1A和图1B示出了根据所公开的实施例的系统的图。
[0007]图2、图3和图4示出了根据所公开的实施例的流程图。
[0008]图5示出了根据所公开的实施例的示例。
具体实施方式
[0009]现在将参考附图详细描述本公开的具体实施例。为了一致性，各种附图中的相似的元素由相似的附图标记表示。
[0010]在本公开的实施例的以下详细描述中，阐述了许多特定细节以提供对本公开的更透彻的理解。然而，对本领域的普通技术人员将显而易见的是，可以在没有这些具体细节的
情况下实践本公开。在其他实例中，众所周知的特征并未被详细描述以免不必要地复杂化描述。
[0011]在整个申请中，序数(例如，第一、第二、第三等)可以用作元素(即，申请中的任何名词)的形容词。序数的使用不意味着或创建元素的任何特定排序，也不是将任何元素限制为仅仅是单个元素，除非明确公开，诸如，通过使用术语“之前”、“之后”、“单个”和其他此类术语。相反，序数的使用是为了区分元素。作为示例，第一元素与第二元素不同，并且第一元素可以包含多于一个元素并且在元素的排序中继承第二元素(或在第二元素之前)。
[0012]通常，视频会议设备防止不适当的内容的传输或呈现。不适当的内容是指检测到的内容不符合内容分级级别。视频会议设备生成或接收流媒体内容，流媒体内容包括一个或多个内容共享流、音频流、视频流等。视频会议设备分析音频和/或视频流以确定流是否包括不适当的内容。不适当的内容可包括不适当的对象的图像和不适当的语音的音频。通过利用人工智能算法处理来自视频流的视频帧来分析视频流，该人工智能算法识别视频流中的对象并识别标识视频流中的对象是否合适。可通过将音频流转录成文本来处理音频数据，过滤文本中的关键字，并利用人工智能算法处理文本中的不适当语音来分析音频流。当在内容的流中识别出不适当的对象或语音时，视频会议设备可使包括不适当的对象或语音的内容的部分或全部内容静音。
[0013]视频流可以是来自相机的流或屏幕共享流、屏幕共享内容、来自一个应用窗口的流等。音频流可以是来自麦克风的流、系统输出的音频流、来自一个应用的音频流等。
[0014]图1A和图1B示出了根据本公开的实施例的图。图1A示出了端点的示例。图1B示出了端点的部件的示例。图1A和图1B的实施例可以组合，并且可以包括本申请的其他附图中描述的特征和实施例或被包括在本申请的其他附图中描述的特征和实施例中。图1A和图1B的特征和元件单独地和作为组合是对机器学习技术的改进。可以从如图1A和图1B所示中省略、重复、组合和/或改变图1A和图1B中所示的各种元件、系统和部件。因此，本公开的范围不应被视为限于图1A和图1B中所示的特定布置。
[0015]转到图1A，图1A示出了用于本公开的示例电路的可能操作环境。具体地，图1A示出了根据本公开的实施例的会议装置或端点(10)。
[0016]图1A的会议装置或端点(10)通过网络(55)与一个或多个远程端点(60)通信。端点(10)包括具有音频编解码器(32)的音频模块(30)和具有视频编解码器(42)的视频模块(40)。音频和视频模块(30、40)可操作地耦合到控制模块(20)和网络模块(50)。模块(30、40、20、50)包括专用硬件、由一个或多个处理器执行的软件或它们的组合。在一些示例中，视频模块(40)对应于图形处理单元(GPU)、可由图形处理单元执行的软件、中央处理单元(CPU)、可由CPU执行的软件、处理来自相机组(46)的原始图像数据的图像处理器(也称为图像信号处理器(ISP))、执行模块(30、40、20、50)的应用和其他程序的应用处理器等。在一些示例中，控制模块(20)包括CPU或应用处理器、可执行软件或它们的组合。在一些示例中，网络模块(50)包括一个或多个网络接口设备、CPU、可由CPU执行的软件或它们的组合。在一些示例中，音频模块(30)包括CPU、可由CPU执行的软件、声卡或它们的组合。在一些示例中，相机组(46)包括图像处理器、图像处理软件或它们的组合。在端点(10)上运行的不同处理器、程序和应用可使用由处理器、程序和应用暴露的应用编程接口(API)彼此通信。
[0017]端点(10)的控制模块(20)确定要应用于来自流媒体内容的多个设置和/或参与者
的流媒体内容的内容分级级别。控制模块(20)分离出形成流媒体内容的各个音频和视频流。控制模块(20)通过检测流的分级级别并将流分级级别(例如，视频流的视频分级级别或音频流的音频分级级别)与内容分级级别进行比较，确定流媒体内容的音频和视频流是否满足内容分级级别。控制模块(20)阻断不满足内容分级级别的数据流的至少一部分数据流。
[0018]在本地显示流媒体内容并将流媒体内容发送到远程端点(60)之前，端点(10)可对端点(10)捕获的流媒体内容应用分级级别。端点(10)还可在端点(10)上呈现远程流媒体内容之前，对从远程端点(60)接收的流媒体内容应用分级级别。附加地，流媒体内容可以本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种计算机实现的方法，包括：确定要应用于流媒体内容的内容分级级别；从所述流媒体内容中分离出至少一个流；检测所述至少一个流不满足所述内容分级级别；以及响应于所述至少一个流的至少一部分不满足所述内容分级级别而阻断所述至少一个流的所述至少一部分。2.如权利要求1所述的计算机实现方法，其特征在于，所述流媒体内容是呼叫的一部分，并且确定所述内容分级级别进一步包括：识别所述呼叫的呼叫设置；识别所述呼叫的参与者；识别所述呼叫的设备默认设置；以及识别所述呼叫的用户定义的设置。3.如权利要求1所述的计算机实现方法，其特征在于，所述流媒体内容包括视频流，并且分离所述至少一个流进一步包括：从所述流媒体内容分离出所述视频流作为所述至少一个流的部分；针对机器学习对象分类过滤器来处理来自所述视频流的视频帧，以检测所述视频帧中的对象；以及将所述对象与所述内容分级级别对齐，以识别所述视频流的视频分级级别，其中所述视频分级级别与所述内容分级级别相比较以检测所述视频流是否不满足所述内容分级级别。4.如权利要求1所述的计算机实现方法，其特征在于，所述流媒体内容包括视频流，并且检测所述至少一个流不满足所述内容分级级别包括：确定所述视频流的视频分级级别超出所述内容分级级别。5.如权利要求1所述的计算机实现方法，其特征在于，所述流媒体内容包括视频流，并且阻断所述至少一个流的至少所述部分进一步包括：阻断在来自所述流媒体内容的所述视频流中检测到的对象。6.如权利要求5所述的计算机实现方法，其特征在于，阻断所述对象使所述视频流的视频帧中的所述对象模糊，同时保持所述视频帧的其余部分完好无损。7.如权利要求1所述的计算机实现方法，其特征在于，所述流媒体内容包括音频流，并且分离所述至少一个流进一步包括：从所述流媒体内容分离出所述音频流作为所述至少一个流的部分；针对文本检测过滤器处理所述音频流以检测文本；以及将所述文本与所述内容分级级别对齐，以识别所述音频流的音频分级级别，其中所述音频分级级别与所述内容分级级别相比较以检测所述音频流是否不满足所述内容分级级别。8.如权利要求1所述的计算机实现方法，其特征在于，所述流媒体内容包括音频流，并且检测所述至少一个流不满足所述内容分级级别包括：确定所述音频流的音频分级级别超出所述内容分级级别。9.如权利要求1所述的计算机实现方法，其特征在于，所述流媒体内容包括音频流，并
且阻断所述至少一个流的至少所述部分进一步包括：阻断来自所述流媒体内容的所述音频流的一部分。10.如权利要求1所述的计算机实现方法，其特征在于，阻断所述至少一个流的所述至少所述部分包括：与所述流媒体内容断开连接。11.一种系统，包括：处理器；存储器；所述存储器包括应用，其特征在于，所述应用使用所述存储器在所述处理器上执行，并且被配置为：确定要应用于流媒体内容的内容分级级别；从所述...

【专利技术属性】
技术研发人员：J，
申请(专利权)人：缤特力股份有限公司，
类型：发明
国别省市：