一种个人电子设备及不良信息过滤方法技术

本发明专利技术提出了一种个人电子设备及不良信息过滤方法，该设备包括：显示驱动模块、不良信息过滤模块和显示模块；不良信息过滤模块的输入端与显示驱动模块相连接、以及不良信息过滤模块的输出端与显示模块相连接；该不良信息过滤模块对显示驱动模块传输的音视频流数据进行不良信息的识别，并拦截音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据，将不良信息过滤后的音视频流数据传输至显示模块。本发明专利技术实施例通过在个人电子设备中设置不良信息过滤模块，从而实现在特定应用场景下对待显示的音视频流数据进行不良信息的识别与拦截，进而保证青少年在使用该个人电子设备时接触到的视频信息的健康性。

【技术实现步骤摘要】
一种个人电子设备及不良信息过滤方法
本专利技术涉及电子设备信息监控
，具体而言，涉及一种个人电子设备及不良信息过滤方法。
技术介绍
目前，随着电子信息社会的快速发展，在人们的日常生活中，智能手机、平板电脑、电脑一体机等个人电子设备广泛普及，并且在广大儿童群体中，智能手机、平板电脑等电子设备也得到了广泛应用，小学甚至幼儿园的少年儿童，大部分都能熟练操作这些电子设备，可以用来观看动画片及玩游戏(包括在线游戏与离线游戏)，使用频率很高；此外，很多学校的教育课件、课外作业、在线教育视频等，也都依赖于智能手机、平板电脑等个人电子设备，因此，智能手机、平板电脑等智能设备，在少年儿童群体中流行已不可避免。然而，当前互联网并非一片净土，网站、APP、游戏、聊天工具等各种网络应用中，都可能充斥着色情、赌博、暴力、恐怖等不良信息，对于心智尚不成熟的少年儿童等未成年人，还未建立鉴别及抗拒能力，很容易被带入歧途。在实现本专利技术的过程中，专利技术人发现相关技术中至少存在以下问题：相关技术中往往由于一些不确定因素，智能手机、平板电脑等智能设备可能出现误播放色情、赌博、暴力、恐怖等不良信息的情况，从而导致正在使用该个人电子设备的青少年，接触到各种各样不利于青少年健康成长的不良信息，这样将对青少年的身心成长带来极大负面作用。
技术实现思路
有鉴于此，本专利技术实施例的目的在于提供一种个人电子设备及不良信息过滤方法，从而实现在特定应用场景下对待显示的音视频流数据进行不良信息的识别与拦截，进而保证青少年在使用该个人电子设备时接触到的视频信息的健康性。第一方面，本专利技术实施例提供了一种个人电子设备，该设备包括：显示驱动模块、不良信息过滤模块和显示模块；所述不良信息过滤模块的输入端与所述显示驱动模块相连接、以及所述不良信息过滤模块的输出端与所述显示模块相连接；所述显示驱动模块，用于将待显示的音视频流数据传输至所述不良信息过滤模块；所述不良信息过滤模块，用于对所述音视频流数据进行不良信息的识别，并拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据，将不良信息过滤后的音视频流数据传输至所述显示模块；所述显示模块，用于显示所述不良信息过滤后的音视频流数据。结合第一方面，本专利技术实施例提供了第一方面的第一种可能的实施方式，其中，所述显示驱动模块和所述不良信息过滤模块位于同一数据处理芯片,或者所述显示驱动模块和所述不良信息过滤模块位于不同的数据处理芯片。结合第一方面，本专利技术实施例提供了第一方面的第二种可能的实施方式，其中，所述不良信息过滤模块，用于对接收到的音视频流数据中的视频数据进行分帧处理，得到多个视频帧；针对每个所述视频帧，对所述视频帧进行图像处理，提取敏感图像区域，得到该视频帧中多个待识别的敏感图像区域；利用预先构建的不良信息识别模型计算各个待识别的敏感图像区域的不良信息匹配度，根据各个所述不良信息匹配度计算该视频帧的不良信息加权平均值；当所述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧；如果确定出视频帧为包含不良信息的视频帧，则拦截该包含不良信息的视频帧和该视频帧对应的音频数据，直到确定后一帧视频帧为不包含不良信息的视频帧；在确定出后一帧视频帧为不包含不良信息的视频帧后，将该不包含不良信息的视频帧传输至显示模块。结合第一方面的第二种可能的实施方式，本专利技术实施例提供了第一方面的第三种可能的实施方式，其中，所述不良信息过滤模块，具体用于：当首次确定出视频帧为包含不良信息的视频帧时，将不良视频帧出现次数加1；判断当前累计的所述不良视频帧出现次数是否大于不良次数阈值；若是，则向信息截断开关发送拦截指令，开始拦截当前确定出的包含不良信息的视频帧和该视频帧对应的音频数据；当首次确定出后一帧视频帧为不包含不良信息的视频帧时，将正常视频帧出现次数加1；判断当前累计的所述正常视频帧出现次数是否大于正常次数阈值；若是，则向信息截断开关发送通过指令，开始将当前确定出的不包含不良信息的视频帧传输至显示模块。结合第一方面的第三种可能的实施方式，本专利技术实施例提供了第一方面的第四种可能的实施方式，其中，所述不良信息过滤模块，具体用于：当当前累计的所述正常视频帧出现次数大于正常次数阈值时，判断当前拦截时间是否大于最短关断时间，若大于，则向信息截断开关发送通过指令。结合第一方面的第二种可能的实施方式，本专利技术实施例提供了第一方面的第五种可能的实施方式，其中，所述不良信息识别模型是利用深度学习方法对选取的不良信息样本进行深度神经网络训练得到的，且所述不良信息识别模型具有多隐层结构。结合第一方面，本专利技术实施例提供了第一方面的第六种可能的实施方式，其中，所述设备还包括：存储模块，所述存储模块分别与所述显示驱动模块和所述不良信息过滤模块相连接；所述存储模块，用于对接收到的所述音视频流数据进行缓存处理，以便所述不良信息过滤模块周期提取存储的音视频流数据。结合第一方面至第一方面的第六种可能的实施方式中任一项，本专利技术实施例提供了第一方面的第七种可能的实施方式，其中，所述设备包括以下电子设备中的任意一种：智能手机、智能手表、平板电脑、智能学习机或电脑一体机。第二方面，本专利技术实施例还提供了一种应用于上述第一方面至第一方面的第七种可能的实施方式中任一项所述的个人电子设备中的不良信息过滤方法，该方法包括：接收显示驱动模块传输的音视频流数据；对所述音视频流数据进行不良信息的识别，确定所述音视频流数据中是否包含不良信息；拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据；将不良信息过滤后的音视频流数据传输至显示模块。结合第二方面，本专利技术实施例提供了第二方面的第一种可能的实施方式，其中，所述对所述音视频流数据进行不良信息的识别，确定所述音视频流数据中是否包含不良信息，包括：对接收到的音视频流数据中的视频数据进行分帧处理，得到多个视频帧；针对每个所述视频帧，对所述视频帧进行图像处理，提取敏感图像区域，得到该视频帧中多个待识别的敏感图像区域；利用预先构建的不良信息识别模型计算各个待识别的敏感图像区域的不良信息匹配度，根据各个所述不良信息匹配度计算该视频帧的不良信息加权平均值；当所述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧；所述拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据，包括：如果确定出视频帧为包含不良信息的视频帧，则拦截该包含不良信息的视频帧和该视频帧对应的音频数据，直到确定后一帧视频帧为不包含不良信息的视频帧。在本专利技术实施例提供的个人电子设备及不良信息过滤方法中，该设备包括：显示驱动模块、不良信息过滤模块和显示模块；不良信息过滤模块的输入端与显示驱动模块相连接、以及不良信息过滤模块的输出端与显示模块相连接；该不良信息过滤模块对显示驱动模块传输的音视频流数据进行不良信息的识别，并拦截音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据，将不良信息过滤后的音视频流数据传输至显示模块。本专利技术实施例通过在个人电子设备中设置不良信息过滤模块，从而实现在特定应用场景下对待显示的音视频流数据进行不良信息的识别与拦截，进而保证青少年在使用该个人电子设备时接触到的视频信息的健康性。为本文档来自技高网...

【技术保护点】
一种个人电子设备，其特征在于，所述设备包括：显示驱动模块、不良信息过滤模块和显示模块；所述不良信息过滤模块的输入端与所述显示驱动模块相连接、以及所述不良信息过滤模块的输出端与所述显示模块相连接；所述显示驱动模块，用于将待显示的音视频流数据传输至所述不良信息过滤模块；所述不良信息过滤模块，用于对所述音视频流数据进行不良信息的识别，并拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据，将不良信息过滤后的音视频流数据传输至所述显示模块；所述显示模块，用于显示所述不良信息过滤后的音视频流数据。

【技术特征摘要】
1.一种个人电子设备，其特征在于，所述设备包括：显示驱动模块、不良信息过滤模块和显示模块；所述不良信息过滤模块的输入端与所述显示驱动模块相连接、以及所述不良信息过滤模块的输出端与所述显示模块相连接；所述显示驱动模块，用于将待显示的音视频流数据传输至所述不良信息过滤模块；所述不良信息过滤模块，用于对所述音视频流数据进行不良信息的识别，并拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据，将不良信息过滤后的音视频流数据传输至所述显示模块；所述显示模块，用于显示所述不良信息过滤后的音视频流数据。2.根据权利要求1所述的设备，其特征在于，所述显示驱动模块和所述不良信息过滤模块位于同一数据处理芯片,或者所述显示驱动模块和所述不良信息过滤模块位于不同的数据处理芯片。3.根据权利要求1所述的设备，其特征在于，所述不良信息过滤模块，用于对接收到的音视频流数据中的视频数据进行分帧处理，得到多个视频帧；针对每个所述视频帧，对所述视频帧进行图像处理，提取敏感图像区域，得到该视频帧中多个待识别的敏感图像区域；利用预先构建的不良信息识别模型计算各个待识别的敏感图像区域的不良信息匹配度，根据各个所述不良信息匹配度计算该视频帧的不良信息加权平均值；当所述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧；如果确定出视频帧为包含不良信息的视频帧，则拦截该包含不良信息的视频帧和该视频帧对应的音频数据，直到确定后一帧视频帧为不包含不良信息的视频帧；在确定出后一帧视频帧为不包含不良信息的视频帧后，将该不包含不良信息的视频帧传输至显示模块。4.根据权利要求3所述的设备，其特征在于，所述不良信息过滤模块，具体用于：当首次确定出视频帧为包含不良信息的视频帧时，将不良视频帧出现次数加1；判断当前累计的所述不良视频帧出现次数是否大于不良次数阈值；若是，则向信息截断开关发送拦截指令，开始拦截当前确定出的包含不良信息的视频帧和该视频帧对应的音频数据；当首次确定出后一帧视频帧为不包含不良信息的视频帧时，将正常视频帧出现次数加1；判断当前累计的所述正常视频帧出现次数是否大于正常次数阈值；若是，则向信息截断开关发送通过指令，开始将当前确定出的不包...

【专利技术属性】
技术研发人员：张乐平，侯磊，李海峰，张博，
申请(专利权)人：北京匠数科技有限公司，
类型：发明
国别省市：北京,11