一种信息过滤方法及系统技术方案

本申请实施例公开了一种信息过滤方法及系统，涉及智能终端技术领域。所述方法包括：获取终端用户发送的一种信息；将所述信息转化为可处理数据；利用神经网络执行情绪训练；输出所述信息的情绪值；判断所述情绪值是否低于预设阈值；若是，过滤所述信息。本申请的信息过滤方法及系统，通过神经网络系统对信息执行情绪训练，判断输出的情绪值，过滤低于预设阈值的信息，以提高信息过滤的效率，改善用户体验。

A method and system of information filtering

【技术实现步骤摘要】
一种信息过滤方法及系统
本申请涉及智能终端
，尤其涉及信息过滤方法及系统。
技术介绍
随着通信技术的飞速发展，人们的生活、工作等与智能终端(例如，通信终端等)息息相关。目前，智能终端的功能逐渐多样化，例如，智能终端可以通过社交平台等分享动态信息。终端用户对于社交平台的动态信息往往是被动接收，而当分享传递的信息过于负面、消极时，极易影响被动接收信息的其他用户。虽然现有信息可以过滤文本信息，然而，随着分享信息的形式日益丰富，例如，图片、视频、语音等信息难以实现有效的过滤。此外，依赖人工审核的信息过滤，工作量大，审核效率低，并极易产生疏漏。因此，期望提供一种信息过滤方法及系统，通过神经网络系统对信息执行情绪训练，判断输出的情绪值，过滤低于预设阈值的信息，以提高信息过滤的效率，改善用户体验。
技术实现思路
根据本申请的一些实施例的第一方面，提供了一种信息过滤方法，应用于终端(例如，电子设备等)中，所述方法可以包括：获取终端用户发送的一种信息；将所述信息转化为可处理数据；利用神经网络执行情绪训练；输出所述信息的情绪值；判断所述情绪值是否低于预设阈值；若是，过滤所述信息。在一些实施例中，所述信息包括文本信息和图片信息，所述方法可以进一步包括：对所述文本信息执行信息识别，识别限制文本；删除所述文本信息中的限制文本。在一些实施例中，所述图片信息通过视频文件获取，所述方法可以进一步包括：将视频文件以帧为单位分成多个图片，得到图片信息。在一些实施例中，对所述信息进行初步处理，所述方法可以进一步包括：对所述文本信息提取情绪文本；对所述图片信息提取表情内容；将所述情绪文本和表情内容转化为数字矩阵。在一些实施例中，所述对所述文本信息提取情绪文本进一步包括：构建情绪文本映射；根据所述情绪文本映射，提取所述文本信息中的关键字为情绪文本。在一些实施例中，所述神经网络系统通过大数据进行机器学习构建得到，所述神经网络系统包括损失函数。在一些实施例中，所述情绪文本和表情内容作为所述神经网络系统的输入数据，所述方法可以进一步包括：对所述输入数据进行预处理，所述预处理包括加权转化、非线性处理。在一些实施例中，所述过滤所述信息进一步包括：替换所述文本信息的情绪文本。在一些实施例中，所述方法可以进一步包括：若否，发送所述信息。根据本申请的一些实施例的第二方面，提供了一个系统，包括：一个存储器，被配置为存储数据及指令；一个与存储器建立通信的处理器，其中，当执行存储器中的指令时，所述处理器被配置为：获取终端用户发送的一种信息；将所述信息转化为可处理数据；利用神经网络执行情绪训练；输出所述信息的情绪值；判断所述情绪值是否低于预设阈值；若是，过滤所述信息。因此，根据本申请的一些实施例的信息过滤方法及系统，通过神经网络系统对信息执行情绪训练，判断输出的情绪值，过滤低于预设阈值的信息，以提高信息过滤的效率，改善用户体验。附图说明为更好地理解并阐述本申请的一些实施例，以下将结合附图参考实施例的描述，在这些附图中，同样的数字编号在附图中指示相应的部分。图1是根据本申请的一些实施例提供的网络环境系统的示例性示意图。图2是根据本申请的一些实施例提供的电子设备功能配置的示例性单元示意图。图3是根据本申请的一些实施例提供的信息过滤方法的示例性流程图。具体实施方式以下参考附图的描述为便于综合理解由权利要求及其等效内容所定义的本申请的各种实施例。这些实施例包括各种特定细节以便于理解，但这些仅被视为示例性的。因此，本领域技术人员可以理解对在此描述的各种实施例进行各种变化和修改而不会脱离本申请的范围和精神。另外，为简要并清楚地描述本申请，本申请将省略对公知功能和结构的描述。在以下说明书和权利要求书中使用的术语和短语不限于字面含义，而是仅为能够清楚和一致地理解本申请。因此，对于本领域技术人员，可以理解，提供对本申请各种实施例的描述仅仅是为说明的目的，而不是限制所附权利要求及其等效定义的本申请。下面将结合本申请一些实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。需要说明的是，在本申请实施例中使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本申请。在本申请实施例和所附权利要求书中所使用的单数形式的“一”、“一个”、“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本申请中使用的术语“和/或”是指并包含一个或多个相绑定的列出项目的任何或所有可能组合。表达“第一”、“第二”、“所述第一”和“所述第二”是用于修饰相应元件而不考虑顺序或者重要性，仅仅被用于区分一种元件与另一元件，而不限制相应元件。根据本申请一些实施例的终端可以是电子设备，该电子设备可以包括智能手机、个人电脑(PC，例如平板电脑、台式电脑、笔记本、上网本、掌上电脑PDA)、移动电话、电子书阅读器、便携式多媒体播放器(PMP)、音频/视频播放器(MP3/MP4)、摄像机、虚拟现实设备(VR)和可穿戴设备等中的一种或几种的组合。根据本申请的一些实施例，所述可穿戴设备可以包括附件类型(例如手表、戒指、手环、眼镜、或头戴式装置(HMD))、集成类型(例如电子服装)、装饰类型(例如皮肤垫、纹身或内置电子装置)等，或几种的组合。在本申请的一些实施例中，所述电子设备可以是灵活的，不限于上述设备，或者可以是上述各种设备中的一种或几种的组合。在本申请中，术语“用户”可以指示使用电子设备的人或使用电子设备的设备(例如人工智能电子设备)。本申请实施例提供了一种信息过滤方法。为了便于理解本申请实施例，以下将参考附图对本申请实施例进行详细描述。图1是根据本申请的一些实施例提供的网络环境系统100的示例性示意图。如图1所示，网络环境系统100可以包括电子设备110、网络120和服务器130等。电子设备110可以包括总线111、处理器112、存储器113、输入/输出模块114、显示器115、通信模块116和物理键117等。在本申请的一些实施例中，电子设备110可以省略一个或多个元件，或者可以进一步包括一个或多个其它元件。总线111可以包括电路。所述电路可以互连电子设备110内的一个或多个元件(例如，总线111、处理器112、存储器113、输入/输出模块114、显示器115、通信模块116和物理键117)。所述电路也可以在电子设备110内的一个或多个元件之间实现通信(例如，获取和/或发送信息)。处理器112可以包括一个或多个协处理器(Co-processor)、应用处理器(AP，ApplicationProcessor)和通信处理器(CommunicationProcessor)。作为示例，处理器112可以执行与电子设备11本文档来自技高网...

【技术保护点】
1.一种信息过滤方法，其特征在于，包括：/n获取终端用户发送的一种信息；/n将所述信息转化为可处理数据；/n利用神经网络系统执行情绪训练；/n输出所述信息的情绪值；/n判断所述情绪值是否低于预设阈值；/n若是，过滤所述信息。/n

【技术特征摘要】
1.一种信息过滤方法，其特征在于，包括：
获取终端用户发送的一种信息；
将所述信息转化为可处理数据；
利用神经网络系统执行情绪训练；
输出所述信息的情绪值；
判断所述情绪值是否低于预设阈值；
若是，过滤所述信息。


2.根据权利要求1所述的信息过滤方法，其特征在于，所述信息包括文本信息和图片信息，进一步包括：
对所述文本信息执行信息识别，识别限制文本；
删除所述文本信息中的限制文本。


3.根据权利要求2所述的信息过滤方法，其特征在于，所述图片信息通过视频文件获取，进一步包括：
将视频文件以帧为单位分成多个图片，得到图片信息。


4.根据权利要求2所述的信息过滤方法，其特征在于，对所述信息进行初步处理，进一步包括：
对所述文本信息提取情绪文本；
对所述图片信息提取表情内容；
将所述情绪文本和表情内容转化为数字矩阵。


5.根据权利要求4所述的信息过滤方法，其特征在于，所述对所述文本信息提取情绪文本进一步包括：
构建情绪文本映射；
根据所述情绪文本映射，提取所述...

【专利技术属性】
技术研发人员：张少清，钟水洪，陈学亮，
申请(专利权)人：上海爱优威软件开发有限公司，
类型：发明
国别省市：上海;31