一种基于人工智能的内容审核系统及方法技术方案

本发明专利技术公开了一种基于人工智能的内容审核系统及方法，包括：审核信息采集模块、数据管理中心、内容审核管理模块、内容修改管理模块和审核预警模块，通过审核信息采集模块采集历史审核完成的新闻内容数据和审核并修改花费的时间数据，通过数据管理中心存储并管理采集到的全部数据，通过内容审核管理模块利用神经网络模型对新闻内容进行审核，并在审核前预先将以往审核出的错误内容对应的修改信息存储到神经网络模型中，通过内容修改管理模块匹配审核出的错误信息，对相似的错误信息统一进行修改信息标记，通过审核预警模块预判当前内容能否按时发布并进行预警，加快了内容审核、修改以及发布的整体进度，降低了内容发布延迟的概率。概率。概率。

【技术实现步骤摘要】
一种基于人工智能的内容审核系统及方法


[0001]本专利技术涉及人工智能
，具体为一种基于人工智能的内容审核系统及方法。

技术介绍

[0002]在人工智能技术驱动下，为加快使用传统媒体和新兴媒体融合发展的需求，急需开展前沿技术嵌入，为解决传统内容审核完全依靠人工处理导致审核效率无法提高的问题，采用人工智能技术对新闻内容进行智能化审核是媒体行业的发展趋势；然而，现有的内容审核方式仍然存在以下问题：首先，在对内容审核完成后需要对错误或不当内容进行修改，利用人工智能技术对内容进行审核，在审核处错误或者不当的内容时，无法提供建议修改信息，从而导致无法在进行审核的同时兼顾加快内容审核、修改以及发布的整体进度；其次，部分新闻内容从审核到发布是有限制时间的，现有技术在对内容进行审核时无法提前对内容是否能够准时发布进行预判，相关人员依旧按照平常进度进行审核、修改，容易导致内容发布出现延迟现象。
[0003]所以，人们需要一种基于人工智能的内容审核系统及方法来解决上述问题。

技术实现思路

[0004]本专利技术的目的在于提供一种基于人工智能的内容审核系统及方法，以解决上述
技术介绍
中提出的问题。
[0005]为了解决上述技术问题，本专利技术提供如下技术方案：一种基于人工智能的内容审核系统，所述系统包括：审核信息采集模块、数据管理中心、内容审核管理模块、内容修改管理模块和审核预警模块；所述审核信息采集模块的输出端连接所述数据管理中心的输入端，所述数据管理中心的输出端连接所述内容审核管理模块的输入端，所述内容审核管理模块的输出端连接所述内容修改管理模块的输入端，所述内容修改管理模块的输出端连接所述审核预警模块的输入端；通过所述审核信息采集模块采集历史审核完成的新闻内容数据和审核并修改花费的时间数据，将采集到的全部数据传输到所述数据管理中心；通过所述数据管理中心存储并管理采集到的全部数据；通过所述内容审核管理模块利用神经网络模型对新闻内容进行审核，并在审核前预先将以往审核出的错误内容对应的修改信息存储到神经网络模型中；通过所述内容修改管理模块匹配审核出的错误内容所表达的信息，对相似的错误信息统一进行修改信息标记；通过所述审核预警模块预测当前审核和修改需要花费的时间，在判断出当前内容不能按时发布时发出预警信号。
[0006]进一步的，所述审核信息采集模块包括修改信息采集单元、审核时间采集单元和
修改时间采集单元；所述修改信息采集单元、审核时间采集单元和修改时间采集单元的输出端连接所述数据管理中心的输入端；所述修改信息采集单元用于采集已审核出的错误内容以及错误内容对应的修改信息；所述审核时间采集单元用于采集已审核完成内容的审核花费的时间和审核数据量；所述修改时间采集单元用于采集对已审核出的错误内容进行修改需要的时间数据。
[0007]进一步的，所述内容审核管理模块包括修改信息输入单元和人工智能审核单元；所述修改信息输入单元的输入端连接所述数据管理中心的输出端，所述修改信息输入单元的输出端连接所述人工智能审核单元的输入端；所述修改信息输入单元用于将错误内容及其对应的修改信息输入到文本检测模型中进行存储，所述文本检测模型由神经网络模型训练形成；所述人工智能审核单元用于将当前待审核的内容输入到文本检测模型中，利用文本检测模型对内容进行审核：将当前待审核的内容与错误内容进行文本匹配，若匹配成功，说明当前待审核的内容为错误内容，在错误内容所在位置进行标记；若匹配失败，利用人工审核方式对当前待审核的内容进行二次审核。
[0008]进一步的，所述内容修改管理模块包括修改内容匹配单元、修改定位单元和集中标记单元；所述修改内容匹配单元的输入端连接所述人工智能审核单元的输出端，所述修改内容匹配单元的输出端连接所述修改定位单元的输入端，所述修改定位单元的输出端连接所述集中标记单元的输入端；所述修改内容匹配单元用于在利用神经网络模型审核出错误内容后，将审核出的错误内容所表达的信息进行文本匹配，获取匹配到的相似错误信息；所述修改定位单元用于确认相似错误信息的修改位置；所述集中标记单元用于在标记错误内容的同时标记修改信息，在相似错误信息的修改位置处对相同的修改信息进行标记，所述相同的修改信息从文本检测模型中选取。
[0009]进一步的，所述审核预警模块包括按时发布预测单元和延时预警单元；所述按时发布预测单元的输入端连接所述数据管理中心的输出端，所述按时发布预测单元的输出端连接所述延时预警单元的输入端；所述按时发布预测单元用于获取当前待审核内容的数据量和修改位置数量，调取并分析以往审核并修改不同内容时花费的时间，并对审核并修改当前内容需要的时间进行预测，判断内容是否能够按时发布；所述延时预警单元用于若预测到当前内容无法按时发布，发出延时预警信号，提醒相关人员加快审核和修改进度。
[0010]一种基于人工智能的内容审核方法，包括以下步骤：Z1：采集新闻内容的历史审核数据以及对以往审核出的错误内容进行修改的信息；
Z2：对当前新闻内容进行审核，获取审核出的错误内容及其对应的修改信息；Z3：对审核出的错误内容表达的信息进行匹配，对相似的错误内容表达的信息统一进行修改信息标记。
[0011]进一步的，在步骤Z1中：采集到已审核完成的新闻内容数据量集合为B={B1，B2，
…
，Bn}，采集到审核对应新闻内容时花费的时间集合为t={t1，t2，
…
，tn}，修改对应新闻内容花费的时间集合为T={T1，T2，
…
，Tn}，其中，n表示已完成的审核次数；在步骤Z2中：将当前待审核的内容输入到文本检测模型中进行检测：将文本检测模型中的错误内容与当前待审核的内容进行匹配，判断当前待审核的内容中是否存在与文本检测模型中相同的错误内容：若存在，表示匹配成功，对错误内容进行标记；若不存在，表示匹配失败，利用人工审核方式对当前待审核的内容进行二次审核。
[0012]进一步的，在步骤Z3中：将已审核完成且存在错误的新闻内容及其对应的修改信息输入到文本检测模型中，若监测到当前待审核的内容中存在与文本检测模型中相同的错误内容，在标记当前错误内容的同时在当前错误内容处标记对应的修改信息，获取到共有m处错误内容需要修改，当前错误内容表达的信息集合为W={W1，W2，
…
，Wm}，将错误内容表达的信息转化为字符串，得到字符串集合为s={s1，s2，
…
，sm}，获取到字符串长度集合为length（s）={ length（s1），length（s2），
…
，length（sm）}，获取到随机两处错误信息转化为字符串后，两个字符串中相同字符个数为c（si，sj），根据下列公式计算随机两处错误信息的综合相似度Au：；其中，表示描述随机两处错误信息共性需要的信息量，表示完整描述随机两处错误信息需要的信息量，length（si）和length（sj）表示将对应两处错误信息转化为字符串后，对应两个字符串长度，Wi和Wj表示当前随机两处错误内容表达的信息，s本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于人工智能的内容审核系统，其特征在于：所述系统包括：审核信息采集模块、数据管理中心、内容审核管理模块、内容修改管理模块和审核预警模块；所述审核信息采集模块的输出端连接所述数据管理中心的输入端，所述数据管理中心的输出端连接所述内容审核管理模块的输入端，所述内容审核管理模块的输出端连接所述内容修改管理模块的输入端，所述内容修改管理模块的输出端连接所述审核预警模块的输入端；通过所述审核信息采集模块采集历史审核完成的新闻内容数据和审核并修改花费的时间数据，将采集到的全部数据传输到所述数据管理中心；通过所述数据管理中心存储并管理采集到的全部数据；通过所述内容审核管理模块利用神经网络模型对新闻内容进行审核，并在审核前预先将以往审核出的错误内容对应的修改信息存储到神经网络模型中；通过所述内容修改管理模块匹配审核出的错误内容所表达的信息，对相似的错误信息统一进行修改信息标记；通过所述审核预警模块预测当前审核和修改需要花费的时间，在判断出当前内容不能按时发布时发出预警信号。2.根据权利要求1所述的一种基于人工智能的内容审核系统，其特征在于：所述审核信息采集模块包括修改信息采集单元、审核时间采集单元和修改时间采集单元；所述修改信息采集单元、审核时间采集单元和修改时间采集单元的输出端连接所述数据管理中心的输入端；所述修改信息采集单元用于采集已审核出的错误内容以及错误内容对应的修改信息；所述审核时间采集单元用于采集已审核完成内容的审核花费的时间和审核数据量；所述修改时间采集单元用于采集对已审核出的错误内容进行修改需要的时间数据。3.根据权利要求1所述的一种基于人工智能的内容审核系统，其特征在于：所述内容审核管理模块包括修改信息输入单元和人工智能审核单元；所述修改信息输入单元的输入端连接所述数据管理中心的输出端，所述修改信息输入单元的输出端连接所述人工智能审核单元的输入端；所述修改信息输入单元用于将错误内容及其对应的修改信息输入到文本检测模型中进行存储，所述文本检测模型由神经网络模型训练形成；所述人工智能审核单元用于将当前待审核的内容输入到文本检测模型中，利用文本检测模型对内容进行审核：将当前待审核的内容与错误内容进行文本匹配，若匹配成功，说明当前待审核的内容为错误内容，在错误内容所在位置进行标记；若匹配失败，利用人工审核方式对当前待审核的内容进行二次审核。4.根据权利要求3所述的一种基于人工智能的内容审核系统，其特征在于：所述内容修改管理模块包括修改内容匹配单元、修改定位单元和集中标记单元；所述修改内容匹配单元的输入端连接所述人工智能审核单元的输出端，所述修改内容匹配单元的输出端连接所述修改定位单元的输入端，所述修改定位单元的输出端连接所述集中标记单元的输入端；所述修改内容匹配单元用于在利用神经网络模型审核出错误内容后，将审核出的错误内容所表达的信息进行文本匹配，获取匹配到的相似错误信息；
所述修改定位单元用于确认相似错误信息的修改位置；所述集中标记单元用于在标记错误内容的同时标记修改信息，在相似错误信息的修改位置处对相同的修改信息进行标记，所述相同的修改信息从文本检测模型中选取。5.根据权利要求1所述的一种基于人工智能的内容审核系统，其特征在于：所述审核预警模块包括按时发布预测单元和延时预警单元；所述按时发布预测单元的输入端连接所述数据管理中心的输出端，所述按时发布预测单元的输出端连接所述延时预警单元的输入端；所述按时发布预测单元用于获取当前待审核内容的数据量和修改位置数量，调取并分析以往审核并修改不同内容时花费的时间，并对审核并修改当前内容需要的时间进行预测，判断内容是否能够按时发布；所述延时预警单元用于若预测到当前内容无法按时发布，发出延时预警信号，提醒相关人员加快审核和修改进度。6.一种基于人工智能的内容审核方法，其特征在于：包括以下步骤：Z1：采集新闻内容的历史审核数据以及对以往审核出的错误内容进行修改的信息；Z2：对当前新闻内容进行审核，获取审核出的错误内容及其对应的修改信息；Z3：对审核出的错误内容表达的信息进行匹配，对相似的错误内容表达的信息统一进行修改信息标记。7.根据权利要求6所述的一种基于人工智能的内容审核方法，其特征在于：在步骤...

【专利技术属性】
技术研发人员：孙迎军，陈明杰，张锐，陈磊，黄月霞，
申请(专利权)人：江苏龙虎网信息科技股份有限公司，
类型：发明
国别省市：