一种人工智能内容合成安全方法和系统技术方案

本发明专利技术提供一种人工智能内容合成安全方法和系统，通过在内容生成之前和内容生成之后两次安全性检查，确保人工智能生成的内容不包含恶意信息，同时还会对生成的内容通过语义分析的方式预测其可能的走向是否会包含恶意信息，只有在这些安全性检查都符合安全要求的情况下，才会将内容输出，克服现有技术只进行了简单的安全检查，存在较大安全隐患的问题

【技术实现步骤摘要】
一种人工智能内容合成安全方法和系统


[0001]本申请涉及网络安全
，尤其涉及一种人工智能内容合成安全方法和系统
。

技术介绍

[0002]随着人工智能技术的快速发展，人工智能内容合成得到了广泛应用
。
这种技术能够根据用户输入的少量信息，或者没有任何信息输入的情况下，通过机器学习和训练数据来进行内容生成
。
然而，这种技术也带来了一些安全问题，例如生成的内容可能包含不适宜或者不适当的信息，或者被用于恶意用途
。
[0003]现有的内容合成方法大多没有考虑安全性问题，或者只进行了简单的安全检查
。
这使得现有的内容合成方法存在较大的安全隐患，无法满足当前对于安全内容生成的需求
。
[0004]因此，急需一种针对性的人工智能内容合成安全方法和系统
。

技术实现思路

[0005]本专利技术的目的在于提供一种人工智能内容合成安全方法和系统，该方法能够在生成内容的同时，确保生成内容的安全性
。
[0006]第一方面，本申本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种人工智能内容合成安全方法，其特征在于，所述方法包括：步骤一，接收用户输入或者从其他来源获取需要生成的内容信息；步骤二，对于获取到的所述内容信息进行安全性检查，包括以下步骤：将所述内容信息输入句法模型中，进行初步断句，得到所述内容信息包含的词分量
、
标识信息和
/
或属性信息，将上述词分量
、
标识信息
、
属性信息池化后拼接在一起，送入语义分析模型；所述语义分析模型给出上述拼接在一起后信息对应的上下文向量；检查所述上下文向量是否包含恶意信息；步骤三，根据所述安全检查的结果，如果内容信息符合安全要求，即不包含恶意信息，则利用人工智能技术进行内容生成；步骤四，对于生成的内容进行安全性检查，以确保生成的内容符合安全要求，包括以下步骤：将所述生成的内容送入语义分析模型，识别成若干个短句，将该若干个短句输入句法模型中，进行初步断句，得到所述内容信息包含的词分量
、
标识信息和
/
或属性信息，将上述词分量
、
标识信息
、
属性信息池化后拼接在一起，重新送入语义分析模型；所述语义分析模型给出上述拼接在一起后信息对应的上下文向量；检查所述上下文向量是否包含恶意信息；若所述上下文向量未包含恶意信息，则将所述上下文向量送入预测模型，预测向量可能的走向，判断该走向是否会包含恶意信息；步骤五，如果生成的内容符合安全要求，即当前和预测走向均不包含恶意信息，则将生成的内容输出
。2.
根据权利要求1所述的方法，其特征在于：所述语义分析模型按照句子语法要求进行语义分析
。3.
根据权利要求1所述的方法，其特征在于：所述语义分析模型和句法模型的内核均使用神经网络模型
。4.
根据权利要求2或3任一项所述的方法，其特征在于：所述预测模型预测向量可能的走向，包括：所述预测模型整合所述上下文向量的特征和标识，使用最大化条件概率算法，按照语法计算该向量衔接的所有可能的词分量，选择其中出现概率大于指定阈值的词分量，判断这些词分量是否会包...

【专利技术属性】
技术研发人员：吴冠标，胡文波，孙涛，范传庆，王晓玲，
申请(专利权)人：天津市国瑞数码安全系统股份有限公司，
类型：发明
国别省市：