【技术实现步骤摘要】
本专利技术属于生成式人工智能信息安全，涉及一种生成式人工智能多态敏感拼图检测方法、装置及设备。
技术介绍
1、拼图在用户的发展和教育中发挥着积极的作用，通过将不同形状的碎片组合在一起，以辅助用户发展其空间意识、情绪控制能力和问题解决能力。然而将这些碎片组合在一起的无数种方式，为潜在的信息安全攻击提供了空间，这是一个不应被忽视的信息安全风险。用来恶意传递不安全的敏感内容的这些碎片组合，也即称为多态敏感拼图，敏感内容很容易造成用户的发展障碍。
2、随着生成式人工智能技术的发展与使用，通过简单地输入积极提示词和敏感提示词就可以更轻松有效地生成多态敏感拼图，而现有的敏感内容检测技术主要依赖于“显式”语义特征的代表性学习，不足以捕捉隐藏在多态敏感拼图中的“隐式”敏感分布。因此，针对生成式人工智能多态敏感拼图的检测分类是一个待解决的技术问题。
技术实现思路
1、针对上述传统方法中存在的问题，本专利技术提出了一种生成式人工智能多态敏感拼图检测方法、一种生成式人工智能多态敏感拼图检测装置以及一...
【技术保护点】
1.一种生成式人工智能多态敏感拼图检测方法，其特征在于，包括步骤：
2.根据权利要求1所述的生成式人工智能多态敏感拼图检测方法，其特征在于，所述生成式人工智能模型包括文本-图像生成模型和文本到图像的扩散模型，所述多态敏感图像数据集的构建过程，包括：
3.根据权利要求1或2所述的生成式人工智能多态敏感拼图检测方法，其特征在于，所述多态敏感图像特征提取模型的训练过程，包括：
4.一种生成式人工智能多态敏感拼图检测装置，其特征在于，包括：
5.根据权利要求4所述的生成式人工智能多态敏感拼图检测装置，其特征在于，还包括数据集构建...
【技术特征摘要】
1.一种生成式人工智能多态敏感拼图检测方法，其特征在于，包括步骤：
2.根据权利要求1所述的生成式人工智能多态敏感拼图检测方法，其特征在于，所述生成式人工智能模型包括文本-图像生成模型和文本到图像的扩散模型，所述多态敏感图像数据集的构建过程，包括：
3.根据权利要求1或2所述的生成式人工智能多态敏感拼图检测方法，其特征在于，所述多态敏感图像特征提取模型的训练过程，包括：
4.一种生成式人工智能多态敏感拼图检测装置，其特征在于，包括：
5.根据权利要求4所述的生成式人工智能多态敏感拼图检测装置，其特征在于，还包括数据集构建模块，用于获取提示词，将积极提示词输入文本-图像生成模型，生成正常类别拼图，将所述积极提示词和敏感提示词输入文本到图像的扩散模型，生成多态敏感拼图，对所述正常类别拼图和所述多态敏感拼图组成的数据集进行数据清洗过滤，...
【专利技术属性】
技术研发人员：蔡志平，王章栋，曾晖，周桐庆，刘强，刘志煌，谭熙晨，
申请(专利权)人：中国人民解放军国防科技大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。