互动中生成式人工智能内容处理方法、装置及存储介质制造方法及图纸

本申请涉及AIGC领域，提供互动中生成式人工智能内容处理方法、相关装置及存储介质，方法包括：内容检测工具以插件方式运行，检测用户针对第一显示界面的第一区域的第一触摸输入，第一区域包括用户待检测的至少一种模态的至少一项候选元素；响应于第一触摸输入，扫描第一区域得到候选元素并显示在第一窗口；响应于针对候选元素的第二触摸输入，跳转至第二显示界面，使用与各候选元素的模态适配的目标检测方式对候选元素进行内容检测；对检测出的为AIGC内容的第一目标元素设置标注，标注用于显示第一目标元素为AIGC内容的置信度、生成方式和数据来源。本方案方便终端用户快速的了解不同模态的互动消息的生成方式，便于连贯追溯、避免上当受骗。

【技术实现步骤摘要】

本申请实施例涉及生成式人工智能，尤其涉及一种互动中生成式人工智能内容处理方法、装置及存储介质。

技术介绍

1、目前，生成式人工智能的各类方法与软件已应用广泛，由此产生了潜在风险和隐患。除了个人信息泄露之外，利用生成式人工智能工具制作的负面消息等真伪难辨、传播迅速，对社会舆情具有严重的误导性，影响国家安全、社会稳定，还可能成为网络犯罪的新手段，侵犯公民合法权益。

2、在对现有技术的研究和实践过程中，本申请实施例的专利技术人发现，目前市面上仅能针对基于深度合成技术生成的图像和视频进行智能化检测，随着生成式人工智能(aigc，artificial intelligence generated content)的滥用，尤其是文本、音频方面的伪造越来越多，且基于扩散模型生成的图像，以及基于大语言模型llm生成的文本通过一般的深度伪造检测技术并不能检测出来，人工也无法分辨，这对司法证据的鉴定带来很大的阻碍。并且目前的产品仅能对离线的媒体内容进行伪造检测，也仅限于在服务器侧，而现在用户更倾向于在终端上阅读各类媒体内容，以及进行语音或者视频会话，但是只能事后进本文档来自技高网...

【技术保护点】

1.一种互动中生成式人工智能内容处理方法，其特征在于，所述方法由内容检测工具执行，所述内容检测工具以插件方式在终端后台、插入网页、或者植入输入法中的至少一种方式运行；所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述响应于所述第二触摸输入，跳转至所述内容检测工具的第二显示界面，根据所述第一窗口中各候选元素的模态，选择与模态适配的目标检测方式对至少一项所述候选元素进行内容检测；若检测出所述第一区域内包括符合至少一种预设生成式人工智能内容生成方式的第一目标元素，则对所述第一目标元素设置第一标注并显示，包括：

3.根据权利要求1所述的方法，其特征在于，所述方...

【技术特征摘要】

1.一种互动中生成式人工智能内容处理方法，其特征在于，所述方法由内容检测工具执行，所述内容检测工具以插件方式在终端后台、插入网页、或者植入输入法中的至少一种方式运行；所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述响应于所述第二触摸输入，跳转至所述内容检测工具的第二显示界面，根据所述第一窗口中各候选元素的模态，选择与模态适配的目标检测方式对至少一项所述候选元素进行内容检测；若检测出所述第一区域内包括符合至少一种预设生成式人工智能内容生成方式的第一目标元素，则对所述第一目标元素设置第一标注并显示，包括：

3.根据权利要求1所述的方法，其特征在于，所述方法应用于检测即时通讯应用中以任意方式出现的任意模态的数据；所述第一显示界面为所述用户当前参与的会话界面，所述会话界面为单会话界面或者群会话界面；所述方法还包括：

4.根据权利要求3所述的方法，其特征在于，所述根据历...

【专利技术属性】
技术研发人员：孙亚伟，张梅，李金美，
申请(专利权)人：北京伟亚科技有限公司，
类型：发明
国别省市：