面向跨模态隐私保护的AI治理方法和装置制造方法及图纸

本申请公开了面向跨模态隐私保护的AI治理方法和装置，从用户的交互行为信息中提取出隐私资源。为隐私资源进行建模，得到DIKW图谱。根据访问者的身份和意图，从DIKW图谱中查询得到访问者的可知情隐私资源组。启用匿名保护机制，对目标资源进行加密。启用风险评估机制，计算隐私资源组中各个隐私资源的风险值。将隐私资源组中，风险值大于预设风险阈值的隐私资源进行删除。启用监督机制，检测隐私资源是否存在逻辑错误。在隐私资源不存在逻辑错误的情况下，向访问者传输隐私资源组。相较于现有技术，本申请所述方案利用AI系统代替人工，避免人工参与隐私资源的加密保护操作，从而能够有效提高隐私资源保护的处理效率。高隐私资源保护的处理效率。高隐私资源保护的处理效率。

【技术实现步骤摘要】
面向跨模态隐私保护的AI治理方法和装置


[0001]本申请涉及人工智能领域，尤其涉及面向跨模态隐私保护的AI治理方法和装置。

技术介绍

[0002]随着互联网中各类虚拟社区的普及，互联网用户可通过虚拟社区进行沟通交流。然而，用户在虚拟社区中进行交互行为，会产生各种数字类型的隐私资源，包括虚拟痕迹(Virtual Trace，T
virtual
)，以及由交互行为产生的用户生成内容(User
‑
generated content，UGC)。虚拟痕迹能够反映用户自身的性格与行为习惯，可用于观察、记录、以及分析用户在虚拟社区中的行为，达到一定数量级的虚拟痕迹甚至能够产生争执影响，引导网络舆论。此外，部分用户生成内容，也同样具有较高的利用价值。为了确保隐私资源不被窃取和恶意使用，需要对隐私资源进行保护。
[0003]目前，对隐私资源进行保护的方式，大多采用人工决策的方式，例如，由虚拟社区的管理员人工对隐私资源进行加密保护操作，处理效率较低、且较为容易出现纰漏。

技术实现思路

[0004]本申请提本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种面向跨模态隐私保护的AI治理方法，其特征在于，应用于AI系统，包括：从用户在虚拟社区中的交互行为信息中提取出隐私资源；为所述隐私资源进行建模，得到DIKW图谱；解析访问者的访问请求，得到所述访问者的身份和意图、以及所述访问者所需求的隐私资源组；根据访问者的身份和意图，从所述DIKW图谱中查询得到所述访问者的可知情隐私资源组；在所述可知情隐私资源组涵盖所述隐私资源组、且所述隐私资源组包含目标资源的情况下，启用预设的匿名保护机制，对所述目标资源进行加密；所述目标资源为包含有预设敏感内容的隐私资源；启用预设的风险评估机制，计算所述隐私资源组中各个隐私资源的风险值；将所述隐私资源组中，所述风险值大于预设风险阈值的隐私资源进行删除；启用预设的监督机制，检测所述隐私资源组中的隐私资源是否存在逻辑错误；在所述隐私资源组中的隐私资源不存在逻辑错误的情况下，向所述访问者传输所述隐私资源组。2.根据权利要求1所述的方法，其特征在于，还包括：预先设置所述隐私资源的流通过程中各个参与方的隐私权；其中，所述流通过程包括感知过程、存储过程、传输过程、以及处理过程；所述感知过程为：所述AI系统从所述用户的交互行为信息中提取隐私资源的过程；所述存储过程为：所述AI系统对提取到的隐私资源进行转换，并为转换得到的隐私资源进行建模，得到所述DIKW图谱，以及保存所述DIKW图谱的过程；所述传输过程为：所述AI系统向所述访问者传输所述隐私资源组的过程；所述处理过程为：所述访问者使用所述隐私资源组的过程；所述参与方包括所述用户、所述访问者和所述AI系统；所述隐私权包括知情权、参与权、遗忘权和监督权。3.根据权利要求1所述的方法，其特征在于，所述为所述隐私资源进行建模，得到DIKW图谱，包括：基于所述交互行为信息，计算得到所述用户对所述隐私资源的保留程度；将所述保留程度的取值大于预设保留阈值的隐私资源进行滤除；对剩余的所述隐私资源进行转换，得到新的隐私资源；为所述新的隐私资源进行建模，得到DIKW图谱，并将所述DIKW图谱进行存储。4.根据权利要求3所述的方法，其特征在于，所述对剩余的所述隐私资源进行转换，得到新的隐私资源，包括：从剩余的所述隐私资源中，推导出新隐私资源集合，所述新隐私资源集合包括多个新的隐私资源；从由剩余的所述隐私资源所组成的隐私资源集合中，推导出所述新隐私资源集合；将剩余的所述隐私资源视为实体，并获取所述实体的技术和资源；依据所述技术和所述资源，计算所述实体的转换难度；在所述转换难度的取值不小于预设的转换能力阈值的情况下，利用所述技术和所述资
源，将剩余的所述隐私资源转换为所述新的隐私资源。5.根据权利要求1所述的方法，其特征在于，所述解析访问者的访问请求，得到所述访问者的身份和意图、以及所述访问者所需求的隐私资源组，包括：在接收到访问者发送的访问请求的情况下，判断所述访问者是否具有访问权；在所述访问者具有所述访问权的情况下，解析所述访问请求，得到所述访问者的身份和意图、以及所述访问者所需求的隐私资源组；在所述访问者不具有所述访问权的情况下，禁止所述访问者获取所述DIKW图谱中的隐私资源。6.根据权利要求1所述的方法，其特征在于，所述匿名保护机制包括数据匿名保护、信息匿名保护、知识匿名保护和群体匿名保护；所述隐私资源包括数据资源、信息资源、知识资源和群体隐私资源；所述启用预设的...

【专利技术属性】
技术研发人员：段玉聪，雷羽潇，
申请(专利权)人：海南大学，
类型：发明
国别省市：