面向跨模态隐私保护的AI治理方法和装置制造方法及图纸

本申请公开了面向跨模态隐私保护的AI治理方法和装置，从用户的交互行为信息中提取出隐私资源。为隐私资源进行建模，得到DIKW图谱。根据访问者的身份和意图，从DIKW图谱中查询得到访问者的可知情隐私资源组。启用匿名保护机制，对目标资源进行加密。启用风险评估机制，计算隐私资源组中各个隐私资源的风险值。将隐私资源组中，风险值大于预设风险阈值的隐私资源进行删除。启用监督机制，检测隐私资源是否存在逻辑错误。在隐私资源不存在逻辑错误的情况下，向访问者传输隐私资源组。相较于现有技术，本申请所述方案利用AI系统代替人工，避免人工参与隐私资源的加密保护操作，从而能够有效提高隐私资源保护的处理效率。高隐私资源保护的处理效率。高隐私资源保护的处理效率。

【技术实现步骤摘要】
面向跨模态隐私保护的AI治理方法和装置


[0001]本申请涉及人工智能领域，尤其涉及面向跨模态隐私保护的AI治理方法和装置。

技术介绍

[0002]随着互联网中各类虚拟社区的普及，互联网用户可通过虚拟社区进行沟通交流。然而，用户在虚拟社区中进行交互行为，会产生各种数字类型的隐私资源，包括虚拟痕迹(Virtual Trace，T
virtual
)，以及由交互行为产生的用户生成内容(User
‑
generated content，UGC)。虚拟痕迹能够反映用户自身的性格与行为习惯，可用于观察、记录、以及分析用户在虚拟社区中的行为，达到一定数量级的虚拟痕迹甚至能够产生争执影响，引导网络舆论。此外，部分用户生成内容，也同样具有较高的利用价值。为了确保隐私资源不被窃取和恶意使用，需要对隐私资源进行保护。
[0003]目前，对隐私资源进行保护的方式，大多采用人工决策的方式，例如，由虚拟社区的管理员人工对隐私资源进行加密保护操作，处理效率较低、且较为容易出现纰漏。

技术实现思路

[0004]本申请提供了一种面向跨模态隐私保护的AI治理方法和装置，目的在于提高隐私资源保护的处理效率。
[0005]为了实现上述目的，本申请提供了以下技术方案：
[0006]一种面向跨模态隐私保护的AI治理方法，应用于AI系统，包括：
[0007]从用户在虚拟社区中的交互行为信息中提取出隐私资源；
[0008]为所述隐私资源进行建模，得到DIKW图谱；
[0009]解析访问者的访问请求，得到所述访问者的身份和意图、以及所述访问者所需求的隐私资源组；
[0010]根据访问者的身份和意图，从所述DIKW图谱中查询得到所述访问者的可知情隐私资源组；
[0011]在所述可知情隐私资源组涵盖所述隐私资源组、且所述隐私资源组包含目标资源的情况下，启用预设的匿名保护机制，对所述目标资源进行加密；所述目标资源为包含有预设敏感内容的隐私资源；
[0012]启用预设的风险评估机制，计算所述隐私资源组中各个隐私资源的风险值；
[0013]将所述隐私资源组中，所述风险值大于预设风险阈值的隐私资源进行删除；
[0014]启用预设的监督机制，检测所述隐私资源组中的隐私资源是否存在逻辑错误；
[0015]在所述隐私资源组中的隐私资源不存在逻辑错误的情况下，向所述访问者传输所述隐私资源组。
[0016]可选的，还包括：
[0017]预先设置所述隐私资源的流通过程中各个参与方的隐私权；
[0018]其中，所述流通过程包括感知过程、存储过程、传输过程、以及处理过程；
[0019]所述感知过程为：所述AI系统从所述用户的交互行为信息中提取隐私资源的过程；
[0020]所述存储过程为：所述AI系统对提取到的隐私资源进行转换，并为转换得到的隐私资源进行建模，得到所述DIKW图谱，以及保存所述DIKW图谱的过程；
[0021]所述传输过程为：所述AI系统向所述访问者传输所述隐私资源组的过程；
[0022]所述处理过程为：所述访问者使用所述隐私资源组的过程；
[0023]所述参与方包括所述用户、所述访问者和所述AI系统；
[0024]所述隐私权包括知情权、参与权、遗忘权和监督权。
[0025]可选的，所述为所述隐私资源进行建模，得到DIKW图谱，包括：
[0026]基于所述交互行为信息，计算得到所述用户对所述隐私资源的保留程度；
[0027]将所述保留程度的取值大于预设保留阈值的隐私资源进行滤除；
[0028]对剩余的所述隐私资源进行转换，得到新的隐私资源；
[0029]为所述新的隐私资源进行建模，得到DIKW图谱，并将所述DIKW图谱进行存储。
[0030]可选的，所述对剩余的所述隐私资源进行转换，得到新的隐私资源，包括：
[0031]从剩余的所述隐私资源中，推导出新隐私资源集合，所述新隐私资源集合包括多个新的隐私资源；
[0032]从由剩余的所述隐私资源所组成的隐私资源集合中，推导出所述新隐私资源集合；
[0033]将剩余的所述隐私资源视为实体，并获取所述实体的技术和资源；
[0034]依据所述技术和所述资源，计算所述实体的转换难度；
[0035]在所述转换难度的取值不小于预设的转换能力阈值的情况下，利用所述技术和所述资源，将剩余的所述隐私资源转换为所述新的隐私资源。
[0036]可选的，所述解析访问者的访问请求，得到所述访问者的身份和意图、以及所述访问者所需求的隐私资源组，包括：
[0037]在接收到访问者发送的访问请求的情况下，判断所述访问者是否具有访问权；
[0038]在所述访问者具有所述访问权的情况下，解析所述访问请求，得到所述访问者的身份和意图、以及所述访问者所需求的隐私资源组；
[0039]在所述访问者不具有所述访问权的情况下，禁止所述访问者获取所述DIKW图谱中的隐私资源。
[0040]可选的，所述匿名保护机制包括数据匿名保护、信息匿名保护、知识匿名保护和群体匿名保护；所述隐私资源包括数据资源、信息资源、知识资源和群体隐私资源；
[0041]所述启用预设的匿名保护机制，对所述目标资源进行加密，包括：
[0042]将所述隐私资源组中包含有预设敏感内容的数据资源，标识为所述目标资源，并对所述目标资源进行数据匿名保护；
[0043]根据所述访问者的意图、以及所述隐私资源组中各个所述信息资源的内容敏感度，确定所述隐私资源组中需要进行匿名处理的信息资源，并对所述需要进行匿名处理的信息资源进行信息匿名保护；
[0044]根据所述访问者的意图、以及所述隐私资源组中各个所述知识资源的准确性，确定所述隐私资源组中需要进行匿名处理的知识资源，并对所述需要进行匿名处理的知识资
源进行知识匿名保护；
[0045]对所述隐私资源组中所包含的群体隐私资源进行群体匿名保护。
[0046]可选的，所述预设的监督机制包括逻辑监督、价值监督和权力监督；
[0047]所述启用预设的监督机制，检测所述隐私资源组中的隐私资源是否存在逻辑错误，包括：
[0048]将所述AI系统的决策规则和决策结果进行逻辑监督；所述决策结果用于指示对所述隐私资源组的流通过程；
[0049]在所述决策结果符合所述决策规则的情况下，确定所述逻辑监督的取值为真；
[0050]计算所述隐私资源组中的隐私资源的隐私价值，并判断所述隐私价值是否满足预设隐私价值标准；
[0051]在所述隐私价值满足所述预设隐私价值标准的情况下，确定所述价值监督的取值为真；
[0052]获取所述AI系统对知情权的监督权、所述AI系统对参与权的监督权、以及所述AI系统对遗忘权的监督权；
[0053]在所述AI系统对知情权的监督权的取值为真、所述AI系统对参本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种面向跨模态隐私保护的AI治理方法，其特征在于，应用于AI系统，包括：从用户在虚拟社区中的交互行为信息中提取出隐私资源；为所述隐私资源进行建模，得到DIKW图谱；解析访问者的访问请求，得到所述访问者的身份和意图、以及所述访问者所需求的隐私资源组；根据访问者的身份和意图，从所述DIKW图谱中查询得到所述访问者的可知情隐私资源组；在所述可知情隐私资源组涵盖所述隐私资源组、且所述隐私资源组包含目标资源的情况下，启用预设的匿名保护机制，对所述目标资源进行加密；所述目标资源为包含有预设敏感内容的隐私资源；启用预设的风险评估机制，计算所述隐私资源组中各个隐私资源的风险值；将所述隐私资源组中，所述风险值大于预设风险阈值的隐私资源进行删除；启用预设的监督机制，检测所述隐私资源组中的隐私资源是否存在逻辑错误；在所述隐私资源组中的隐私资源不存在逻辑错误的情况下，向所述访问者传输所述隐私资源组。2.根据权利要求1所述的方法，其特征在于，还包括：预先设置所述隐私资源的流通过程中各个参与方的隐私权；其中，所述流通过程包括感知过程、存储过程、传输过程、以及处理过程；所述感知过程为：所述AI系统从所述用户的交互行为信息中提取隐私资源的过程；所述存储过程为：所述AI系统对提取到的隐私资源进行转换，并为转换得到的隐私资源进行建模，得到所述DIKW图谱，以及保存所述DIKW图谱的过程；所述传输过程为：所述AI系统向所述访问者传输所述隐私资源组的过程；所述处理过程为：所述访问者使用所述隐私资源组的过程；所述参与方包括所述用户、所述访问者和所述AI系统；所述隐私权包括知情权、参与权、遗忘权和监督权。3.根据权利要求1所述的方法，其特征在于，所述为所述隐私资源进行建模，得到DIKW图谱，包括：基于所述交互行为信息，计算得到所述用户对所述隐私资源的保留程度；将所述保留程度的取值大于预设保留阈值的隐私资源进行滤除；对剩余的所述隐私资源进行转换，得到新的隐私资源；为所述新的隐私资源进行建模，得到DIKW图谱，并将所述DIKW图谱进行存储。4.根据权利要求3所述的方法，其特征在于，所述对剩余的所述隐私资源进行转换，得到新的隐私资源，包括：从剩余的所述隐私资源中，推导出新隐私资源集合，所述新隐私资源集合包括多个新的隐私资源；从由剩余的所述隐私资源所组成的隐私资源集合中，推导出所述新隐私资源集合；将剩余的所述隐私资源视为实体，并获取所述实体的技术和资源；依据所述技术和所述资源，计算所述实体的转换难度；在所述转换难度的取值不小于预设的转换能力阈值的情况下，利用所述技术和所述资
源，将剩余的所述隐私资源转换为所述新的隐私资源。5.根据权利要求1所述的方法，其特征在于，所述解析访问者的访问请求，得到所述访问者的身份和意图、以及所述访问者所需求的隐私资源组，包括：在接收到访问者发送的访问请求的情况下，判断所述访问者是否具有访问权；在所述访问者具有所述访问权的情况下，解析所述访问请求，得到所述访问者的身份和意图、以及所述访问者所需求的隐私资源组；在所述访问者不具有所述访问权的情况下，禁止所述访问者获取所述DIKW图谱中的隐私资源。6.根据权利要求1所述的方法，其特征在于，所述匿名保护机制包括数据匿名保护、信息匿名保护、知识匿名保护和群体匿名保护；所述隐私资源包括数据资源、信息资源、知识资源和群体隐私资源；所述启用预设的...

【专利技术属性】
技术研发人员：段玉聪，雷羽潇，
申请(专利权)人：海南大学，
类型：发明
国别省市：