一种大模型数据泄漏的治理方法技术

技术编号:43853224 阅读:23 留言:0更新日期:2024-12-31 18:44
本发明专利技术涉及数据治理领域,尤其涉及一种大模型数据泄漏的治理方法,本发明专利技术基于指令响应数据筛选规律特征,建立针对所述模型训练终端的特征行为数据库,于模型训练终端被访问时,依据实时采集的指令响应数据与特征行为数据库中的数据进行对比确定模型训练终端对应的行为贴合表征系数,识别当前模型训练终端的特征贴合类别,及时对模型训练终端的交互进行控制,在弱特征贴合类别下,验证常态特征端口的数据传输规律,判定是否关闭对应常态特征端口,本发明专利技术考虑模型训练终端对应指令响应数据的规律,及时判别特征贴合类别,表征访问行为的异常性对模型训练终端的交互做出干预,进而提高模型训练终端安全性,减少数据产生泄漏的风险。

【技术实现步骤摘要】

本专利技术涉及数据治理领域,尤其涉及一种大模型数据泄漏的治理方法


技术介绍

1、随着计算机技术以及互联网技术的发展,不同架构下的数据模型被广泛应用在各类领域,在应用过程中被广泛的接入终端,并且,各类终端,尤其是用以模型训练的终端可能包含有大量敏感数据,因此终端安全性也至关重要,相关终端安全以及防止数据泄漏的技术逐渐被人们所重视。

2、例如,专利申请公开号:cn114676456a,公开了一种基于边缘计算的数据隐私保护方法、装置及存储介质,涉及信息安全
,该方法包括:在联邦机器学习机制中,获取多个训练子模型,其中,每个训练子模型是不同的终端用户根据多个原始数据对初始模型进行训练得到的,其中,多个原始数据为采集到的不同的终端用户数据;根据部署在边缘节点的分布式哈希表将每个训练子模型进行关联,使得每个训练子模型之间对应的参数交互共享,获取共享后的模型参数;根据模型参数在目标边缘设备中对目标训练子模型进行学习训练,得到目标训练模型;根据目标训练模型检测每个原始数据是否存在数据泄露风险。通过该申请,解决了相关技术中数据被泄露的风险较高的问题。...

【技术保护点】

1.一种大模型数据泄漏的治理方法,其特征在于,包括:

2.根据权利要求1所述的大模型数据泄漏的治理方法,其特征在于,基于所述指令响应数据筛选特征端口组合的过程包括,

3.根据权利要求1所述的大模型数据泄漏的治理方法,其特征在于,基于所述指令响应数据筛选特征功能组件组合的过程包括,

4.根据权利要求1所述的大模型数据泄漏的治理方法,其特征在于,采集周期内模型训练终端的指令响应数据与特征行为数据库中的数据进行对比的过程包括,

5.根据权利要求4所述的大模型数据泄漏的治理方法,其特征在于,依据对比结果确定模型训练终端对应的行为贴合表征系数的过程包...

【技术特征摘要】

1.一种大模型数据泄漏的治理方法,其特征在于,包括:

2.根据权利要求1所述的大模型数据泄漏的治理方法,其特征在于,基于所述指令响应数据筛选特征端口组合的过程包括,

3.根据权利要求1所述的大模型数据泄漏的治理方法,其特征在于,基于所述指令响应数据筛选特征功能组件组合的过程包括,

4.根据权利要求1所述的大模型数据泄漏的治理方法,其特征在于,采集周期内模型训练终端的指令响应数据与特征行为数据库中的数据进行对比的过程包括,

5.根据权利要求4所述的大模型数据泄漏的治理方法,其特征在于,依据对比结果确定模型训练终端对应的行为贴合表征系数的过程包括,

6.根据权利要求1所述的大模...

【专利技术属性】
技术研发人员:孙伟赵正伟周红艳刘莹莹张垚
申请(专利权)人:众合云科信息技术集团有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1