System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本说明书涉及计算机,尤其涉及一种模型溯源方法、装置、设备及可读存储介质。
技术介绍
1、随着人工智能技术的不断发展,以及人们对隐私数据关注度的提高,通过机器学习模型得到的人工智能生成内容(artificial intelligence generated content,aigc)广泛应用于各种领域,例如图像生成、音频生成、自然语言处理等。但是,训练机器学习模型往往需要大量的高质量训练样本以及充足的计算资源,普通用户难以训练性能良好的机器学习模型。为此,机器学习模型的提供方可以通过模型调用接口,满足用户对机器学习模型的使用需求,也就是机器学习即服务(machine learning as a service,mlaas)。
2、然而,攻击者可能通过模型窃取攻击,在未经机器学习模型的提供方的授权的前提下,窃取机器学习模型的功能,使得机器学习模型的提供方经济受损,知识产权受到侵害。
技术实现思路
1、本说明书提供一种模型溯源方法、装置、设备及可读存储介质,以部分的解决现有技术存在的上述问题。
2、本说明书采用下述技术方案:
3、本说明书提供了一种模型溯源方法,包括:
4、获取待检测数据;
5、对所述待检测数据进行水印检测,得到所述待检测数据的水印检测结果;
6、从所述水印检测结果中,提取生成所述待检测数据的目标模型对应的目标信息;
7、获取数据库中包含的各参考模型的参考信息;
8、根据所述目
9、本说明书提供了一种模型溯源装置,包括:
10、待检测数据获取模块,用于获取待检测数据;
11、水印检测模块,用于对所述待检测数据进行水印检测,得到所述待检测数据的水印检测结果;
12、目标信息提取模块,用于从所述水印检测结果中,提取生成所述待检测数据的目标模型对应的目标信息;
13、参考信息获取模块,用于获取数据库中包含的各参考模型的参考信息;
14、溯源模块,用于根据所述目标信息和所述各参考模型的参考信息,确定所述待检测数据对应的模型溯源结果。
15、本说明书提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述模型溯源方法。
16、本说明书提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述模型溯源方法。
17、本说明书采用的上述至少一个技术方案能够达到以下有益效果:
18、本说明书提供的模型溯源方法中,获取待检测数据,并对待检测数据进行水印检测,得到待检测数据的水印检测结果,从水印检测结果中提取生成待检测数据所采用的待检测模型对应的目标信息,根据目标信息和数据库中包含的各参考模型的参考信息,确定待检测数据对应的模型溯源结果。可见,通过对待检测数据进行水印检测,并从水印检测结果中提取目标信息的方式,能够有效地验证生成待检测数据所采用的机器学习模型的信息,进而确定待检测数据是否是在机器学习模型被授权使用的前提下生成的,以便即使检测出窃取机器学习模型的功能的攻击者的攻击行为,减少机器学习模型的提供方所收到的侵害。
本文档来自技高网...【技术保护点】
1.一种模型溯源方法,所述方法包括:
2.如权利要求1所述的方法,所述对所述待检测数据进行水印检测,得到所述待检测数据的水印检测结果,具体包括:
3.如权利要求1所述的方法,所述获取待检测数据,具体包括:
4.如权利要求3所述的方法,所述根据所述加密水印和所述生成数据,确定待检测数据,具体包括:
5.如权利要求1所述的方法,所述对所述待检测数据进行水印检测,得到所述待检测数据的水印检测结果,具体包括:
6.如权利要求5所述的方法,所述根据所述解密密钥和所述第一中间结果,得到所述待检测数据的水印检测结果,具体包括:
7.如权利要求1所述的方法,在所述获取数据库中包含的各参考模型的参考信息之前,所述方法还包括:
8.一种模型溯源装置,包括:
9.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1~7任一项所述的方法。
10.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实
...【技术特征摘要】
1.一种模型溯源方法,所述方法包括:
2.如权利要求1所述的方法,所述对所述待检测数据进行水印检测,得到所述待检测数据的水印检测结果,具体包括:
3.如权利要求1所述的方法,所述获取待检测数据,具体包括:
4.如权利要求3所述的方法,所述根据所述加密水印和所述生成数据,确定待检测数据,具体包括:
5.如权利要求1所述的方法,所述对所述待检测数据进行水印检测,得到所述待检测数据的水印检测结果,具体包括:
6.如权利要求5所述的方法,所述根据所述解密密钥和...
【专利技术属性】
技术研发人员:王维强,崔世文,孟昌华,
申请(专利权)人:支付宝杭州信息技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。