数据处理加速器及由数据处理加速器执行的计算机实现的方法技术

公开了一种由数据处理(DP)加速器执行的计算机实现的方法，包括：在DP加速器处，接收来自主机处理器的表示先前训练过的人工智能(AI)模型的第一数据和一组输入数据；在DP加速器处，接收来自主机处理器的水印内核；以及在DP加速器内对AI模型执行水印内核。水印内核在被执行时配置为：基于输入数据执行人工智能模型的推理操作以生成输出数据，以及将水印植入到输出数据中。然后，DP加速器将具有植入的水印的输出数据传输至主机处理器。印的输出数据传输至主机处理器。印的输出数据传输至主机处理器。

【技术实现步骤摘要】
数据处理加速器及由数据处理加速器执行的计算机实现的方法


[0001]本公开的实施方式总体上涉及人工智能模型训练和推理。更具体地，本公开的实施方式涉及由数据处理加速器执行的人工智能模型训练和推理以及相关联的安全性。

技术介绍

[0002]随着人工智能(AI)技术已经被部署在诸如图像分类或自动驾驶的各种领域中，AI模型(也称为“机器学习模型”)最近已经被广泛地使用。与软件应用的可执行图像或二进制图像类似，AI模型在被训练时可以基于一组属性执行推理以将这些属性分类为多个特征。因此，AI模型可以是“便携式的”并且可以在没有授权的情况下使用。当前，缺乏对AI模型的有效的数字权利保护。此外，使用委托给诸如数据处理(DP)加速器或远程系统的辅助处理系统的AI模型的处理任务，缺乏证据证明由DP加速器系统产生的结果受“信任根”系统保护。

技术实现思路

[0003]本公开的实施方式提供了由数据处理DP加速器执行的计算机实现的方法、数据处理DP加速器和存储有指令的非暂时性机器可读介质。在本公开的一方面，由数据处理DP加速器执行的计算机实现的方法包括：本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种由数据处理DP加速器执行的计算机实现的方法，所述方法包括：在所述DP加速器处，接收来自主机处理器的表示先前训练过的人工智能AI模型的第一数据和一组输入数据；在所述DP加速器处，接收来自所述主机处理器的水印内核；在所述DP加速器内对所述AI模型执行所述水印内核，其中，所述水印内核在被执行时配置为：生成水印，基于所述输入数据执行所述AI模型的推理操作以生成输出数据，以及将所述水印植入所述输出数据中；以及将具有植入的水印的输出数据传输至所述主机处理器。2.根据权利要求1所述的方法，还包括：从所述主机处理器接收第二组输入数据，其中，所述水印内核在所述第二组输入数据上执行，以及所述水印是基于所述第二组输入数据生成的。3.根据权利要求2所述的方法，其中，所述第二组输入数据包括描述所述水印的信息。4.根据权利要求1所述的方法，其中，将所述水印植入所述AI模型中包括将所述水印嵌入所述AI模型的一个或多个节点中。5.根据权利要求4所述的方法，其中，所述水印存储在所述AI模型的所述一个或多个节点的一个或多个权重变量中。6.根据权利要求4所述的方法，其中，所述水印存储在所述AI模型的所述一个或多个节点的一个或多个偏置变量中。7.根据权利要求1所述的方法，其中，所述主机处理器是中央处理单元CPU，以及所述DP加速器是通用处理单元GPU。8.根据权利要求1所述的方法，其中，所述主机处理器与所述DP加速器通过包括外围部件互连快速PCIe链路的链路通信。9.一种数据处理DP加速器，包括：接口，从主机处理器接收表示先前训练过的人工智能AI模型的第一数据、一组输入数据，以及接收水印内核；以及内核执行器，对所述AI模型执行所述水印内核，其中，所述水印内核在被执行时配置为：生成水印，基于所述输入数据执行所述AI模型的推理操作以生成输出数据，以及将所述水印植入所述输出数据中，其中，具有植入的水印的输出数据被传输至所述主机处理器。10.根据权利要求9所述的DP加速器，其中，进一步从所述主机处理器接收第二组输入数据，其中，所述...

【专利技术属性】
技术研发人员：程越强，刘勇，
申请(专利权)人：百度美国有限责任公司，
类型：发明
国别省市：