数据处理加速器及由数据处理加速器执行的计算机实现的方法技术

公开了一种由数据处理(DP)加速器执行的计算机实现的方法，包括：在DP加速器处，接收来自主机处理器的一组输入数据和先前训练过的人工智能(AI)模型；在DP加速器处，接收来自主机处理器的水印内核；在DP加速器内对AI模型和所述一组输入数据执行水印内核。水印内核在被执行时配置为：通过从所述一组输入数据或AI模型的数据对象继承现有的水印，生成新的水印；基于输入数据使用AI模型执行AI推理，生成输出数据；以及将新的水印植入输出数据中。然后，DP加速器将其中具有植入的新的水印的输出数据传输至主机处理器。传输至主机处理器。传输至主机处理器。

【技术实现步骤摘要】
数据处理加速器及由数据处理加速器执行的计算机实现的方法


[0001]本公开的实施方式总体上涉及人工智能模型训练和推理。更具体地，本公开的实施方式涉及由数据处理加速器执行的人工智能模型训练和推理以及相关联的安全性。

技术介绍

[0002]随着人工智能(AI)技术已经被部署在诸如图像分类或自动驾驶的各种领域中，AI模型(也称为“机器学习模型”)最近已经被广泛地使用。与软件应用的可执行图像或二进制图像类似，AI模型在被训练时可以基于一组属性执行推理以将这些属性分类为多个特征。因此，AI模型可以是“便携式的”并且可以在没有授权的情况下使用。当前，缺乏对AI模型的有效的数字权利保护。此外，使用委托给诸如数据处理(DP)加速器或远程系统的辅助处理系统的AI模型的处理任务，缺乏证据证明由DP加速器系统产生的结果受“信任根”系统保护。

技术实现思路

[0003]本公开的实施方式提供了由数据处理DP加速器执行的计算机实现的方法、数据处理DP加速器和存储有指令的非暂时性机器可读介质。
[0004]在本公开的一方面，由数据处理DP加速器执行的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种由数据处理DP加速器执行的计算机实现的方法，所述方法包括：在所述DP加速器处，接收来自主机处理器的一组输入数据和先前训练过的人工智能AI模型；在所述DP加速器处，接收来自所述主机处理器的水印内核；在所述DP加速器内对所述AI模型和所述一组输入数据执行所述水印内核，其中，所述水印内核在被执行时配置为：通过从所述一组输入数据或所述AI模型的数据对象继承现有的水印，来生成新的水印，基于所述输入数据使用所述AI模型执行AI推理，以生成输出数据，以及在所述输出数据内植入所述新的水印；以及将具有植入的新的水印的输出数据传输至所述主机处理器。2.根据权利要求1所述的方法，其特征在于，所述现有的水印嵌入在所述AI模型的一个或多个节点中。3.根据权利要求2所述的方法，其特征在于，所述现有的水印存储在所述AI模型的所述一个或多个节点的一个或多个权重变量中。4.根据权利要求2所述的方法，其特征在于，所述现有的水印存储在所述AI模型的所述一个或多个节点的一个或多个偏置变量中。5.根据权利要求1所述的方法，其特征在于，所述现有的水印嵌入在所述一组输入数据中。6.根据权利要求1所述的方法，其特征在于，所述主机处理器是中央处理单元CPU，以及所述DP加速器是通用处理单元GPU。7.根据权利要求1所述的方法，其特征在于，所述主机处理器与所述DP加速器通过包括外围部件互连快速PCIe链路的链路通信。8.一种数据处理DP加速器，包括：接口，通过链路从主机处理器接收一组输入数据和先前训练过的人工智能AI模型，以及接收水印内核；以及内核执行器，对所述AI模型和所述一组输入数据执行所述水印内核，其中，所述水印内核在被执行时配置为：通过继承现有的水印来生成新的水印，使用所述AI模型执行AI推理，以生成输出数据，以及在所述输出数据内植入所述新的水印，其中，具有植入的新的水印的输出数据通过所述链路被传输至所述主机处理器。9.根据权利要求8所述的DP加速器，其特征在于，所述现有的水印嵌入在所述AI模型的一个或多个节点中。10...

【专利技术属性】
技术研发人员：程越强，刘勇，
申请(专利权)人：百度美国有限责任公司，
类型：发明
国别省市：