混淆机器学习模型的推断操作制造技术

技术编号:44523310 阅读:45 留言:0更新日期:2025-03-07 13:15
用于执行机器学习模型的推断操作的方法、系统和设备,包括被编码在计算机存储介质上的计算机程序。方法中的一种包括由硬件装置接收表示机器学习模型的数据,所述机器学习模型包括用于推断操作的多个模型参数。硬件装置包括布置在一个或多个处理元件中的计算单元集。获得用于执行混淆操作的指令,所述混淆操作被配置为当机器学习模型由一个或多个处理元件执行时混淆所述机器学习模型的一个或多个可测量特性。使计算单元集的第一部分执行机器学习模型的推断操作,并且使所述计算单元集的第二部分与所述计算单元集的第一部分执行推断操作并发地执行混淆操作。

【技术实现步骤摘要】
【国外来华专利技术】

本说明书总体涉及一种被配置为执行机器学习模型的推断操作的硬件装置。特别地,本说明书描述了用于混淆被编译在硬件装置上的机器学习模型的推断操作的技术。


技术介绍

1、人工智能(ai)是由机器展现的智能并且表示计算机程序或机器进行思考和学习的能力。可以使用一个或多个计算机来执行计算以训练用于相应任务的机器学习模型。神经网络属于机器学习模型的子领域。

2、神经网络可以采用表示多种运算(例如,向量或矩阵运算)的一层或多层节点。一个或多个计算机可以被配置为执行神经网络的操作或计算以生成输出,例如,针对接收到的输入的分类、预测或分割。除输出层之外,一些神经网络还包括一个或多个隐藏层。每个隐藏层的输出用作对网络中的下一层(即,下一隐藏层或输出层)的输入。网络的每个层根据相应网络参数集的当前值来从接收到的输入生成输出。

3、被特别设计的硬件加速器可以与通用中央处理单元(cpu)运行的操作相比更快速且更高效地执行特定功能和操作,包括神经网络中指定的操作或计算。硬件加速器可以包括图形处理单元(gpu)、张量处理单元(tpu)、视频处理单元(vpu)、现场本文档来自技高网...

【技术保护点】

1.一种方法,包括:

2.如权利要求1所述的方法,其中所述机器学习模型是神经网络,其中所述混淆操作被配置为模糊以下中的至少一个:所述神经网络的网络层的数量、所述神经网络的网络层中的节点的数量、针对所述神经网络的网络层中的节点的节点操作或与所述神经网络的网络层中的节点相关联的权重值。

3.如权利要求1或2所述的方法,其中所述机器学习模型的所述一个或多个可测量特性包括以下中的至少一个:功率简档、电磁简档或时间简档。

4.如权利要求1至3中任一项所述的方法,其中所述计算单元集的所述第一部分的至少子集和所述计算单元集的所述第二部分的对应子集位于公共处理元件内。...

【技术特征摘要】
【国外来华专利技术】

1.一种方法,包括:

2.如权利要求1所述的方法,其中所述机器学习模型是神经网络,其中所述混淆操作被配置为模糊以下中的至少一个:所述神经网络的网络层的数量、所述神经网络的网络层中的节点的数量、针对所述神经网络的网络层中的节点的节点操作或与所述神经网络的网络层中的节点相关联的权重值。

3.如权利要求1或2所述的方法,其中所述机器学习模型的所述一个或多个可测量特性包括以下中的至少一个:功率简档、电磁简档或时间简档。

4.如权利要求1至3中任一项所述的方法,其中所述计算单元集的所述第一部分的至少子集和所述计算单元集的所述第二部分的对应子集位于公共处理元件内。

5.如权利要求1至4中任一项所述的方法,其中所述计算单元集的所述第一部分的至少子集位于第一处理元件中,并且所述计算单元集的所述第二部分的至少子集位于与所述第一处理元件不同的第二处理元件中。

6.如权利要求2至5中任一项所述的方法,其中所述混淆操作包括要与针对网络层中的特定节点的对应节点操作并发地执行的针对所述特定节点的混淆节点操作。

7.如权利要求6所述的方法,其中混淆节点操作指定所述特定节点的激活函数,所述激活函数与所述特定节点的实际激活函数不同。

8.如权利要求1至7中任一项所述的方法,其中使所述计算单元集的所述第二部分与所述计算单元集的所述第一部分执行所述推断操作并发地执行所述混淆操作包括将所述混淆操作指派给执行所述混淆操作的专用处理元件。

9.如权利要求8所述的方法,其中所述专用处理元件包括附加地结合到硬件装置中并且被配置为基本上仅执行对应混淆操作的一个或多个处理元件或计算单元。

10.如权利要求1至9中任一项所述的方法,其中使所述计算单元集的所述第二部分与所述计算单元集的所述第一部分执行所述推断操作并发地执行所述混淆操作包括:

11.如权利要求2至10中任一项所述的方法,其中所述神经网络被配置为执行用于将装置解锁的人脸辨识任务。

12.一种系统,包括一个或多个计算机和一个或多个存储装置,所述一个或多个存储装置存储指令,所述指令在由一个或多个计算机执行时使所述一个或多个计算机执行相应操作,所述操作包括如权利要求1至11中任一项所述的方法。

13.一个或多个计算机可读存储介质,所述一个或多个计算机可读存储介质存储指令,所述指令在由一个或多个计算机执行时使所述一个或多个计算机执行相应操作,所述相应操作包括如权利要求1至11中任一项所述的方法。

14.一种方法,包括:

15.如权利要求14所述的方法,其中所述混淆操作被配置为当所述混...

【专利技术属性】
技术研发人员:纳希德·法哈迪加拉蒂马修·罗伊斯·马克威尔
申请(专利权)人:谷歌有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1