【技术实现步骤摘要】
机器学习操作的分解相关申请的交叉引用本申请要求2019年5月31日提交的名称为“DECOMPOSITIONOFMACHINELEARNINGOPERATIONS”的美国临时专利申请序列号62/855,850的权益，该申请全文以引用方式并入本文并且构成本美国技术专利申请的部分以用于所有目的。
本说明书整体涉及机器学习操作，包括分解机器学习操作以在目标平台上更有效地执行。
技术介绍
软件工程师和科学家一直在使用计算机硬件进行机器学习，以跨不同行业应用进行改善，包括图像分类、视频分析、语音识别和自然语言处理等。值得注意的是，基于对大量数据的训练，神经网络被更频繁地利用于创建可执行不同计算任务的系统。附图说明本主题技术的一些特征在所附权利要求书中被示出。然而，出于解释的目的，在以下附图中阐述了本主题技术的若干实施方案。图1示出了根据一个或多个具体实施的示例网络环境。图2示出了根据一个或多个具体实施的用于执行用于神经网络的操作的分解过程的示例软件架构。图3示出了根据一个或...
【技术保护点】
1.一种方法，包括：/n接收将在电子设备上执行的神经网络(NN)模型的表示，所述NN模型的所述表示包括对应于所述NN模型的中间层的节点，其中所述节点中的至少一些各自对应于将由所述电子设备执行的所述NN模型的相应中间层的相应操作；/n针对与所述NN模型的每个相应中间层中的每个节点对应的所述相应操作确定在数学上等效于所述相应操作的相应一组操作，使得所述相应一组操作的输出的聚合等效于所述相应操作的输出；/n基于每个相应一组操作来生成图，其中所述图包括一组分支，每个分支包括多个操作，所述多个操作包括来自每个相应一组操作的特定操作；/n确定用于执行所述图的每个分支的相应次序；以及/n...
【技术特征摘要】
20190531 US 62/855,850;20191014 US 16/601,5071.一种方法，包括：
接收将在电子设备上执行的神经网络(NN)模型的表示，所述NN模型的所述表示包括对应于所述NN模型的中间层的节点，其中所述节点中的至少一些各自对应于将由所述电子设备执行的所述NN模型的相应中间层的相应操作；
针对与所述NN模型的每个相应中间层中的每个节点对应的所述相应操作确定在数学上等效于所述相应操作的相应一组操作，使得所述相应一组操作的输出的聚合等效于所述相应操作的输出；
基于每个相应一组操作来生成图，其中所述图包括一组分支，每个分支包括多个操作，所述多个操作包括来自每个相应一组操作的特定操作；
确定用于执行所述图的每个分支的相应次序；以及
存储所述图和所述相应次序。
2.根据权利要求1所述的方法，还包括：
至少部分地基于所述图和用于执行所述图的每个分支的所述相应次序来编译用于所述电子设备的二进制包，其中所述电子设备基于所述相应次序执行每个相应一组操作。
3.根据权利要求1所述的方法，其中针对与所述NN模型的每个相应中间层中的每个节点对应的所述相应操作确定所述相应一组操作还包括：
确定用于所述相应操作的第一多个操作；
确定用于所述相应操作的第二多个操作；并且
至少部分地基于对所述第一多个操作和所述第二多个操作的分析来选择所述第一多个操作或所述第二多个操作中的一者，其中所述分析指示所述第一多个操作和所述第二多个操作中哪一个利用更少的存储器资源，其中选择所述第一多个操作或所述第二多个操作中的一者还基于统计以及利用所述统计的一组启发法，所述统计指示计算开销和存储器访问。
4.根据权利要求1所述的方法，其中至少部分地基于所述电子设备的高速缓存中的可用存储器的量来约束来自所述相应一组操作的每个操作的输出。
5.根据权利要求4所述的方法，其中所述相应一组操作的所述输出的所述聚合存储在所述电子设备的存储器中，所述存储器是比所述电子设备的所述高速缓存慢的存储器。
6.根据权利要求1所述的方法，其中每个分支的所述多个操作在所述NN模型的输入节点之后开始并且在所述NN模型的输出层的输出节点之前结束。
7.根据权利要求1所述的方法，其中每个分支的所述多个操作提供来自输出层的所述NN模型的输出的一部分。
8.根据权利要求7所述的方法，其中每个分支的每个输出的聚合等于来自所述输出层的所述NN模型的所述输出。
9.根据权利要求8所述的方法，其中来自所述输出层的所述NN模型的所述输出存储在动态随机存取存储器(DRAM)中。
10.根据权利要求1所述的方法，其中所述电子设备包括高速缓存存储器和动态随机存取存储器(DRAM)。
11.一种系统，包括：
处理器；
存储器设备，所述存储器设备包含指令，所述指令在由所述处理器执行时使得所述处理器：
接收将在电子设备上执行的神经网络(NN)模型的表示，所述NN模型的所述表示包括对应于所述NN模型的层的节点，其中所述节点中的至少...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。