一种神经处理器包括用于对对应于一个或多个任务的输入数据执行卷积操作以生成输出数据的神经引擎。该神经处理器电路还包括耦接到一个或多个神经引擎的数据处理器电路。该数据处理器电路从该神经引擎接收该输出数据并且从该输出数据生成分支命令。该神经处理器电路还包括耦接到该数据处理器电路的任务管理器。该任务管理器从该数据处理器电路接收该分支命令。该任务管理器根据所接收的分支命令来将两个或更多个分段分支中的一个分段分支入队。该两个或更多个分段分支在包括预分支任务的预分支任务分段之后。该任务管理器将来自这些分段分支中的所选择的分段分支的任务传输到数据处理器电路以执行该任务。到数据处理器电路以执行该任务。到数据处理器电路以执行该任务。
【技术实现步骤摘要】
【国外来华专利技术】用于神经处理器电路的分支操作
技术介绍
1.
[0001]本公开涉及一种用于执行与神经网络有关的操作的电路，并且更具体地涉及与对神经处理器电路中的任务分段的分支和选择有关的操作。
[0002]2.相关技术描述
[0003]人工神经网络(ANN)是使用连接节点的集合来处理输入数据的计算系统或模型。ANN通常被组织成层，其中不同的层对其输入执行不同类型的转换。ANN的扩展或变体诸如卷积神经网络(CNN)、递归神经网络(RNN)和深度信念网络(DBN)已受到大量关注。这些计算系统或模型通常涉及广泛的计算操作，包括相乘和累加。例如，CNN是一类主要使用输入数据和内核数据之间的卷积的机器学习技术，卷积可分解为相乘和累加操作。
[0004]根据输入数据的类型和待执行的操作，这些机器学习系统或模型可被不同地配置。此类变化的配置将包括例如预处理操作、输入数据中的通道数量、待使用的内核数据、待应用于卷积结果的非线性函数以及各种后处理操作的应用。使用中央处理单元(CPU)及其主存储器来实例化和执行各种配置的机器学习系统或模型相对容易，因为此类系统或模型仅通过更新代码即可实例化。然而，仅依赖于CPU进行这些机器学习系统或模型的各种操作将消耗中央处理单元(CPU)的大量带宽以及增加总体功率消耗。
[0005]配备有专用于执行与机器学习模型有关的计算的神经处理器的电子设备已经变得越来越普遍。由于在各种软件应用程序中对人工智能的依赖性增加，因此电子设备常常操作运行一个或多个神经网络的多个软件应用程序。
技术实现思路
[0006]实施方案涉及一种神经处理器电路，该神经处理器电路包括用于对对应于预分支任务的输入数据执行卷积操作以生成输出数据的一个或多个神经引擎电路。该神经处理器电路还包括耦接到一个或多个神经引擎电路的数据处理器电路。该数据处理器电路从这些神经引擎电路接收该输出数据并且从该输出数据生成分支命令。该神经处理器电路还包括耦接到该数据处理器电路的任务管理器电路。该任务管理器电路从该数据处理器电路接收该分支命令。该任务管理器电路根据所接收的分支命令来将两个或更多个分段分支中的一个分段分支入队。该两个或更多个分段分支在包括预分支任务的预分支任务分段之后。该任务管理器电路将来自这些分段分支中的所选择的分段分支的任务传输到数据处理器电路以执行该任务。
附图说明
[0007]图1是根据实施方案的电子设备的高级图。
[0008]图2是示出根据一个实施方案的电子设备中的部件的框图。
[0009]图3是示出根据一个实施方案的神经处理器电路的框图。
[0010]图4是根据一个实施方案的神经处理器电路中的神经引擎的框图。
[0011]图5是根据一个实施方案的神经处理器电路中的平面引擎的框图。
[0012]图6是示出根据一个实施方案的用于配置神经处理器电路的部件的光栅器和数据流控制电路的编程的图。
[0013]图7是示出根据一个实施方案的由任务列表表示的神经网络的示意性框图。
[0014]图8是示出根据一个实施方案的在神经处理器电路中执行任务的时序图。
[0015]图9是根据一个实施方案的数据处理器电路中的数据控制电路的框图。
[0016]图10是根据一个实施方案的神经处理器电路中的神经任务管理器的框图。
[0017]图11A是示出根据一个实施方案的一个或多个神经网络表示的框图。
[0018]图11B是示出根据一个实施方案的一个或多个任务序列的框图。
[0019]图12是示出根据一个实施方案的任务描述符的框图。
[0020]图13是示出根据一个实施方案的分支过程的框图。
[0021]图14是示出根据一个实施方案的用于执行具有分支的神经处理操作的示例性过程的流程图。
[0022]仅仅出于示例目的，附图说明以及具体实施方式描述各种非限定性实施方案。
具体实施方式
[0023]现在将详细地参考实施方案，这些实施方案的示例在附图中示出。下面的详细描述中示出许多具体细节，以便提供对各种所描述的实施方案的充分理解。然而，可以在没有这些具体细节的情况下实施所述实施方案。在其他情况下，没有详细地描述众所周知的方法、过程、部件、电路和网络，从而不会不必要地使实施方案的各个方面晦涩难懂。
[0024]本公开的实施方案涉及包括任务管理器电路的神经处理器，该任务管理器电路基于分支之前的任务的输出从两个或更多个分支选项中选择分支。任务管理器在确定前一任务的结果之后将所选择的任务分支入队。可将所选择的任务分支分配给与包括分支确定任务的神经网络不同的神经网络。神经处理器级别上的分支确定减少了从一个神经网络到另一个神经网络的转变等待时间，从而加速了神经处理器的操作。
[0025]示例性电子设备
[0026]本文描述了电子设备、此类设备的用户界面和使用此类设备的相关联的进程的实施方案。在一些实施方案中，该设备为还包含其他功能诸如个人数字助理(PDA)和/或音乐播放器功能的便携式通信设备，诸如移动电话。便携式多功能设备的示例性实施方案包括但不限于来自Apple Inc.(Cupertino,California)的设备、iPod设备、Apple设备和设备。可选地使用其他便携式电子设备，诸如可穿戴设备、膝上型电脑或平板计算机。在一些实施方案中，该设备不是便携式通信设备，而是台式计算机或不是为便携式使用而设计的其他计算设备。在一些实施方案中，所公开的电子设备可包括触敏表面(例如，触摸屏显示器和/或触摸板)。下文结合图1描述的示例电子设备(例如，设备100)可包括用于接收用户输入的触敏表面。电子设备还可包括一个或多个其他物理用户接口设备，诸如物理键盘、鼠标和/或操纵杆。
[0027]图1是根据一个实施方案的电子设备100的高级图。设备100可包括一个或多个物理按钮，诸如“home”按钮或菜单按钮104。菜单按钮104例如用于导航到在设备100上执行的
一组应用程序中的任何应用程序。在一些实施方案中，菜单按钮104包括识别菜单按钮104上的指纹的指纹传感器。指纹传感器能够被用来确定菜单按钮104上的手指是否具有与为解锁设备100存储的指纹匹配的指纹。另选地，在一些实施方案中，菜单按钮104被实现为触摸屏上显示的图形用户界面(GUI)中的软键。
[0028]在一些实施方案中，设备100包括触摸屏150、菜单按钮104、用于使设备开/关机和用于锁定设备的下压按钮106、音量调节按钮108、订户身份模块(SIM)卡槽110、耳麦插孔112和对接/充电外部端口124。下压按钮106可被用于通过压下该按钮并将该按钮保持在压下状态达预定义的时间间隔来对设备进行开关机；通过压下该按钮并在该预定义的时间间隔过去之前释放该按钮来锁定设备；和/或对设备进行解锁或发起解锁进程。在另选的实施方案中，设备100还通过麦克风113接受用于激活或去激活某些功能的语音输入。设备100包括各种部件，包括但不限于存储器(可包括一个或多个计算机可读存本文档来自技高网...
【技术保护点】
【技术特征摘要】
【国外来华专利技术】1.一种神经处理器电路，包括：一个或多个神经引擎电路，所述一个或多个神经引擎电路被配置为对对应于预分支任务的输入数据执行卷积操作以生成输出数据；数据处理器电路，所述数据处理器电路耦接到所述一个或多个神经引擎电路，所述数据处理器电路被配置为：从所述一个或多个神经引擎电路接收所述输出数据；以及从所述输出数据生成分支命令；和任务管理器电路，所述任务管理器电路耦接到所述数据处理器电路，所述任务管理器电路被配置为：从所述数据处理器电路接收所述分支命令；根据所接收的分支命令来将两个或更多个分段分支中的一个分段分支入队，所述两个或更多个分段分支在包括所述预分支任务的预分支任务分段之后；以及将来自所述分段分支中的所选择的分段分支的任务传输到所述数据处理器电路以执行所述任务。2.根据权利要求1所述的神经处理器电路，其中所述预分支任务分段被分配给第一神经网络，并且所选择的分段分支被分配给与所述第一神经网络不同的第二神经网络。3.根据权利要求1所述的神经处理器电路，其中所述分支命令基于将所述输出数据中的一个或多个值与一个或多个参考值进行比较来生成。4.根据权利要求1所述的神经处理器电路，其中所述分段分支中的所选择的分段分支被入队到所述预分支任务分段入队在其中的任务队列。5.根据权利要求1所述的神经处理器电路，其中所述两个或更多个分段分支的地址存储在所述预分支任务分段中。6.根据权利要求1所述的神经处理器电路，确定所述分支命令的所述预分支任务由存储在所述预分支任务分段中的分支任务标识符来识别。7.根据权利要求1所述的神经处理器电路，其中确定所述分支命令的所述预分支任务是所述预分支任务分段中的最后一个任务。8.根据权利要求1所述的神经处理器电路，其中确定所述分支命令的所述预分支任务是所述预分支任务分段中的中间任务。9.根据权利要求1所述的神经处理器电路，其中所述任务管理器电路被进一步配置为：在接收到所述分支命令之前，确定已经传输所述预分支任务分段中的任务以供执行；以及暂停所述任务管理器电路，直到接收到所述分支命令。10.根据权利要求1所述的神经处理器电路，其中所述任务管理器电路被进一步配置为：在接收到所述分支命令之前，确定已经传输所述预分支任务分段中的任务以供执行；以及在接收到所述分支命令之前，处理与所述两个或更多个分段分支不同的单独任务分段。11.一种执行神经处理操作的方法，包括：
由一个或多个神经引擎电路对对应于预分支任务的输入数据执行卷积操作以生成输出数据；由数据处理器电路从所述一个或多个神经引擎电路接收所...
【专利技术属性】
技术研发人员：K，
申请(专利权)人：苹果公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。