多线程处理器中的指令高速缓存制造技术

一种处理器，包括：用于执行并发线程的桶型线程执行单元，以及在并发线程之间共享的重复高速缓存。处理器的指令集包括采用重复计数操作数的重复指令。当重复高速缓存不被要求，并且在第一线程中执行重复指令时，将来自第一线程的代码部分高速缓存到重复高速缓存中，改变重复高速缓存的状态以将其记录为被要求，并且执行高速缓存的代码多次。然后，当在其他线程执行重复指令时，再次执行已经高速缓存的代码部分相应的次数，每次来自重复高速缓存。对于第一指令和其他指令中的每一个，相应指令中的重复计数操作数指定执行高速缓存的代码的次数。

【技术实现步骤摘要】
多线程处理器中的指令高速缓存
本公开涉及一种指令高速缓存，用于在多线程处理器中高速缓存机器代码的一部分。
技术介绍
对开发为特定应用而设计的处理器(例如图形处理器(GPU)及数字信号处理器(DSP))的兴趣正在上升。另一类最近受到关注的特定于应用的处理器是专用于机器智能应用的处理器，其被申请人命名为“IPU”(智能处理单元)。这些处理器可以被采用为例如加速器处理器，该加速器处理器布置为执行主机分配的工作，例如训练或帮助训练知识模型，例如神经网络，或者执行或帮助执行基于这种模型的预测或推断。机器智能算法是基于对“知识模型”执行迭代更新，这可以由多个互连节点的图形表示。每个节点表示其输入的函数。一些节点接收对图形的输入，一些接收来自一个或多个其他节点的输入，而一些节点的输出形成其他节点的输入，一些节点的输出提供图形的输出(在一些情况下，给定节点甚至可能具有以下全部：对图形的输入、来自图形的输出和对其他节点的连接)。此外，由一个或多个相应参数(例如权重)对每个节点的函数进行参数化。在学习级期间，目标是基于经验输入数据集，找到各个参数的值，使得本文档来自技高网...

【技术保护点】
1.一种处理器，包括：/n执行单元，其配置为执行指令集中定义的指令类型的实例，其中所述执行单元是配置为运行多个并发线程的桶型线程执行单元，每个并发线程在重复序列的交错时隙的不同的相应一个中运行；和/n具有相关状态的重复高速缓存，所述相关状态记录重复高速缓存当前是否被其中一个线程要求；/n其中所述指令集中定义的指令类型包括采用重复计数操作数的重复指令，所述执行单元配置为：/na)当根据所述状态重复高速缓存当前不被要求，并且重复指令的相应实例在第一个相应的所述线程中执行时，将来自第一线程的代码部分高速缓存到重复高速缓存中，修改所述状态以将重复高速缓存记录为被要求，以及执行所述代码部分相应的次数，每...

【技术特征摘要】
20181227 GB 1821229.01.一种处理器，包括：
执行单元，其配置为执行指令集中定义的指令类型的实例，其中所述执行单元是配置为运行多个并发线程的桶型线程执行单元，每个并发线程在重复序列的交错时隙的不同的相应一个中运行；和
具有相关状态的重复高速缓存，所述相关状态记录重复高速缓存当前是否被其中一个线程要求；
其中所述指令集中定义的指令类型包括采用重复计数操作数的重复指令，所述执行单元配置为：
a)当根据所述状态重复高速缓存当前不被要求，并且重复指令的相应实例在第一个相应的所述线程中执行时，将来自第一线程的代码部分高速缓存到重复高速缓存中，修改所述状态以将重复高速缓存记录为被要求，以及执行所述代码部分相应的次数，每个连续的重复取自重复高速缓存，和
b)当根据所述状态重复高速缓存当前被要求，并且然后作为任何其他相应的所述线程的一部分，执行重复指令的另一个实例，直至所述状态之后被重置以再次将重复高速缓存记录为不被要求时，执行已经高速缓存的代码部分相应的次数，每次来自重复高速缓存；和
其中对于第一指令和其他指令中的每一个，相应指令中的重复计数操作数指定执行代码部分的相应次数，所述重复计数操作数能够为执行代码部分的相应次数指定多个正整数值中的任何一个。


2.如权利要求1所述的处理器，其中所述代码部分是跟随第一线程中的重复指令的实例之后的部分。


3.如权利要求2所述的处理器，其中所述重复指令采用重复大小操作数，用于指定所述代码部分的大小，并且其中所述代码部分从跟随第一线程中的重复指令的实例之后的预定点运行至由第一线程中的重复指令的相应实例的大小操作数定义的后续点。


4.如权利要求1、2或3所述的处理器，其中所述重复计数操作数附加地能够采用零值，并且如果重复计数是零，则重复指令使执行单元跳过执行相应线程中的代码部分，这包括第一线程的情况。


5.如权利要求1、2或3所述的处理器，其中如果重复计数是一，则重复指令使执行单元执行代码部分，作为相应线程的一部分，仅一次而没有重复。


6.如权利要求1、2或3所述的处理器，其中所述重复计数操作数是立即操作数，和/或所述重复大小操作数是立即操作数。


7.如权利要求1、2或3所述的处理器，其中：
所述重复计数操作数通过参考从中读取执行代码部分的相应次数的寄存器来指定所述相应次数，和/或
所述重复大小操作数通过参考从中读取所述大小的寄存器来指定所述大小。


8.如权利要求1、2或3所述的处理器，包括硬件机构，用于：一旦第一线程和其他线程中的至少一个已经完成执行高速缓存的代码部分其相应的次数，则自动地重置所述状态以将重复高速缓存再次记录为不被要求。


9.如权利要求8所述的处理器，其中所述机构配置为在第一线程已经完成执行高速缓存的代码部分其相应的次数时，自动地重置所述状态。


10.如权利要求8所述的处理器...

【专利技术属性】
技术研发人员：艾伦·格雷汉姆·亚历山大，西蒙·克里斯蒂安·诺尔斯，马杜拉·戈尔，乔纳森·路易斯·弗格森，
申请(专利权)人：图核有限公司，
类型：发明
国别省市：英国;GB