由装置端推核心入队列的装置制造方法及图纸

本发明专利技术的实施例提出一种由装置端推核心入队列的装置，包含存储器存取单元及命令串处理器。该存储器存取单元耦接于命令串处理器及视讯存储器，包含实体执行线程识别缓存器。其中，该视讯存储器包含环形缓存器，上述存储器存取单元根据上述命令串处理器的第一指令为核心的第一硬件执行线程在上述环形缓存器中配置一空间，将上述第一硬件执行线程的基本轮廓数据储存至上述实体执行线程识别缓存器，上述基本轮廓数据包含执行线程识别码、上述空间的尾地址及就绪旗标，上述就绪旗标指出上述第一硬件执行线程包含的多个第一命令尚未就绪。

Device for pushing core into queue by device end

An embodiment of the present invention proposes a device that pushes a core into a queue by a device end, comprising a memory access unit and a command string processor. The memory access unit is coupled to a command string processor and a video memory, and contains an entity execution thread recognition buffer. The video memory contains a ring buffer. The memory access unit configures a space in the ring buffer for the first hardware execution thread whose core is the first instruction of the command string processor, and stores the basic outline data of the first hardware execution thread into the entity execution thread recognition. The basic outline data includes the execution thread identifier, the tail address of the space and the ready flag, which indicates that the first hardware execution thread contains many first commands that are not ready.

【技术实现步骤摘要】
由装置端推核心入队列的装置本申请为申请日为2015年12月4日、申请号为201510885446.1的专利技术名称为“由装置端推核心入队列的装置”的申请案的分案申请。
本专利技术涉及一种图形处理单元技术，特别是一种由装置端推核心入队列的装置。
技术介绍
主端(CPU端)将一个核心推入队列，用以驱动装置端执行。传统上，核心执行结束，装置端返还控制权给主端。接着，主端将另一个待执行的核心推入队列。然而，这需要消耗额外成本并降低效能。因此，本专利技术提出一种由装置端(GPU端)推核心入队列的装置，用以解决以上缺点。
技术实现思路
本专利技术的实施例提出一种由装置端推核心入队列的装置，包含存储器存取单元、命令串处理器、执行单元(EU,ExecutionUnit)及固定流水线单元(FFU,FixedFunctionUnit)。命令串处理器耦接于存储器存取单元，用以从存储器存取单元接收第一命令时，执行环形缓存器中的命令。执行单元根据核心(kernel)的指令(instruction)指示存储器存取单元为硬件执行线程在环形缓存器中配置空间，然后写入硬件执行线程包含的多个第二命令至环形缓存器中的空间。本专利技术的实施例提出一种由装置端推核心入队列的装置，包含存储器存取单元及命令处理器。存储器存取单元耦接于命令串处理器及视讯存储器，包含实体执行线程识别缓存器。视讯存储器包含环形缓存器。存储器存取单元根据执行单元(EU)发出的指令为核心的硬件执行线程在环形缓存器中配置空间，以及将硬件执行线程的基本轮廓数据储存至实体执行线程识别缓存器。基本轮廓数据包含执行线程识别码、配置空间的尾地址及就绪旗标，就绪旗标指出关联于硬件执行线程包含的多个命令尚未就绪。附图说明图1是依据本专利技术实施例的图形处理装置的硬件架构图。图2是依据本专利技术实施例的环形缓存器示意图。图3是依据本专利技术实施例的由装置端推核心入队列的示意图。具体实施方式以下说明为完成专利技术的较佳实现方式，其目的在于描述本专利技术的基本精神，但并不用以限定本专利技术。实际的
技术实现思路
必须参考之后的权利要求范围。必须了解的是，使用于本说明书中的“包含”、“包括”等词，用以表示存在特定的技术特征、数值、方法步骤、作业处理、组件以及/或组件，但并不排除可加上更多的技术特征、数值、方法步骤、作业处理、组件、组件，或以上的任意组合。在权利要求中使用如“第一”、“第二”、“第三”等词是用来修饰权利要求中的组件，并非用来表示之间具有优先权顺序，先行关系，或者是一个组件先于另一个组件，或者是执行方法步骤时的时间先后顺序，仅用来区别具有相同名字的组件。图1是依据本专利技术实施例的图形处理装置(graphics-processingdevice)的硬件架构图。核心(kernel)是程序中宣告的功能(function)，并且由图形处理装置执行。通过图形处理装置执行核心实体(kernel-instance)完成图形处理程序赋予的工作。此硬件架构提供一种机制，用以让图形处理装置中执行的核心实体可将另一个核心实体推入队列，而不需要主端(host-side)的直接参与。这提供了巢状的平行运算，也就是说，执行中的核心实体可巢状地创造更多层的并行作业。装置端执行的核心实体(父核心)将另一个核心实体(子核心)推入至环状缓存器(ringbuffer)。当父核心及子核心异步执行时，除非所有的子核心都执行完毕，父核心的作业无法结束。核心亦可于类似领域中称为计算着色器(computeshader)。计算着色器是另一类独立的着色器类型，相似于现行的图形着色器，例如顶点、几何图形、画素着色器等。其目的在提供更多的通用计算作业，而不是在图形着色器中执行的运算。视讯存储器(videomemory)170配置一段空间作为环形缓存器(RingBuffer，RB)，例如64MBytes。图2是依据本专利技术实施例的环形缓存器示意图。其中，使用三个指标分别指向环形缓存器200中的首、尾及锁定尾地址“RB_head”、“RB_tail”及“RB_locked_tail”。环形缓存器200包含从首地址“RB_head”至锁定尾地址“RB_locked_tail”的存储器空间。详细来说，环形缓存器200可被多个核心(kernel)共享。视讯存储器170可为关联于核心的执行线程群组(threadgroup)配置环形缓存器200的空间。每个执行线程群组可包含多个执行线程，例如16x16x16个执行线程(又可称为软件执行线程组，softwarethreadgroup)。执行单元130打包指定数目的软件执行线程成为一个可并行处理的硬件执行线程(hardwarethread)，例如包含32个软件执行线程，亦可称为单指令多数据(SIMD,SingleInstructionMultipleData)执行线程。环形缓存器最多可储存指定数目的硬件执行线程，例如96个硬件执行线程。显示驱动器110发送命令(command)给命令串处理器(CSP,CommandStreamProcessor)120，用以产生一个核心实例的处理命令(kerneldispatchcommand)，称为主端推入队列的核心(host-side-enqueuedkernel)。执行单元130会将一个核心实例的处理命令拆分成若干个硬件执行线程，此硬件执行线程包含指定数目的软件执行线程，例如32个，并且每一个软件执行线程包含产生一个子核心实例的处理命令(kerneldispatchcommand)，又称装置端推入队列的核心(device-side-enqueuedkernel)。也就是说，显示驱动器110启动第一个核心，接下来的后裔核心都是由装置端产生。执行单元130包含多个运算逻辑单元(ALU,ArithmeticLogicUnit)131a至131m，每个运算逻辑单元包含一个通用寄存器文档(CRF,CommonRegisterFile)133，例如m为32。命令串处理器120依据从显示驱动器110传送的指令或从存储器存取单元160传送的命令驱动执行单元130，用以产生一个核心的硬件执行线程。详细来说，硬件执行线程可指示存储器存取单元(MXU,MemoryAccessUnit)160在环形缓存器200中配置空间给一个核心的硬件执行线程。配置环形缓存器的指令必须为原子指令(atomicinstruction)，用以确保空间配置作业不被其它指令打断。此外，为了记录硬件执行线程推入环形缓存器200的顺序，存储器存取单元160包含实体执行线程识别缓存器(PID,Physical-threadIDbuffer)161，用以依序储存环形缓存器200中每一个硬件执行线程的基本轮廓数据(profile)，包含执行线程识别码、尾地址及就绪旗标“bReady”等。其中，执行线程识别码用以识别硬件执行线程，尾地址为配置空间的最后地址，而就绪旗标初始为“0”，指出关联于此硬件执行线程的命令尚未就绪。在配置空间时，存储器存取单元160更判断是否需要从环形缓存器的首地址“RB_head”开始配置空间。详细来说，存储器存取单元160检查实体执行线程识别缓存器161中最后一个硬件执行线程的尾地址是否等于或超过环形缓存器的尾地址“RB_tail”。若是，则从首本文档来自技高网...

【技术保护点】
1.一种由装置端推核心入队列的装置，包含：一命令串处理器；以及一存储器存取单元，耦接于上述命令串处理器及一视讯存储器，包含一实体执行线程识别缓存器，其中，上述视讯存储器包含一环形缓存器，上述存储器存取单元根据上述命令串处理器的一第一指令为一核心的一第一硬件执行线程在上述环形缓存器中配置一空间，将上述第一硬件执行线程的一基本轮廓数据储存至上述实体执行线程识别缓存器，上述基本轮廓数据包含一执行线程识别码、上述空间的一尾地址及一就绪旗标，上述就绪旗标指出上述第一硬件执行线程包含的多个第一命令尚未就绪。

【技术特征摘要】
1.一种由装置端推核心入队列的装置，包含：一命令串处理器；以及一存储器存取单元，耦接于上述命令串处理器及一视讯存储器，包含一实体执行线程识别缓存器，其中，上述视讯存储器包含一环形缓存器，上述存储器存取单元根据上述命令串处理器的一第一指令为一核心的一第一硬件执行线程在上述环形缓存器中配置一空间，将上述第一硬件执行线程的一基本轮廓数据储存至上述实体执行线程识别缓存器，上述基本轮廓数据包含一执行线程识别码、上述空间的一尾地址及一就绪旗标，上述就绪旗标指出上述第一硬件执行线程包含的多个第一命令尚未就绪。2.如权利要求1所述的由装置端推核心入队列的装置，其中，上述存储器存取单元更判断是否需要从上述环形缓存器的一首地址开始配置上述空间；若是，从上述环形缓存器的上述首地址开始配置上述空间给上述第一硬件执行线程；以及，否则，从上述实体执行线程识别缓存器的最后一个硬件执行线程的尾地址的下一个地址开始配置上述空间给上述第一硬件执行线程。3.如权利要求2所述的由装置端推核心入队列的装置，其中，上述存储器存取单元更判断上述实体执行线程识别缓存器的最后一个硬件执行线程的尾地址是否等于或超过上述环形缓存器的尾地址；若是，判断需要从上述环形缓存...

【专利技术属性】
技术研发人员：武凤霞，洪洲，沈恬，王渊峰，
申请(专利权)人：上海兆芯集成电路有限公司，
类型：发明
国别省市：上海,31