队列调度方法、芯片、系统、介质和程序产品技术方案

本发明专利技术涉及芯片技术领域，提供一种队列调度方法、芯片、系统、介质和程序产品，其中方法包括：查询第一队列中是否存储有待执行任务，所述第一队列是由中央处理器预先为各个进程或用户在所述人工智能芯片上创建的队列，所述待执行任务是所述中央处理器在监测到所述进程或用户发起任务请求的情况下创建并提交到所述第一队列中的；若查询到所述第一队列中存储有待执行任务，则将所述第一队列绑定到第二队列上；基于所述第二队列，对所述待执行任务进行执行。本发明专利技术提供的方法、芯片、系统、介质和程序产品，能够降低内核驱动程序的复杂度，解决对中央处理器性能的依赖，同时提升调度性能。

【技术实现步骤摘要】

本专利技术涉及芯片，尤其涉及队列调度，特别涉及一种队列调度方法、芯片、系统、介质和程序产品。

技术介绍

1、在高性能计算、图形渲染以及深度学习等领域，人工智能芯片的使用逐渐变得普遍。然而，由于人工智能芯片资源的有限性，特别是在多进程或多用户共享这些资源时，如何高效地进行资源分配和调度成为了一个重要问题。传统的人工智能芯片的使用模式依赖于硬件队列来处理任务，但由于硬件队列数量的限制，当多进程或多用户共享人工智能芯片资源时，必须采取分时调度的策略来实现。

2、为了解决这一问题，相关技术采用了一种在cpu(central processing unit，中央处理器)侧的内核驱动程序中为不同进程或用户创建虚拟队列的策略，然后通过分时调度的方式将虚拟队列绑定到硬件队列上执行，以实现资源的共享。尽管这种策略在一定程度上可以解决人工智能芯片资源共享的问题，但它也增加了驱动程序的复杂度，而且调度性能依赖cpu性能，易出现调度效率低的问题。此外，这种策略在硬件访问开销和虚拟队列操作效率等方面也存在明显缺陷。

技术实现思路...

【技术保护点】

1.一种队列调度方法，其特征在于，所述方法应用于人工智能芯片，所述方法包括：

2.根据权利要求1所述的队列调度方法，其特征在于，所述将所述第一队列绑定到第二队列上，包括：

3.根据权利要求2所述的队列调度方法，其特征在于，所述对所述第一队列的查询、绑定、停止、解绑均是基于硬件完成的。

4.根据权利要求1所述的队列调度方法，其特征在于，所述查询第一队列中是否存储有待执行任务，包括：

5.根据权利要求1至4任一项所述的队列调度方法，其特征在于，所述第一队列为虚拟队列，所述第二队列为硬件队列。

6.根据权利要求1至4任一项所述的队列调...

【技术特征摘要】

1.一种队列调度方法，其特征在于，所述方法应用于人工智能芯片，所述方法包括：

2.根据权利要求1所述的队列调度方法，其特征在于，所述将所述第一队列绑定到第二队列上，包括：

3.根据权利要求2所述的队列调度方法，其特征在于，所述对所述第一队列的查询、绑定、停止、解绑均是基于硬件完成的。

4.根据权利要求1所述的队列调度方法，其特征在于，所述查询第一队列中是否存储有待执行任务，包括：

5.根据权利要求1至4任一项所述的队列调度方法，其特征在于，所述第一队列为虚拟队列，所述第二队列为硬件队列。

6.根据权利要求1至4任一项所述的队列调度方法，其特征在于，所述待执行任务是指由所述中央处理器创建且尚未在所述人工智能芯片上执行的任务，所述任务请...

【专利技术属性】
技术研发人员：请求不公布姓名，请求不公布姓名，请求不公布姓名，请求不公布姓名，请求不公布姓名，
申请(专利权)人：上海壁仞科技股份有限公司，
类型：发明
国别省市：