芯片的虚拟化方法、装置及芯片制造方法及图纸

技术编号:43082634 阅读:24 留言:0更新日期:2024-10-26 09:33
本公开提供了一种芯片的虚拟化方法、装置及芯片,涉及计算机技术领域,尤其涉及AI芯片、云计算技术领域。芯片的虚拟化方法包括:在存储器的第一区域创建多个任务队列,多个任务队列与从芯片上虚拟化出的多个芯片实例分别对应,多个任务队列中的每个任务队列用于存储由相应的芯片实例执行的计算任务;对于多个任务队列中的每个任务队列:将多个计算单元中的至少一个计算单元关联至任务队列,不同的任务队列关联的计算单元不同;从存储器的第二区域划分出对应于任务队列的存储空间,不同的任务队列对应的存储空间不发生重叠;以及将存储空间分别关联至至少一个计算单元,以得到任务队列对应的、包括存储空间和至少一个计算单元的芯片实例。

【技术实现步骤摘要】

本公开涉及计算机,尤其涉及ai(artificial intelligence)芯片,具体涉及一种芯片的虚拟化方法及装置、芯片、电子设备、计算机可读存储介质和计算机程序产品。


技术介绍

1、云计算加速芯片指的是部署于云服务器中的、专门用于处理某种计算任务的处理器芯片,例如ai芯片(又称ai加速器或计算卡)、加解密算法加速芯片、视频编解码加速芯片等。

2、云计算加速芯片通常有虚拟化的需求,即,将一个芯片虚拟化成多个芯片实例,供多个用户进程独立使用。通过将芯片虚拟化为多个芯片实例,可以使多个用户或者工作负载在同一个物理设备(即芯片)上互不干扰地并行运行,从而提高芯片的利用率。

3、在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地,除非另有指明,否则此部分中提及的问题不应认为在任何现有技术中已被公认。


技术实现思路

1、本公开提供了一种芯片的虚拟化方法及装置、芯片、电子设备、计算机可读存储介本文档来自技高网...

【技术保护点】

1.一种芯片的虚拟化方法,其中,所述芯片包括存储器和多个计算单元,所述方法包括:

2.根据权利要求1所述的方法,其中,所述芯片还包括通信单元,所述通信单元通过高速串行计算机扩展总线标准与主机进行通信,所述方法还包括:

3.根据权利要求1或2所述的方法,其中,所述芯片还包括存储器管理单元,并且其中,所述将所述存储空间分别关联至所述至少一个计算单元包括:

4.根据权利要求1-3中任一项所述的方法,还包括:

5.根据权利要求1-4中任一项所述的方法,其中,所述第一区域为所述存储器的预留区,所述第二区域为所述存储器的动态区。p>

6.根据权...

【技术特征摘要】

1.一种芯片的虚拟化方法,其中,所述芯片包括存储器和多个计算单元,所述方法包括:

2.根据权利要求1所述的方法,其中,所述芯片还包括通信单元,所述通信单元通过高速串行计算机扩展总线标准与主机进行通信,所述方法还包括:

3.根据权利要求1或2所述的方法,其中,所述芯片还包括存储器管理单元,并且其中,所述将所述存储空间分别关联至所述至少一个计算单元包括:

4.根据权利要求1-3中任一项所述的方法,还包括:

5.根据权利要求1-4中任一项所述的方法,其中,所述第一区域为所述存储器的预留区,所述第二区域为所述存储器的动态区。

6.根据权利要求1-5中任一项所述的方法,还包括:

7.根据权利要求1-6中任一项所述的方法,还包括:

8.根据权利要求7所述的方法,其中,所述获取目标任务队列中的待执行的第一计算任务包括:

9.根据权利要求8所述的方法,还包括:

10.一种芯片的虚拟化装置,其中,所述芯片包括存储器和多个计算单元,所述装置包括:

11.根据权利要求10所述的装置,其中,所述芯片还包括通信单元,所述通信单元通过高速串行计算机扩展总线标准与主机进行通信,所述装置还包括:

【专利技术属性】
技术研发人员:蔡火清缪天翔王丹王勇
申请(专利权)人:昆仑芯北京科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1