System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种高效的GPU中断管理系统及其方法技术方案_技高网

一种高效的GPU中断管理系统及其方法技术方案

技术编号:40194664 阅读:4 留言:0更新日期:2024-01-26 23:57
本发明专利技术提供了一种高效的GPU中断管理系统及其方法,属于计算机技术领域。本发明专利技术在GPU内部对中断进行集中管理,只需占用一个MSI中断与Host交互,即可支持大量的GPU中断需求,从而实现了高效的GPU中断管理;同时,还将Host所需的全部中断信息写到Host buffer,Host不需要读取GPU的中断寄存器,提高了响应效率。

【技术实现步骤摘要】

本专利技术涉及计算机,具体涉及一种高效的gpu中断管理系统及其方法。


技术介绍

1、计算机的世界里处处都有中断(interrupt),尤其在异构平台中,数量越来越多。大数据时代,算力已成为推动数字经济发展的动力,而随着对数据的计算需求越来越高,gpu已成为算力基础设施重要的组成部分。gpu芯片拥有数量巨大的计算核心和强大的指令集,广泛应用于数据中心、人工智能等众多领域中。因此,gpu管理中断的效率,对芯片性能有着重要的影响。

2、现有技术一般是直接使用pcie的中断系统,如message signaled interrupts(简称msi)。这样做的好处是实现比较简单。但存在以下2个问题:1、效率比较低:host需要读取gpu内部的寄存器信息才能进行中断处理;2、支持的中断数量有限:传统的pci只有4个中断口,pcie的message signaled interrupts(简称msi)最多也只支持32个中断。


技术实现思路

1、针对现有中断管理方案存在的问题,本专利技术通过host、local的并行操作,提出了一种高效中断管理的实现方案。这种方案既可以保证中断的顺序,且可灵活扩展中断数量,解决了传统中断的数量受限问题,又能避免host读取gpu的中断寄存器,提高中断管理的效率。

2、本专利技术的第一方面提供了一种高效的gpu中断管理系统,包括host buffer读写模块、local buffer读写模块;其中,

3、所述host buffer读写模块主要做中断信息写入、读取和host buffer的指针更新;

4、所述local buffer读写模块主要做中断信息写入、读取和local buffer的指针更新。

5、本专利技术第二方面提供了一种高效的gpu中断管理方法,所述方法包括如下步骤:

6、s1,gpu内部的各模块有中断时将中断信息传输给gpu的中断管理模块,所述中断管理模块将所述中断信息先缓存到local buffer读写模块,确保信息不丢失,同时维护local buffer指针更新;

7、s2,gpu的中断管理模块根据在local侧保存的local_hrptr和local_hwptr判断host buffer是否有足够的空间可以写入所述中断信息;若有足够空间,所述中断管理模块从所述local buffer读写模块读取所述中断信息并写到host buffer读写模块,同时给对应的模块回复授权,确保其有中断时可以继续传输给所述中断管理模块;

8、s3,gpu的中断管理模块发起写指针的回写操作,然后通过pcie的msi中断告知host有中断待处理;host根据hwptr指针判断有效中断信息的边界,host完成中断处理后将hrptr指针的值写到所述中断管理模块内部的local_hrptr。

9、进一步地,所述方法还包括:所述中断管理模块根据host更新的local_hrptr及本地维护的local_hwptr判断host buffer的可用空间大小,防止溢出。

10、进一步地,所述方法还包括:若所述中断管理模块通过pcie发送msi给host后长时间未收到local_hrptr的更新命令,则所述中断管理模块再次通过pcie发送msi给host,防止因信息丢失而导致系统进入死循环,增强系统鲁棒性。

11、与现有技术相比,本专利技术有以下几个优势:

12、1)效率高。host只需从host buffer中读取中断信息,不需要读gpu的中断寄存器,显著提高了中断响应的效率,从而提高系统性能;

13、2)中断数量可扩展,不受限制。gpu中断在内部集中管理,扩展不受限制,对外只需占用一个pcie的msi中断即可,对复杂异构平台友好。

本文档来自技高网...

【技术保护点】

1.一种高效的GPU中断管理系统,其特征在于,包括Host buffer读写模块、Localbuffer读写模块;其中,

2.基于权利要求1所述系统的一种高效的GPU中断管理方法,所述方法包括如下步骤:

3.根据权利要求2所述的一种高效的GPU中断管理系统,其特征在于:所述方法还包括:所述中断管理模块根据Host更新的Local_HRPTR及本地维护的Local_HWPTR判断Hostbuffer的可用空间大小,防止溢出。

4.根据权利要求3所述的一种高效的GPU中断管理系统,其特征在于:所述方法还包括:若所述中断管理模块通过PCIe发送MSI给Host后长时间未收到Local_HRPTR的更新命令,则所述中断管理模块再次通过PCIe发送MSI给Host,防止因信息丢失而导致系统进入死循环。

【技术特征摘要】

1.一种高效的gpu中断管理系统,其特征在于,包括host buffer读写模块、localbuffer读写模块;其中,

2.基于权利要求1所述系统的一种高效的gpu中断管理方法,所述方法包括如下步骤:

3.根据权利要求2所述的一种高效的gpu中断管理系统,其特征在于:所述方法还包括:所述中断管理模块根据host更新的local_hrptr及...

【专利技术属性】
技术研发人员:管叙民王爽
申请(专利权)人:沐曦集成电路南京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1