一种NPU指令级上下文切换方法及装置制造方法及图纸

技术编号:44384117 阅读:23 留言:0更新日期:2025-02-25 09:59
本发明专利技术提供了一种NPU指令级上下文切换方法及装置,涉及数据处理技术领域,包括:接收到上下文切换指令时,禁用非刷新指令并等待正在执行的指令完成,将上下文数据存储到主存模块;完成后,恢复NPU模块的上下文切换相关指令,执行目标任务;目标任务执行完成后,恢复上下文数据到NPU模块,并恢复非刷新指令的执行。本发明专利技术针对现有NPU架构通常只能在算法边界或特定的上下文切换点支持有限的抢占,甚至无法进行抢占,导致高优先级任务必须等待低优先级任务完成,从而引发显著的优先级反转和/或关键性反转的问题进行优化,提出了一种从片上系统到指令集架构,再到操作系统内核的全栈式解决方案,实现了NPU指令级的抢占。

【技术实现步骤摘要】

本专利技术涉及数据处理,具体涉及一种npu指令级上下文切换方法及装置。


技术介绍

1、npu上下文切换问题已经引起了研究界的广泛关注,相关研究主要分为软件方法和硬件方法两大类,然而,现有技术由于其结构特征和电路原理的限制,不可避免地存在一些问题和缺陷。第一,现有的npu架构通常不支持抢占或仅支持有限的抢占,只能在算法边界或某些特定的上下文切换点进行抢占,这使得在任务调度时倘若低优先级/低关键度任务率先到达,高优先级/高关键度任务需要等待低优先级/低关键度任务完成,产生显著的优先级和/或关键性反转问题,其中,优先级反转指的是在具有不同优先级任务的系统中,低优先级任务持有一个资源,而高优先级任务需要该资源,因此高优先级任务被迫等待低优先级任务完成,这种情况下,低优先级任务执行期间阻碍了高优先级任务的执行,导致系统性能和实时性受到影响;关键性反转是优先级反转在混合关键系统中的一个特例,发生在系统退化模式中高关键任务的执行被低关键任务阻塞时,且这种阻塞会导致系统的高关键任务无法按时完成,关键性反转不仅影响任务按照其关键度排序进行执行,还可能对整个系统的安全性和可靠本文档来自技高网...

【技术保护点】

1.一种NPU指令级上下文切换方法,其特征在于,应用于NPU指令级上下文切换装置,所述装置包括软件模块和硬件模块,所述硬件模块包括NPU模块和主存模块,所述软件模块执行步骤包括:

2.如权利要求1所述的一种NPU指令级上下文切换方法,其特征在于,所述硬件模块还包括CPU模块,所述软件模块包括增加了任务监视器、任务调度器和以及微调中断处理程序后的实时操作系统,任务监视器实时监测当前任务是否完成并包含一个定时器定期检查是否有新任务到达,包括:

3.如权利要求1所述的一种NPU指令级上下文切换方法,其特征在于,所述软件模块还包括任务控制模块,所述NPU模块还包括数据默认...

【技术特征摘要】

1.一种npu指令级上下文切换方法,其特征在于,应用于npu指令级上下文切换装置,所述装置包括软件模块和硬件模块,所述硬件模块包括npu模块和主存模块,所述软件模块执行步骤包括:

2.如权利要求1所述的一种npu指令级上下文切换方法,其特征在于,所述硬件模块还包括cpu模块,所述软件模块包括增加了任务监视器、任务调度器和以及微调中断处理程序后的实时操作系统,任务监视器实时监测当前任务是否完成并包含一个定时器定期检查是否有新任务到达,包括:

3.如权利要求1所述的一种npu指令级上下文切换方法,其特征在于,所述软件模块还包括任务控制模块,所述npu模块还包括数据默认配置通道,将所述上下文数据存储至主存模块,包括:

4.如权利要求3所述的一种npu指令级上下文切换方法,其特征在于,所述npu模...

【专利技术属性】
技术研发人员:管嘉鹏魏然尤德安王楹铨杨睿哲王晖江哲
申请(专利权)人:大连理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1