System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于单任务的多算法快速切换处理方法技术_技高网

一种基于单任务的多算法快速切换处理方法技术

技术编号:40939207 阅读:2 留言:0更新日期:2024-04-18 14:57
本发明专利技术属于人工智能技术领域,尤其涉及一种基于单任务的多算法快速切换处理方法,包括如下步骤:1)根据算法数据量的大小划分存储空间;2)准备各算法所需数据;3)运算资源分配;4)配置算法1~n执行所需寄存器;5)查询运算资源是否空闲;6)如空闲则配置算法使能寄存器并等待算法推理;7)如忙则按调度规则等待资源空闲;8)待推理完成,运算资源释放后,再次查询闲忙状态进行算法推理。本发明专利技术通过将算法推理所需的准备工作提前,降低算法切换的开销。此外为了进一步减少寄存器的数量,将寄存器值通过文件输入,这样大量寄存器的配置将缩短为配置文件首地址,进一步提高算法切换速率。

【技术实现步骤摘要】

本专利技术属于人工智能,尤其涉及一种基于单任务的多算法快速切换处理方法


技术介绍

1、在舰载无人机工作任务中,无人机飞行的不同阶段(如起飞、巡航、警戒、作战、着舰)需要执行决策类、感知类等不同的人工智能算法,工作中这些算法(特别是警戒、作战阶段)需要快速切换,减少因切换过程带来的飞行姿态失控、作战目标丢失等意外情况。在人工智能
,存在对输入数据需要进行不同算法处理的情况,如采用不同网络结构运行风格迁移算法得到不同关注点的结果,也存在对输入数据连续进行不同算法的执行过程,如输入数据经过目标检测减小数据量后进行分类任务。以上过程可以提炼为单任务多算法的连续推理过程,通常处理思路是将多算法拆分,逐一处理,这样在高算力平台下存在算力资源的浪费、因算法切换带来额外的时间开销,因此需要多算法预先分配资源、算法间的快速切换。


技术实现思路

1、为解决
技术介绍
中存在的上述技术问题,本专利技术提供一种基于单任务的多算法快速切换处理方法,实现了算法切换时仅需要少量配置寄存器时间,达到快速切换的目的。

2、本专利技术的技术解决方案是:一种基于单任务的多算法快速切换处理方法,其特殊之处在于:该方法包括以下步骤:

3、1)根据算法数据量的大小划分存储空间;

4、2)准备各算法所需数据;

5、3)运算资源分配;

6、4)配置算法1~n执行所需寄存器;

7、5)查询运算资源是否空闲;

8、6)如空闲则配置算法使能寄存器并等待算法推理;

9、7)如忙则按调度算法等待资源空闲;

10、8)待推理完成,运算资源释放后,再次查询闲忙状态进行算法推理。

11、进一步的,步骤1)中对存储器空间按照所需执行算法进行划分,分别为每个算法分配存储空间,以上空间划分不能有所重叠,而且要满足运算资源对地址对齐的要求。

12、进一步的,存储空间包括输入数据存储空间、运算数据存储空间、临时数据存储空间、输出数据存储空间。

13、进一步的,步骤2)中提前准备执行任务各算法所需的数据,含输入数据、运算数据;这些数据需要通过一定手段(dma)储存到步骤1)所划分的存储空间中。

14、进一步的,步骤3)中计算核的资源有限,为最大化利用计算资源减少资源冲突,需要对运算资源合理分配。

15、进一步的,步骤4)中按照运算资源分配,预先配置各算法执行所需寄存器,即输入数据基地址、参数数据基地址、配置数据基地址、临时数据基地址、输出数据基地址;其中配置数据基地址汇总了算法执行需要的所有寄存器信息,如当前层的输入维度、参数维度、输出维度、计算参数、内部储存基地址。

16、进一步的,步骤5)中判断运算资源的状态,保证执行算法所需的资源足够且不冲突。

17、进一步的,步骤6)中确认运算资源足够后执行算法。

18、进一步的,步骤7)中当运算资源冲突时,按照调度规则对算法进行排队,等待运算资源空闲。

19、进一步的,步骤8)中算法推理完成后释放运算资源,仅通过配置算法使能寄存器实现算法快速切换目的。

20、本专利技术的优点是:本专利技术提供的一种多算法切换方法。通过资源预处理以及用空间换时间的思路来避免数据准备时间开销,通过配置文件首地址避免配置大量工作所需寄存器,通过配置使能寄存器达到算法快速切换的目的。

本文档来自技高网...

【技术保护点】

1.一种基于单任务的多算法快速切换处理方法,其特征在于:该方法包括以下步骤:

2.根据权利要求1所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤1)中对存储器空间按照所需执行算法进行划分,分别为每个算法分配存储空间,以上空间划分不能有所重叠,而且要满足运算资源对地址对齐的要求。

3.根据权利要求2所述的基于单任务的多算法快速切换处理方法,其特征在于:所述存储空间包括输入数据存储空间、运算数据存储空间、临时数据存储空间、输出数据存储空间。

4.根据权利要求3所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤2)中提前准备执行任务各算法所需的数据,含输入数据、运算数据;这些数据需要通过一定手段(dma)储存到步骤1)所划分的存储空间中。

5.根据权利要求4所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤3)中计算核的资源有限,为最大化利用计算资源减少资源冲突,需要对运算资源合理分配。

6.根据权利要求5所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤4)中按照运算资源分配,预先配置各算法执行所需寄存器,即输入数据基地址、参数数据基地址、配置数据基地址、临时数据基地址、输出数据基地址;其中配置数据基地址汇总了算法执行需要的所有寄存器信息,如当前层的输入维度、参数维度、输出维度、计算参数、内部储存基地址。

7.根据权利要求6所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤5)中判断运算资源的状态,保证执行算法所需的资源足够且不冲突。

8.根据权利要求7所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤6)中确认运算资源足够后执行算法。

9.根据权利要求8所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤7)中当运算资源冲突时,按照调度规则对算法进行排队,等待运算资源空闲。

10.根据权利要求9所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤8)中算法推理完成后释放运算资源,仅通过配置算法使能寄存器实现算法快速切换目的。

...

【技术特征摘要】

1.一种基于单任务的多算法快速切换处理方法,其特征在于:该方法包括以下步骤:

2.根据权利要求1所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤1)中对存储器空间按照所需执行算法进行划分,分别为每个算法分配存储空间,以上空间划分不能有所重叠,而且要满足运算资源对地址对齐的要求。

3.根据权利要求2所述的基于单任务的多算法快速切换处理方法,其特征在于:所述存储空间包括输入数据存储空间、运算数据存储空间、临时数据存储空间、输出数据存储空间。

4.根据权利要求3所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤2)中提前准备执行任务各算法所需的数据,含输入数据、运算数据;这些数据需要通过一定手段(dma)储存到步骤1)所划分的存储空间中。

5.根据权利要求4所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤3)中计算核的资源有限,为最大化利用计算资源减少资源冲突,需要对运算资源合理分配。

6.根据权利要求5所述的基于单任务...

【专利技术属性】
技术研发人员:郭蒙李玉杰郭亮王世中任星宇高浪
申请(专利权)人:西安翔腾微电子科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1