System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术属于人工智能,尤其涉及一种基于单任务的多算法快速切换处理方法。
技术介绍
1、在舰载无人机工作任务中,无人机飞行的不同阶段(如起飞、巡航、警戒、作战、着舰)需要执行决策类、感知类等不同的人工智能算法,工作中这些算法(特别是警戒、作战阶段)需要快速切换,减少因切换过程带来的飞行姿态失控、作战目标丢失等意外情况。在人工智能
,存在对输入数据需要进行不同算法处理的情况,如采用不同网络结构运行风格迁移算法得到不同关注点的结果,也存在对输入数据连续进行不同算法的执行过程,如输入数据经过目标检测减小数据量后进行分类任务。以上过程可以提炼为单任务多算法的连续推理过程,通常处理思路是将多算法拆分,逐一处理,这样在高算力平台下存在算力资源的浪费、因算法切换带来额外的时间开销,因此需要多算法预先分配资源、算法间的快速切换。
技术实现思路
1、为解决
技术介绍
中存在的上述技术问题,本专利技术提供一种基于单任务的多算法快速切换处理方法,实现了算法切换时仅需要少量配置寄存器时间,达到快速切换的目的。
2、本专利技术的技术解决方案是:一种基于单任务的多算法快速切换处理方法,其特殊之处在于:该方法包括以下步骤:
3、1)根据算法数据量的大小划分存储空间;
4、2)准备各算法所需数据;
5、3)运算资源分配;
6、4)配置算法1~n执行所需寄存器;
7、5)查询运算资源是否空闲;
8、6)如空闲则配置算法使能寄存器并
9、7)如忙则按调度算法等待资源空闲;
10、8)待推理完成,运算资源释放后,再次查询闲忙状态进行算法推理。
11、进一步的,步骤1)中对存储器空间按照所需执行算法进行划分,分别为每个算法分配存储空间,以上空间划分不能有所重叠,而且要满足运算资源对地址对齐的要求。
12、进一步的,存储空间包括输入数据存储空间、运算数据存储空间、临时数据存储空间、输出数据存储空间。
13、进一步的,步骤2)中提前准备执行任务各算法所需的数据,含输入数据、运算数据;这些数据需要通过一定手段(dma)储存到步骤1)所划分的存储空间中。
14、进一步的,步骤3)中计算核的资源有限,为最大化利用计算资源减少资源冲突,需要对运算资源合理分配。
15、进一步的,步骤4)中按照运算资源分配,预先配置各算法执行所需寄存器,即输入数据基地址、参数数据基地址、配置数据基地址、临时数据基地址、输出数据基地址;其中配置数据基地址汇总了算法执行需要的所有寄存器信息,如当前层的输入维度、参数维度、输出维度、计算参数、内部储存基地址。
16、进一步的,步骤5)中判断运算资源的状态,保证执行算法所需的资源足够且不冲突。
17、进一步的,步骤6)中确认运算资源足够后执行算法。
18、进一步的,步骤7)中当运算资源冲突时,按照调度规则对算法进行排队,等待运算资源空闲。
19、进一步的,步骤8)中算法推理完成后释放运算资源,仅通过配置算法使能寄存器实现算法快速切换目的。
20、本专利技术的优点是:本专利技术提供的一种多算法切换方法。通过资源预处理以及用空间换时间的思路来避免数据准备时间开销,通过配置文件首地址避免配置大量工作所需寄存器,通过配置使能寄存器达到算法快速切换的目的。
本文档来自技高网...【技术保护点】
1.一种基于单任务的多算法快速切换处理方法,其特征在于:该方法包括以下步骤:
2.根据权利要求1所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤1)中对存储器空间按照所需执行算法进行划分,分别为每个算法分配存储空间,以上空间划分不能有所重叠,而且要满足运算资源对地址对齐的要求。
3.根据权利要求2所述的基于单任务的多算法快速切换处理方法,其特征在于:所述存储空间包括输入数据存储空间、运算数据存储空间、临时数据存储空间、输出数据存储空间。
4.根据权利要求3所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤2)中提前准备执行任务各算法所需的数据,含输入数据、运算数据;这些数据需要通过一定手段(dma)储存到步骤1)所划分的存储空间中。
5.根据权利要求4所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤3)中计算核的资源有限,为最大化利用计算资源减少资源冲突,需要对运算资源合理分配。
6.根据权利要求5所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤4)中按照运算资源分配
7.根据权利要求6所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤5)中判断运算资源的状态,保证执行算法所需的资源足够且不冲突。
8.根据权利要求7所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤6)中确认运算资源足够后执行算法。
9.根据权利要求8所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤7)中当运算资源冲突时,按照调度规则对算法进行排队,等待运算资源空闲。
10.根据权利要求9所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤8)中算法推理完成后释放运算资源,仅通过配置算法使能寄存器实现算法快速切换目的。
...【技术特征摘要】
1.一种基于单任务的多算法快速切换处理方法,其特征在于:该方法包括以下步骤:
2.根据权利要求1所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤1)中对存储器空间按照所需执行算法进行划分,分别为每个算法分配存储空间,以上空间划分不能有所重叠,而且要满足运算资源对地址对齐的要求。
3.根据权利要求2所述的基于单任务的多算法快速切换处理方法,其特征在于:所述存储空间包括输入数据存储空间、运算数据存储空间、临时数据存储空间、输出数据存储空间。
4.根据权利要求3所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤2)中提前准备执行任务各算法所需的数据,含输入数据、运算数据;这些数据需要通过一定手段(dma)储存到步骤1)所划分的存储空间中。
5.根据权利要求4所述的基于单任务的多算法快速切换处理方法,其特征在于:所述步骤3)中计算核的资源有限,为最大化利用计算资源减少资源冲突,需要对运算资源合理分配。
6.根据权利要求5所述的基于单任务...
【专利技术属性】
技术研发人员:郭蒙,李玉杰,郭亮,王世中,任星宇,高浪,
申请(专利权)人:西安翔腾微电子科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。