System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及芯片,尤其涉及一种基于深度学习的任务处理方法、装置及设备。
技术介绍
1、随着卷积神经神经网络技术的不断发展,应用场景如音频、视觉语义处理等在不断增多,输入数据如高分辨率图像、音频、雷达等,所占用的内存空间也越来越大。
2、但是目前由于芯片的带宽与片内空间存储空间有限,在进行神经网络计算时会导致芯片功耗增加,并且芯片带宽的消耗也会相应的增大,从而降低了神经网络计算的处理效率。
技术实现思路
1、本专利技术提供了一种基于深度学习的任务处理方法、装置及设备,以实现提高片上深度学习的处理效率。
2、根据本专利技术的一方面,提供了一种基于深度学习的任务处理方法,应用于芯片,其中,所述芯片包括任务拆分控制单元和多个加速器,包括:
3、任务拆分控制单元将深度学习计算工作进行拆分获取多个可执行的子任务,并将所述子任务下发给所述加速器,其中,所述子任务中标记有工作标识、运行流标识和子任务标识;
4、所述加速器根据所述运行流标识将各子任务进行分组获取多个运行流,并确定各运行流的资源状态;
5、根据所述资源状态获取待运行的目标运行流,通过加速器中的资源共享管理单元加载所述目标运行流的计算资源,并基于所述计算资源对所述目标运行流的子任务进行处理。
6、根据本专利技术的另一方面,提供了一种基于深度学习的任务处理装置,包括:
7、任务拆分模块,用于任务拆分控制单元将深度学习计算工作进行拆分获取多个可执行的子任务
8、运行流的资源状态确定模块,用于所述加速器根据所述运行流标识将各子任务进行分组获取多个运行流,并确定各运行流的资源状态;
9、运行流处理模块,用于根据所述资源状态获取待运行的目标运行流,通过加速器中的资源共享管理单元加载所述目标运行流的计算资源,并基于所述计算资源对所述目标运行流的子任务进行处理。
10、根据本专利技术的另一方面,提供了一种计算机设备,其特征在于,所述设备包括:
11、一个或多个处理器;
12、存储装置,用于存储一个或多个程序,
13、当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器执行本专利技术任一实施例所述的方法。
14、根据本专利技术的另一方面,提供了一种计算机可执行指令的存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本专利技术实施例中任一所述的方法。
15、本专利技术实施例的技术方案,通过将深度学习计算工作拆分成过个子任务下发到加速器,各加速器针对属于同一运行流的子任务顺序执行,针对不同运行流的子任务并行处理,从而降低了芯片的功耗,提高了深度学习的处理效率。
16、应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
本文档来自技高网...【技术保护点】
1.一种基于深度学习的任务处理方法,其特征在于,应用于芯片,其中,所述芯片包括拆分控制单元和多个加速器,包括:
2.根据权利要求1所述的方法,其特征在于,所述任务拆分控制单元将深度学习计算工作进行拆分获取多个可执行的子任务,并将所述子任务下发给所述加速器,包括:
3.根据权利要求2所述的方法,其特征在于,所述加速器根据所述运行流标识将各子任务进行分组获取多个运行流之后,还包括:
4.根据权利要求3所述的方法,其特征在于,所述确定各运行流的资源状态,包括
5.根据权利要求4所述的方法,其特征在于,所述根据所述目标子任务的资源状况确定所述运行流的资源状况,包括:
6.根据权利要求1所述的方法,其特征在于,所述根据所述资源状态获取待运行的目标运行流,包括:
7.根据权利要求1所述的方法,其特征在于,所述通过加速器中的资源共享管理单元加载所述目标运行流的计算资源,包括:
8.根据权利要求7所述的方法,其特征在于,所述方法还包括:
9.一种基于深度学习的任务处理装置,其特征在于,包括:
< ...【技术特征摘要】
1.一种基于深度学习的任务处理方法,其特征在于,应用于芯片,其中,所述芯片包括拆分控制单元和多个加速器,包括:
2.根据权利要求1所述的方法,其特征在于,所述任务拆分控制单元将深度学习计算工作进行拆分获取多个可执行的子任务,并将所述子任务下发给所述加速器,包括:
3.根据权利要求2所述的方法,其特征在于,所述加速器根据所述运行流标识将各子任务进行分组获取多个运行流之后,还包括:
4.根据权利要求3所述的方法,其特征在于,所述确定各运行流的资源状态,包括
5.根据权利要求4所述的方法,其特征在于,所述根据所述目标子任务的资源状况确定所述运行流的...
【专利技术属性】
技术研发人员:赖斯䶮,张迪,
申请(专利权)人:芯砺智能科技江苏有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。