System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及人工智能,尤其涉及一种用于存算一体芯片的任务调度方法、装置、电子设备及存储介质。
技术介绍
1、随着算法、算力以及数据量规模的不断发展,机器学习技术在解决诸多问题方面不断展现出强大的力量。其中,人工神经网络以其在图像识别、目标检测以及语义分割等领域的突出表现得到了广泛关注。随着神经网络规模的扩大,以cpu+gpu架构进行神经网络计算的模式在速度、功耗等方面逐渐遇到了瓶颈。究其根源在于冯·诺伊曼架构下存算分离使得以数据为中心的神经网络模型给计算系统带来过大的数据传输开销,在降低运算速度的同时,增大了硬件设备功耗。
2、存算一体化芯片可以用于克服存算分离的弊端,将神经网络的权重存储到阵列节点的电导上,在将以电压表示的数据源送入阵列的同时,由欧姆定律可知输出的电流为电压和电导的乘积,从而完成了数据源和网络权重的矩阵乘法运算,本质上是在进行模拟计算,而非传统上的数字计算。
3、目前,现有技术中的任务调度方案通常是面向算力的动态调度方法,即根据任务信息以及硬件设备的适应度,进行任务调度。但是,面向算力的任务调度方法不适用于存算一体芯片,难以实现存算一体芯片硬件资源的充分利用。
技术实现思路
1、本专利技术提供了一种用于存算一体芯片的任务调度方法、装置、设备及存储介质,以解决面向算力的任务调度方式与存算一体芯片不匹配的问题,可以在提高存算一体芯片硬件资源利用率的同时,保证任务执行效率,降低硬件设备功耗。
2、根据本专利技术的一方面,提供了一种用
3、获取待执行任务的模型结构信息;
4、根据所述模型结构信息,确定计算核划分结果以及存储资源划分结果;
5、根据所述计算核划分结果以及所述存储资源划分结果,确定流水窗口划分结果,以根据所述流水窗口划分结果对待执行任务进行任务调度。
6、根据本专利技术的另一方面,提供了一种用于存算一体芯片的任务调度装置,该装置包括:
7、结构信息获取模块,用于获取待执行任务的模型结构信息;
8、划分结果确定模块,用于根据所述模型结构信息,确定计算核划分结果以及存储资源划分结果;
9、任务调度模块,用于根据所述计算核划分结果以及所述存储资源划分结果,确定流水窗口划分结果,以根据所述流水窗口划分结果对待执行任务进行任务调度。
10、根据本专利技术的另一方面,提供了一种电子设备,所述电子设备包括:
11、至少一个处理器;以及
12、与所述至少一个处理器通信连接的存储器;其中,
13、所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本专利技术任一实施例所述的用于存算一体芯片的任务调度方法。
14、根据本专利技术的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的用于存算一体芯片的任务调度方法。
15、本专利技术实施例的技术方案,通过获取待执行任务的模型结构信息,根据所述模型结构信息,确定计算核划分结果以及存储资源划分结果,再根据所述计算核划分结果以及所述存储资源划分结果,确定流水窗口划分结果,以根据所述流水窗口划分结果对待执行任务进行任务调度。该技术方案解决了面向算力的任务调度方式与存算一体芯片不匹配的问题,可以在提高存算一体芯片硬件资源利用率的同时,保证任务执行效率,降低硬件设备功耗。
16、应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
本文档来自技高网...【技术保护点】
1.一种用于存算一体芯片的任务调度方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述模型结构信息包括算子类型以及算子匹配的参数;
3.根据权利要求2所述的方法,其特征在于,所述模型结构信息还包括算子之间的关联关系;
4.根据权利要求2所述的方法,其特征在于,所述根据各算子的复杂性判断结果,确定存储资源划分结果,包括:
5.根据权利要求1所述的方法,其特征在于,在确定流水窗口划分结果之后,所述方法还包括:
6.根据权利要求5所述的方法,其特征在于,所述根据所述任务执行时间,基于遗传算法,对所述流水窗口划分结果进行优化,直到满足优化终止条件,输出所述流水窗口划分结果的优化结果,包括:
7.根据权利要求5所述的方法,其特征在于,所述根据所述任务执行时间,基于遗传算法,对所述流水窗口划分结果进行优化,直到满足优化终止条件,输出所述流水窗口划分结果的优化结果,包括:
8.一种用于存算一体芯片的任务调度装置,其特征在于,包括:
9.一种电子设备,其特征在于,所述电子设
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的用于存算一体芯片的任务调度方法。
...【技术特征摘要】
1.一种用于存算一体芯片的任务调度方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述模型结构信息包括算子类型以及算子匹配的参数;
3.根据权利要求2所述的方法,其特征在于,所述模型结构信息还包括算子之间的关联关系;
4.根据权利要求2所述的方法,其特征在于,所述根据各算子的复杂性判断结果,确定存储资源划分结果,包括:
5.根据权利要求1所述的方法,其特征在于,在确定流水窗口划分结果之后,所述方法还包括:
6.根据权利要求5所述的方法,其特征在于,所述根据所述任务执行时间,基于遗传算法,对所述流水窗口划分...
【专利技术属性】
技术研发人员:刘翰杰,毛亚鹏,张爱飞,
申请(专利权)人:杭州知存智能科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。