张量结构变换方法、装置、电子设备、存储介质及程序产品制造方法及图纸

技术编号:43233422 阅读:19 留言:0更新日期:2024-11-05 17:20
本发明专利技术涉及数据处理领域,提供一种张量结构变换方法、装置、电子设备、存储介质及程序产品,应用于中央处理器,所述方法包括:接收并响应对第一存储器中的至少一个目标张量进行结构变换的指令;提取所有目标张量中的第一部分存储至第二存储器的第一位置,并将所有目标张量中的第二部分存储至读写速度优于第一存储器的第三存储器,第一部分和第二部分是基于指令的指令类型从所有目标张量中确定的;读取暂存在第三存储器中的第二部分存储至第二存储器的第二位置。本发明专利技术在将结构待变换张量的一部分从第一存储器存入第二存储器的同时,通过将待变换张量的另一部分存入读写速度优于第一存储器的第三存储器,中央处理器可以从读写效率更优的第三存储器获取另一部分,大幅减少处理另一部分的时间,从而在整体上提高了待变换张量的结构变换速度。

【技术实现步骤摘要】

本专利技术涉及数据处理领域,尤其涉及一种张量结构变换方法、装置、电子设备、存储介质及程序产品


技术介绍

1、张量结构变换是神经网络模型在训练和运用时需要经常进行的操作。

2、以张量连接操作为例,现有技术在连接两个张量时,中央处理器在完成将一个张量从原始存储空间搬运到目标存储空间的操作后,再将另一个张量从原始存储空间搬运到目标存储空间。

3、虽然张量结构变换操作本身含有的计算量很少,但是在涉及到大量的内存搬运时,也会造成一定比例的时间开销,使得张量结构变换的整体完成速度较慢。


技术实现思路

1、本专利技术旨在至少解决相关技术中存在的技术问题之一。为此,本专利技术提出一种张量结构变换方法,以提高张量的结构变换速度。

2、本专利技术还提出一种张量结构变换装置、电子设备、存储介质及程序产品。

3、根据本专利技术第一方面实施例的张量结构变换方法,应用于中央处理器,包括:

4、接收对第一存储器中的至少一个目标张量进行结构变换的指令;

5、响应所述指本文档来自技高网...

【技术保护点】

1.一种张量结构变换方法,其特征在于,应用于中央处理器,包括:

2.根据权利要求1所述的张量结构变换方法,其特征在于,所述读取暂存在第三存储器中的第二部分存储至所述第二存储器的第二位置,包括:

3.根据权利要求2所述的张量结构变换方法,其特征在于,所述第三存储器与所述中央处理器集成在同一芯片上。

4.根据权利要求1所述的张量结构变换方法,其特征在于,在所述第三存储器包括两个所述子存储器的情况下,所述读取暂存在第三存储器中的第二部分存储至所述第二存储器的第二位置,包括:

5.根据权利要求4所述的张量结构变换方法,其特征在于,若所述目标张量的总...

【技术特征摘要】

1.一种张量结构变换方法,其特征在于,应用于中央处理器,包括:

2.根据权利要求1所述的张量结构变换方法,其特征在于,所述读取暂存在第三存储器中的第二部分存储至所述第二存储器的第二位置,包括:

3.根据权利要求2所述的张量结构变换方法,其特征在于,所述第三存储器与所述中央处理器集成在同一芯片上。

4.根据权利要求1所述的张量结构变换方法,其特征在于,在所述第三存储器包括两个所述子存储器的情况下,所述读取暂存在第三存储器中的第二部分存储至所述第二存储器的第二位置,包括:

5.根据权利要求4所述的张量结构变换方法,其特征在于,若所述目标张量的总数据量大于所述第三存储器的两倍存储容量时,所述第三存储器包括至少两个存储容量相同的子存储器。

6.根据权利要求4所述的张量结构变换方法,其特征在于,在提取所有所述目标张量中的第一部分存储至第二存储器的第一位置后,还包括:

7.根据权利要求1所述的张量结构变换方法,其特征在于,所述提取所有所述目标张量中的第一部分存储至第二存储器的第一位置,包括:

8.根据权利要求1所述的张量结构变换方法,其特征在于,在提取所有所...

【专利技术属性】
技术研发人员:赵东宇丁维浩夏立超张法朝
申请(专利权)人:美的集团上海有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1