数据处理方法及相关设备技术

技术编号:43807745 阅读:22 留言:0更新日期:2024-12-27 13:24
公开了一种数据处理方法及相关设备,以提高智能芯片中的矩阵计算单元的利用率,提高向量类运算效率,进而提高智能芯片的吞吐量。该方法包括:获取到向量算子后,判断该向量算子是否能够转换为等效的矩阵乘法算子,若能则将该向量算子转换为对应的目标矩阵乘法算子,使得能够利用智能芯片的矩阵计算单元执行该目标矩阵乘法算子,提高智能芯片的整体运算效率。

【技术实现步骤摘要】

本申请涉及人工智能,特别是涉及一种数据处理方法及相关设备


技术介绍

1、在大数据-大计算背景下,以机器学习为代表的人工智能技术迅速发展,成为计算机视觉、智能语音、自然语言处理、生物特征识别、推荐系统等关键技术的核心基础,被广泛应用在金融风控、医疗诊断、智慧城市等领域,逐步成为推动信息革命和社会发展的主要力量之一。人工智能的迅速发展得益于两个重要因素,即算法模型的创新和智能芯片计算能力的持续提升。

2、在后摩尔时代,芯片晶体管密度虽然还在继续增加,但功耗密度和性能密度已经很难进一步提高,意味着无法通过工艺改进获得算力提升。因此芯片发展的一个重要分支是领域专用架构(domain specific architecture,dsa),也称智能芯片,该类芯片专用性强,设计简单,根据应用的具体特点,定制运算单元,简化控制逻辑,设计与领域计算特征相适应的存储结构和数据通路,虽然牺牲了通用性和灵活性,却获得了较高的性能和能效比,已经在高性能计算、人工智能、密码学等领域得到广泛应用。智能芯片核心计算单元包括两部分,一部分是矩阵计算单元,用于执行矩阵乘法计算,本文档来自技高网...

【技术保护点】

1.一种数据处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述判断向量算子是否符合条件包括:

3.根据权利要求2所述的方法,其特征在于,所述判断向量算子是否符合条件,还包括:

4.根据权利要求2或3所述的方法,其特征在于,所述目标向量算子包括矩阵按行求和、矩阵按列求和、矩阵数乘、向量外积和矩阵与向量间的哈达玛积运算中的至少一者。

5.根据权利要求1至4中任一项所述的方法,其特征在于,所述目标矩阵乘法算子包括构造矩阵,所述构造矩阵为根据所述向量算子构造的使所述第一计算结果与所述第二计算结果相同的矩阵。

...

【技术特征摘要】

1.一种数据处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述判断向量算子是否符合条件包括:

3.根据权利要求2所述的方法,其特征在于,所述判断向量算子是否符合条件,还包括:

4.根据权利要求2或3所述的方法,其特征在于,所述目标向量算子包括矩阵按行求和、矩阵按列求和、矩阵数乘、向量外积和矩阵与向量间的哈达玛积运算中的至少一者。

5.根据权利要求1至4中任一项所述的方法,其特征在于,所述目标矩阵乘法算子包括构造矩阵,所述构造矩阵为根据所述向量算子构造的使所述第一计算结果与所述第二计算结果相同的矩阵。

6.根据权利要求5所述的方法,其特征在于,所述芯片包括与所述矩阵计算单元连接的缓冲区,所述缓冲区用于存储所述构造矩阵的分块矩阵,所述将所述向量算子转换为目标矩阵乘法算子包括:

7.一种数据处理方法,其特征在于,所述方法应用于芯片,所述芯片包括向量计算单元和矩阵计算单元,所述方法包括:

8.根据权利要求7所述的方法,其特征在于,所述目标矩阵乘法算子包括构造矩阵,所述构造矩阵为根据所述目标向量算子构造的使所述第一计算结果与所述第二计算结果相同的矩阵。

9.根据权利要求8所述的方法,其特征在于,所述芯片包括与所述矩阵计算单元连接的缓冲区,所述缓冲区用于存储所述构造矩阵的分块矩阵,所述将所述目标向量算子转换为目标矩阵乘法...

【专利技术属性】
技术研发人员:白有辉王森周华漫唐艺峰张弓付勇李付华
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1