用于广播计算的方法和电子装置制造方法及图纸

技术编号:41138291 阅读:27 留言:0更新日期:2024-04-30 18:09
公开了用于广播计算的方法和电子装置。所述方法包括:确定与第一张量和第二张量对应的广播类型;执行预先生成的与广播类型对应的程序以:确定与第一形状的每个维度对应的偏移量和与第二形状的每个维度对应的偏移量,基于广播类型、与第一形状的每个维度对应的偏移量和与第二形状的每个维度对应的偏移量,确定与第一张量的每个维度对应的偏移量以及与第二张量的每个维度对应的偏移量,基于与第一张量的每个维度对应的偏移量、与第二张量的每个维度对应的偏移量,确定第一张量的第一元素的第一偏移量和第二张量的第二元素的第二偏移量,基于第一偏移量和第二偏移量获取第一元素和第二元素,并对第一元素和第二元素执行运算。

【技术实现步骤摘要】

本专利技术的实施例涉及数据处理,尤其涉及用于广播计算的方法和电子装置


技术介绍

1、人工智能(ai)模型在硬件设备部署的时候,通常会使用各种推理引擎。这些推理引擎背后是由包含许多算子实现的算子库构成,广播算子(或广播计算)就是众多算子之一。广播计算是指,如果用于执行运算的两个张量中的一个张量的多个维度中的一个维度为1,另一张量的对应维度不为1,则将所述一个张量在所述一个维度上扩展以匹配所述另一张量的对应维度。然而,仍然需要提高广播计算的效率、支持高维度的广播计算、以及提高实现广播计算的代码的通用性的技术。


技术实现思路

1、提供本
技术实现思路
以简要的形式介绍在以下具体实施方式中进一步描述的构思的选择。本
技术实现思路
不意在确定要求保护的主题的关键特征或/或必要特征,也不意在用于帮助确定要求保护的主题的范围。

2、将在接下来的描述中部分阐述本专利技术构思另外的方面和/或优点,还有一部分通过描述将是清楚的,和/或可以通过各种示例实施例的实施而得知。

3、根据示例实施例,提供了一种用于广播计本文档来自技高网...

【技术保护点】

1.一种用于广播计算的方法,所述方法包括:

2.根据权利要求1所述的方法,其中,确定第一偏移量和第二偏移量的步骤包括:

3.根据权利要求2所述的方法,其中,确定第一偏移量和第二偏移量的步骤包括:

4.根据权利要求1所述的方法,其中,确定与第一张量的每个维度对应的偏移量以及与第二张量的每个维度对应的偏移量的步骤包括:

5.根据权利要求1所述的方法,

6.根据权利要求1所述的方法,其中,确定与第一张量和第二张量对应的所述广播类型的步骤包括:

7.根据权利要求1所述的方法,还包括:

8.根据权利要求7所述的方法...

【技术特征摘要】

1.一种用于广播计算的方法,所述方法包括:

2.根据权利要求1所述的方法,其中,确定第一偏移量和第二偏移量的步骤包括:

3.根据权利要求2所述的方法,其中,确定第一偏移量和第二偏移量的步骤包括:

4.根据权利要求1所述的方法,其中,确定与第一张量的每个维度对应的偏移量以及与第二张量的每个维度对应的偏移量的步骤包括:

5.根据权利要求1所述的方法,

【专利技术属性】
技术研发人员:杨振新陈飞王延鹏闵莹赵圣宰张运豪尹钟勋俞炳仁孙昌用
申请(专利权)人:三星中国半导体有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1