张量运算方法及装置、设备和介质制造方法及图纸

技术编号:42305015 阅读:23 留言:0更新日期:2024-08-14 15:51
本公开提供了一种张量运算方法及装置、设备和介质,涉及计算机技术领域,尤其涉及芯片技术和数据处理技术领域。实现方案为:获取由待运算的多个张量构成的张量序列,多个张量中的每个数据元素为第一数据格式;顺序执行针对每个张量的如下转换操作:响应于确定该张量的排列序数不大于预设阈值,通过查找该张量中各个数据元素的绝对值的最大值确定参考最大值;以及利用第一变量记录参考最大值;响应于确定该张量的排列序数大于预设阈值,基于第一变量的值确定参考最大值;以及基于每个张量相应的参考最大值执行量化操作,以得到每个数据元素相应的第二数据格式的转换元素;以及基于每个数据元素相应的转换元素进行运算得到张量运算结果。

【技术实现步骤摘要】

本公开涉及计算机,尤其涉及芯片技术和数据处理,具体涉及一种张量运算方法、装置、电子设备、计算机可读存储介质和计算机程序产品。


技术介绍

1、人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

2、人工智能模型存在大量的计算密集型算子,主要包括矩阵乘法,卷积,池化,激活等等。这些计算非常耗时,传统cpu的计算能力很难在性能上满足需求,因此异构计算成为了主流,包括gpu、fpga、asic在内的各种人工智能处理器大量应用到了人工智能模型计算。同时,数据类型的选择对于人工智能计算的精度、性能等也起着十分重要的作用。

3、在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方法仅因其包括在此部分本文档来自技高网...

【技术保护点】

1.一种张量运算方法,包括:

2.如权利要求1所述的方法,其中,所述第一变量为数组变量,所述利用第一变量记录该张量相应的参考最大值包括:

3.如权利要求2所述的方法,还包括:

4.如权利要求2或3所述的方法,其中,所述数组变量能够存储第一数量的多个数据元素,所述将该张量相应的参考最大值写入所述数组变量包括:

5.如权利要求1-4中任一项所述的方法,其中,所述基于该张量相应的参考最大值对该张量中的每个数据元素执行量化操作,以得到每个数据元素相应的第二数据格式的转换元素包括:

6.如权利要求5所述的方法,其中,所述基于该数据元素的值...

【技术特征摘要】

1.一种张量运算方法,包括:

2.如权利要求1所述的方法,其中,所述第一变量为数组变量,所述利用第一变量记录该张量相应的参考最大值包括:

3.如权利要求2所述的方法,还包括:

4.如权利要求2或3所述的方法,其中,所述数组变量能够存储第一数量的多个数据元素,所述将该张量相应的参考最大值写入所述数组变量包括:

5.如权利要求1-4中任一项所述的方法,其中,所述基于该张量相应的参考最大值对该张量中的每个数据元素执行量化操作,以得到每个数据元素相应的第二数据格式的转换元素包括:

6.如权利要求5所述的方法,其中,所述基于该数据元素的值除以所述参考最大值的商确定该数据元素相应的转换元素包括:

7.如权利要求5所述的方法,其中,所述基于该数据元素的值除以所述参考最大值的商确定该数据元素相应的转换元素包括:

8.如权利要求1-7中任一项所述的方法,其中,所述通过基于所述多个张量中的每个数据元素相应的转换元素进行运算,得到所述多个张量分别对应的张量运算结果包括:

9.一种神经网络模型的训练方法,其中,所述神经网络模型用于执行以下各项任务中的至少一项:语音识别、语音合成、图像处理、自然语言处理、目标检测、数据生成和趋势预测,所述方法包括:

10.一种张量运算装置,包括:

【专利技术属性】
技术研发人员:陈庆澍张艺坤王勇
申请(专利权)人:昆仑芯北京科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1