【技术实现步骤摘要】
本公开涉及计算机,尤其涉及芯片技术和数据处理,具体涉及一种张量运算方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
技术介绍
1、人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
2、人工智能模型存在大量的计算密集型算子,主要包括矩阵乘法,卷积,池化,激活等等。这些计算非常耗时,传统cpu的计算能力很难在性能上满足需求,因此异构计算成为了主流,包括gpu、fpga、asic在内的各种人工智能处理器大量应用到了人工智能模型计算。同时,数据类型的选择对于人工智能计算的精度、性能等也起着十分重要的作用。
3、在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方
...【技术保护点】
1.一种张量运算方法,包括:
2.如权利要求1所述的方法,其中,所述第一变量为数组变量,所述利用第一变量记录该张量相应的参考最大值包括:
3.如权利要求2所述的方法,还包括:
4.如权利要求2或3所述的方法,其中,所述数组变量能够存储第一数量的多个数据元素,所述将该张量相应的参考最大值写入所述数组变量包括:
5.如权利要求1-4中任一项所述的方法,其中,所述基于该张量相应的参考最大值对该张量中的每个数据元素执行量化操作,以得到每个数据元素相应的第二数据格式的转换元素包括:
6.如权利要求5所述的方法,其中,所
...【技术特征摘要】
1.一种张量运算方法,包括:
2.如权利要求1所述的方法,其中,所述第一变量为数组变量,所述利用第一变量记录该张量相应的参考最大值包括:
3.如权利要求2所述的方法,还包括:
4.如权利要求2或3所述的方法,其中,所述数组变量能够存储第一数量的多个数据元素,所述将该张量相应的参考最大值写入所述数组变量包括:
5.如权利要求1-4中任一项所述的方法,其中,所述基于该张量相应的参考最大值对该张量中的每个数据元素执行量化操作,以得到每个数据元素相应的第二数据格式的转换元素包括:
6.如权利要求5所述的方法,其中,所述基于该数据元素的值除以所述参考最大值的商确定该数据元素相应的转换元素包括:
7.如权利要求5所述的方法,其中,所述基于该数据元素的值除以所述参考最大值的商确定该数据元素相应的转换元素包括:
8.如权利要求1-7中任一项所述的方法,其中,所述通过基于所述多个张量中的每个数据元素相应的转换元素进行运算,得到所述多个张量分别对应的张量运算结果包括:
9.一种神经网络模型的训练方法,其中,所述神经网络模型用于执行以下各项任务中的至少一项:语音识别、语音合成、图像处理、自然语言处理、目标检测、数据生成和趋势预测,所述方法包括:
10.一种张量运算装置,包括:
【专利技术属性】
技术研发人员:陈庆澍,张艺坤,王勇,
申请(专利权)人:昆仑芯北京科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。