一种神经网络模型的处理方法以及相关设备技术

技术编号:43771805 阅读:22 留言:0更新日期:2024-12-24 16:11
本申请公开了人工智能领域中的一种神经网络模型的处理方法,包括:获取神经网络模型的运算流程,该运算流程由至少一个第一类型的算子和多个第二类型的算子表示。该运算流程中,第一类型的算子包括边界标识,第一类型的算子的计算逻辑通过一组第二类型的算子表示。对于任意一个第一类型的算子,任意一个第一类型的算子所包括的第二类型的算子的范围由任意一个第一类型的算子中的边界标识指示。根据运算流程得到神经网络模型的第一计算图。通过本申请实施例提供的技术方案,第一类型的算子的计算逻辑对于深度学习框架是可知的,使得计算图有更多的优化机会,深度学习框架可以更好的优化计算图。

【技术实现步骤摘要】

本申请涉及通信,具体涉及一种神经网络模型的处理方法以及相关设备


技术介绍

1、人工智能(artificial intelligence,ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式作出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。人工智能领域的研究包括机器人,自然语言处理,计算机视觉,决策与推理,人机交互,推荐与搜索,ai基础理论等。

2、随着ai的快速发展,神经网络(例如,深度神经网络)近年来在图像、视频以及语音等多种媒体信号的处理与分析中取得了很大的成就。深度学习框架通过将神经网络模型转化为计算图,并对计算图进行优化,再将优化后的计算图编译为硬件平台的指令,便完成了神经网络模型在硬件平台的编译部分。通过图优化可以使模型编译出的指令能够在硬件平台上等到高效执行,因此,如何更好的优化计算图亟本文档来自技高网...

【技术保护点】

1.一种神经网络模型的处理方法,其特征在于,包括:

2.根据权利要求1所述的处理方法,其特征在于,所述第一计算图包括主图和子图,所述对所述运算流程进行编译,以得到所述神经网络模型的第一计算图,包括:

3.根据权利要求1或2所述的处理方法,其特征在于,所述方法还包括:

4.根据权利要求3所述的处理方法,其特征在于,所述第一类型的算子包括第三算子和第四算子,所述第三算子和所述第四算子包括相同的计算逻辑,所述以所述第一类型的算子为处理粒度对所述第一计算图进行优化处理,包括:

5.根据权利要求3所述的处理方法,其特征在于,所述第一类型的算子包括第五...

【技术特征摘要】

1.一种神经网络模型的处理方法,其特征在于,包括:

2.根据权利要求1所述的处理方法,其特征在于,所述第一计算图包括主图和子图,所述对所述运算流程进行编译,以得到所述神经网络模型的第一计算图,包括:

3.根据权利要求1或2所述的处理方法,其特征在于,所述方法还包括:

4.根据权利要求3所述的处理方法,其特征在于,所述第一类型的算子包括第三算子和第四算子,所述第三算子和所述第四算子包括相同的计算逻辑,所述以所述第一类型的算子为处理粒度对所述第一计算图进行优化处理,包括:

5.根据权利要求3所述的处理方法,其特征在于,所述第一类型的算子包括第五算子和第六算子,所述第五算子的中间计算结果与所述第六算子的中间计算结果相同,所述以所述第一类型的算子为处理粒度对所述第一计算图进行优化处理,包括:

6.根据权利要求4所述的处理方法,其特征在于,所述第三算子为正向算子,所述第四算子为与所述第三算子对应的反向算子,或者所述第四算子为正向算子,所述第三算子为与所述第四算子对应的反向算子。

7.根据权利要求1至2任一项所述的处理方法,其特征在于,所述方法还包括:

8.根据权利要求1至2任一项所述的处理方法,其特征在于,所述运算流程的输入是张量数据,所述张量数据用于描述以下至少一种场景的数据的特征,所述场景包括语音识别,计算机视觉cv、视频处理、图像识别以及自然语言处理npl。

9.一种神经网络模型的处理装置,其特征在于,包括:

10.根据权利要求9所述的处理装置,其特征在于,所述第一计算图包括主图和子图,所述计算图处理模块,具体用于:

11.根据权利要求9或10所述的处理装置,其特征在于,所述计算图处理模块,还用于:

12.根据权利要求11所述的处理装置,其特征在于,所述第一类型的算子包括第三算子和第四算子,所述第三算子和所述第四算子包括相同的计算逻辑,所述计算图处理模块,具体用于:

13.根据权利要求11所述的处理装置,其特征在于,所述第一类型的算子包括第五算子和第六算子,所述第五算子的中间计算结果与所述第六算子的中间计算结果相同,所述计算图处理模块,具体用于:

14.根据权利要求12所述的处理装置,其特征在于,所述第三算子为正向算子,所述第四算子为与所述第三算子对应的反向算子,或者所述第四算子为正向算子,所述第三算子为与所述第四算子对应的反向算子。

15.根据权利要求9至10任一项所述的处理装置,其特征在于,所述装置还包括算子编译模块以及kernel模块,

16.根据权利要求9至10任一项所述的处理装置,其特征在于,所述运算流程的输入是张量数据,所述张量数据用于描述以下至少一种场景的数据的特征,所述场景包括语音识别,计算机视觉cv、视频处理、图像识别以及自然语言处理npl。

17.一种神经网络模型的处理方法,其特征在于,包括:

18.根据权利要求17所述的处理方法,其特征在于,所述第一计算图包括主图和子图,所述对所述运算流程进行编译,以得到所述神经网络模型的第一计算图,包括:

19.根据权利要求17或18所述的处理方法,其特征在于,所述方法还包括:

20.根据权利要...

【专利技术属性】
技术研发人员:游江坤龚辰淡孝强
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1