一种数据处理方法、装置、计算机设备及存储介质制造方法及图纸

技术编号:24855812 阅读:41 留言:0更新日期:2020-07-10 19:08
本申请实施例公开了一种数据处理方法、装置、计算机设备及存储介质,当神经网络模型中存在可以优化的结构时,通过对神经网络模型执行多种优化操作中的至少一个优化操作,可以实现针对神经网络模型的优化,提高神经网络模型的整体性能。当接收到机器学习处理任务的请求时,调用优化后的神经网络模型可以减少冗余计算,继而减少计算机设备的资源消耗。

【技术实现步骤摘要】
一种数据处理方法、装置、计算机设备及存储介质
本申请涉及信息处理
,尤其涉及一种数据处理方法、装置、计算机设备及存储介质。
技术介绍
神经网络是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型,这种网络由大量的节点(或称神经元)之间星湖连接构成,通过调整内部大量节点之间相互连接的关系,利用输入数据、权值产生输出数据模拟人脑的信息处理过程处理信息并生成模式识别之后的结果。现有中,算法设计者在对神经网络模型进行设计时,往往出于神经网络模型在描述上的整洁和简洁的目的,在神经网络模型中引入了“胶水”算子。这里,“胶水”算子是指算子本身并不涉及任何计算逻辑,其输入数据和输出数据不管是数的数量,亦或是数值本身都没有发生变化。然而,不合理的“胶水”算子的引入和组合可以导致在更高一级的计算图层面上在神经网络模型的执行过程中加入了一些不必要、不合理的访存行为,影响了人工智能处理器针对神经网络模型的计算部分在硬件结构和指令设计上进行针对优化所带来的优异的性能的提升,降低了神经网络模型的整体性能。那么,当计算机设备在运行上述包含可以优本文档来自技高网...

【技术保护点】
1.一种数据处理方法,其特征在于,包括:/n通用处理器获取神经网络模型对应的计算图;其中,所述计算图中包含胶水算子;所述胶水算子用于对所述计算图中的张量数据进行调整;/n所述通用处理器根据所述计算图中胶水算子的逻辑关系对所述计算图进行优化,获得优化结果;/n所述通用处理器根据所述优化结果获取对应的二进制指令,以分配至对应人工智能处理器上执行任务。/n

【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:
通用处理器获取神经网络模型对应的计算图;其中,所述计算图中包含胶水算子;所述胶水算子用于对所述计算图中的张量数据进行调整;
所述通用处理器根据所述计算图中胶水算子的逻辑关系对所述计算图进行优化,获得优化结果;
所述通用处理器根据所述优化结果获取对应的二进制指令,以分配至对应人工智能处理器上执行任务。


2.根据权利要求1所述的方法,其特征在于,所述胶水算子为reshape算子、transpose算子、concat算子、split算子中的至少一种。


3.根据权利要求1或2所述的方法,其特征在于,所述胶水算子的逻辑关系是至少两个胶水算子中一个算子的输出数据交由另一个算子作为输入数据进行运算操作。


4.一种数据处理装置,其特征在于,包括:
获取单元,用于获取神经网络模型对应的计算图;其中,所述计算图中包含胶水算子;所述胶水算子用于对所述计算图中的张量数据进行调整;
优化单元,用于根据所述计算图中胶水算子的逻辑关系对所述计算图进行优化,获得优...

【专利技术属性】
技术研发人员:不公告发明人
申请(专利权)人:上海寒武纪信息科技有限公司
类型:发明
国别省市:上海;31

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1