智能处理器、数据处理方法及存储介质技术

本申请实施例公开了一种智能处理器、数据处理方法及存储介质，其中，智能处理器包括一第一运算单元和一第二运算单元，第一运算单元用于获取对应一第一算子的一第一输入数据，并将第一输入数据划分为多个第一子输入数据，以及运行第一算子对每一第一子输入数据进行运算，得到对应每一第一子输入数据的多个第一子输出数据；第二运算单元用于将每一子输出数据作为第二算子的一第二输入数据，以及运行第二算子对每一第二输入数据进行运算，得到对应每一第二输入数据的一第二输出数据。这样，第二算子无需等待第一算子完成对第一输入数据的全部运算，可以使得相邻的两个算子在一定程度上实现部分并行计算，达到提高运算效率的目的。

【技术实现步骤摘要】
智能处理器、数据处理方法及存储介质
本申请涉及人工智能
，具体涉及一种智能处理器、数据处理方法及存储介质。
技术介绍
人工智能(ArtificialIntelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个综合技术，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、运算与决策的功能。人工智能技术是一门综合学科，涉及领域广泛，既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。其中，机器学习(MachineLearning,ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习等技术。利用机器学习技术，以及对应的训练数据集，能够训练得到实现不同功能的网络模型，比如，基于一训练数据集能够训练得到用于性别分类的网络模型，基于另一训练数据集能够训练得到图像优化的网络模型。目前，随着人工智能技术的不断发展，网络模型被部署在如智能手机、平板电脑等电子设备上，用于增强电子设备的处理能力。比如，电子设备通过其部署的图像优化模型，可以对其拍摄的图像进行优化，提升图像质量。相关技术中，网络模型中相邻的两个算子串行运算，在网络模型的运算逻辑上，前一个算子运算完成的输出结果作为后一个算子的输入数据，后一个算子依赖于前一个算子的输出。比如，请参照图1，示出了某卷积网络模型中相邻的卷积算子和加法算子，在卷积网络模型的运算逻辑上，卷积算子的卷积结果作为加法算子的输入数据，加法算子依赖卷积算子的输出结果。实际运算中，加法算子需要等待卷积算子完全运算完毕，才能够根据卷积算子的卷积结果进行加法运算。如图2所示，加法算子需要等待卷积算子完成对高为H、宽为W、C通道的卷积输入数据的卷积运算，得到高为H、宽为W、C’通道的卷积结果后，再将高为H、宽为W、C’通道的卷积结果作为加法输入数据进行加法运算，得到高为H、宽为W、C’通道的加法结果。可以看出，这种相邻算子间的强行等待，将严重拖慢网络模型的运算效率。从拓扑结构上看，网络模型由多种不同类型的算子组成，相邻的算子串行运算，即后一个算子运算依赖于前一个算子的运算结果，这种串行结构会造成强行等待，不利于网络模型运算效率的提高。基于此，本申请提供一种智能处理器、芯片、电子设备、数据处理方法及数据处理装置，以提高网络模型的运算效率。
技术实现思路
本申请提供了一种智能处理器、数据处理方法及存储介质，能够提高网络模型的运算效率。本申请提供一种智能处理器，包括一第一运算单元及一第二运算单元。所述第一运算单元，用于获取对应一第一算子的一第一输入数据，并将所述第一输入数据划分为多个第一子输入数据，及运行所述第一算子对每一所述第一子输入数据进行运算，得到对应每一所述第一子输入数据的一第一子输出数据。所述第二运算单元，用于将每一所述第一子输出数据作为一第二算子的一第二输入数据，及运行所述第二算子对每一所述第二输入数据进行运算，得到对应每一所述第二输入数据的一第二输出数据。本申请提供一种数据处理方法，应用于一智能处理器，所述智能处理器包括一第一运算单元和一第二运算单元，所述数据处理方法包括：所述第一运算单元获取对应一第一算子的一第一输入数据，并将所述第一输入数据划分为多个第一子输入数据；所述第一运算单元运行所述第一算子对每一所述第一子输入数据进行运算，得到对应每一所述第一子输入数据的一第一子输出数据；所述第二运算单元将每一所述第一子输出数据作为一第二算子的一第二输入数据；以及，所述第二运算单元运行所述第二算子对每一所述第二输入数据进行运算，得到对应每一所述第二输入数据的一第二输出数据。本申请提供一种存储介质，其上存储有一计算机程序，所述计算机程序用以执行一数据处理方法，所述数据处理方法应用于一智能处理器，所述智能处理器包括一第一运算单元和一第二运算单元，其特征在于，所述数据处理方法包括：所述第一运算单元获取对应一第一算子的一第一输入数据，并将所述第一输入数据划分为多个第一子输入数据；所述第一运算单元运行所述第一算子对每一所述第一子输入数据进行运算，得到对应每一所述第一子输入数据的一第一子输出数据；所述第二运算单元将每一所述第一子输出数据作为一第二算子的一第二输入数据；以及，所述第二运算单元运行所述第二算子对每一所述第二输入数据进行运算，得到对应每一所述第二输入数据的一第二输出数据。前述的智能处理器、数据处理方法及存储介质中，第二算子无需等待第一算子完成对第一输入数据的全部运算，即可在不同的小块输入数据上实现与第一算子的并行计算。由此，利用不同的运算单元，可以使得相邻的两个算子在一定程度上实现部分并行计算，达到提高网络模型运算效率的目的。附图说明为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1为相关技术中相邻两个算子示意图。图2为图1中在卷积网络模型的运算逻辑上相邻两个算子进行串行运算的示意图。图3是本申请实施例中提供的智能处理器100的一结构示意图。图4是本申请实施例中将第一输入数据拆分为N个子输入数据的示意图。图5是本申请实施例中提供的智能处理器100的另一结构示意图。图6是本申请实施例提供的数据处理方法的流程示意图。图7是本申请实施例提供的数据处理装置300的结构示意图。具体实施方式应当说明的是，本申请的原理是以实施在一适当的运算环境中来举例说明。以下的说明是通过所例示的本申请具体实施例，其不应被视为限制本申请未在此详述的其它具体实施例。本申请提供一种智能处理器、芯片、电子设备、数据处理方法及数据处理装置，以提高网络模型的运算效率。本申请实施例提供的方案涉及人工智能的机器学习技术，具体涉及网络模型的运算阶段，通过如下实施例进行说明:请参照图3，图3为本申请实施例提供的智能处理器100的第一种结构示意图。该智能处理器100可包括相互连接的一第一运算单元110和一第二运算单元120。应当说明的是，第一本文档来自技高网...

【技术保护点】
1.一种智能处理器，其特征在于，包括：/n一第一运算单元，用于获取对应一第一算子的一第一输入数据，并将所述第一输入数据划分为多个第一子输入数据，及运行所述第一算子对每一所述第一子输入数据进行运算，得到对应每一所述第一子输入数据的一第一子输出数据；以及/n一第二运算单元，用于将每一所述第一子输出数据作为一第二算子的一第二输入数据，及运行所述第二算子对每一所述第二输入数据进行运算，得到对应每一所述第二输入数据的一第二输出数据。/n

【技术特征摘要】
1.一种智能处理器，其特征在于，包括：
一第一运算单元，用于获取对应一第一算子的一第一输入数据，并将所述第一输入数据划分为多个第一子输入数据，及运行所述第一算子对每一所述第一子输入数据进行运算，得到对应每一所述第一子输入数据的一第一子输出数据；以及
一第二运算单元，用于将每一所述第一子输出数据作为一第二算子的一第二输入数据，及运行所述第二算子对每一所述第二输入数据进行运算，得到对应每一所述第二输入数据的一第二输出数据。


2.根据权利要求1所述的智能处理器，其特征在于，所述第二算子与所述第一算子属于同一网络模型且相邻。


3.根据权利要求1所述的智能处理器，其特征在于，所述第二运算单元用于在所述第一运算单元每次得到所述第一子输出数据时，将所述第一子输出数据作为所述第二输入数据。


4.根据权利要求1所述的智能处理器，其特征在于，所述第二运算单元用于在得到的第一子输出数据的数据量达到一预设数据量时，将所述已得到的第一子输出数据作为所述第二输入数据。


5.根据权利要求1所述的智能处理器，其特征在于，所述智能处理器还包括一缓存单元，所述第一运算单元还用于将所述第一子输出数据写入所述缓存单元，而所述第二运算单元还用于从所述缓存单元读取所述第一子输出数据。


6.根据权利要求5所述的智能处理器，其特征在于，所述第一运算单元还用于：
根据所述第一算子的类型信息确定对应所述第一输入数据的一目标划分策略；以及
按照所述目标划分策略将所述第一输入数据划分为所述多个第一子输入数据。


7.根据权利要求6所述的智能处理器，其特征在于：
当所述目标划分策略为一第一划分策略时，根据所述第一运算单元的处理能力以及所述缓存单元的缓存空间，确定划分的多个第一子输入数据的一第一目标数据大小。


8.根据权利要求6所述的智能处理器，其特征在于：
当所述目标划分策略为一第二划分策略时，根据所述第一算子的运算逻辑，确定划分的多个第一子输入数据的一第二目标数据大小。
<...

【专利技术属性】
技术研发人员：邓亚明，
申请(专利权)人：厦门星宸科技有限公司，
类型：发明
国别省市：福建;35