算子图的时间分配方法、装置、计算机设备及存储介质制造方法及图纸

本发明专利技术实施例公开了一种算子图的时间分配方法、装置、计算机设备及存储介质。所述方法包括：在待运行于众核系统的算子图集合中，获取配置有运行需求信息的第一算子图；按照各所述第一算子图的运行需求信息，将运行周期划分为多个运行时间段，并为各所述第一算子图分配运行时间段；其中，所述第一算子图在分配的运行时间段内的运行数据，满足在所述运行周期下的运行需求信息。本发明专利技术实施例可以合理配置算子图的运行方式，提高核心资源利用率。提高核心资源利用率。提高核心资源利用率。

【技术实现步骤摘要】
算子图的时间分配方法、装置、计算机设备及存储介质


[0001]本专利技术实施例涉及人工智能领域，尤其涉及一种算子图的时间分配方法、装置、计算机设备及存储介质。

技术介绍

[0002]近年来，随着人工智能相关应用和技术的飞速发展，对计算能力和功耗效率的要求日益提高。相关技术中，存在对算子图的运行配置不合理的缺点。

技术实现思路

[0003]本专利技术实施例提供一种算子图的时间分配方法、装置、计算机设备及存储介质，可以合理配置算子图的运行方式，提高核心资源利用率。
[0004]第一方面，本专利技术实施例提供了一种算子图的时间分配方法，应用于众核系统，包括：
[0005]在待运行于众核系统的算子图集合中，获取配置有运行需求信息的第一算子图；
[0006]按照各所述第一算子图的运行需求信息，将运行周期划分为多个运行时间段，并为各所述第一算子图分配运行时间段；
[0007]其中，所述第一算子图在分配的运行时间段内的运行数据，满足在所述运行周期下的运行需求信息。
[0008]第二方面，本专利技术实施例还提供了一种算子图的时间分配装置，配置于众核系统，包括：
[0009]第一算子图获取模块，用于在待运行于众核系统的算子图集合中，获取配置有运行需求信息的第一算子图；
[0010]运行时间段划分模块，用于按照各所述第一算子图的运行需求信息，将运行周期划分为多个运行时间段，并为各所述第一算子图分配运行时间段；其中，所述第一算子图在分配的运行时间段内的运行数据，满足在所述运行周期下的运行需求信息。
[0011]第三方面，本专利技术实施例还提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序所述处理器执行所述程序时实现如本专利技术实施例中任一所述的算子图的时间分配方法。
[0012]第四方面，本专利技术实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本专利技术实施例中任一所述的算子图的时间分配方法。
[0013]本专利技术实施例通过在运行周期中为配置有运行需求信息的第一算子图分配运行时间段，并且第一算子图在分配的运行时间段中的运行数据，满足运行周期下的运行需求信息，提供了一种众核系统中算子图的时间分配新方式，在兼顾算子图的运行需求信息的情况下，合理配置众核系统的运行周期，提高时间资源的利用率，减少众核系统资源的浪费。
附图说明
[0014]图1是本专利技术实施例一中的一种算子图的时间分配方法的流程图；
[0015]图2是本专利技术实施例二中的一种算子图的时间分配装置的结构示意图；
[0016]图3是本专利技术实施例三中的一种计算机设备的结构示意图。
具体实施方式
[0017]下面结合附图和实施例对本专利技术作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本专利技术，而非对本专利技术的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本专利技术相关的部分而非全部结构。
[0018]图1为本专利技术实施例一中的一种算子图的时间分配方法的流程图，本实施例可适用于适配算子图的运行需求信息为算子图分配资源的情况，该方法可以由本专利技术实施例提供的算子图的时间分配装置来执行，该装置可采用软件和/或硬件的方式实现，并一般可集成计算机设备中。如图1所示，本实施例的方法包括：
[0019]本专利技术任一实施例应用于众核系统，该众核系统包括可分配的核心资源。
[0020]其中，可分配的核心资源可以是指专用于分配给算子图的核心(Core)。其中，核心为可独立调度拥有完整计算能力的最小单元，核心具有自己的存储资源和计算资源。计算机设备的资源中除可分配的核心资源，还包括分配给非算子图的程序的核心资源，以运行其他程序。执行算子图的时间分配方法的计算机设备中包括众核系统，众核系统用于同时运行多个算子图。其中，众核(Many Core)是由大量(未来将会是成百上千个)以及多种类的核心，以预设方式连接在一起，具备高性能并行处理能力的核心集合。
[0021]S110，在待运行于众核系统的算子图集合中，获取配置有运行需求信息的第一算子图。
[0022]算子图集合可以是指在众核系统中运行的算子图的集合。运行需求信息可以是指对应的算子图需要达到的运行性能的信息。运行需求信息可以由用户配置。示例性的，运行需求信息包括配置有运行需求信息的算子图的运行速度最小值和/或运行准确率最小值等。第一算子图是指算子图集合中配置有运行需求信息的算子图。配置有运行需求信息的算子图，表明该算子图的运行数据与运行需求信息匹配。未配置有运行需求信息的算子图的运行性能无限制无要求，可以分配任意大于零的核心资源运行。
[0023]其中，算子图集合包括至少一个算子图。算子图可以包括至少一个算子，在算子图包括至少两个算子时，在算子图中，前一算子的输出作为相邻后一算子的输入。算子可以是指卷积、加减乘除或矩阵加乘等算法。算子图用于实现特定功能，算子图可以是指高性能计算算法，算子图可以包括但不局限于AI算法、机器学习算法和通用科学计算算法，更具体的，例如，算子图为深度学习模型，又如，算子图为神经网络。待分配资源的算子图可以为多个，至少两个算子图可以是相互独立的算子图，或者是存在依赖关系的算子图，其中，存在依赖关系的两个算子图可以是指：第一个算子图的输出作为第二个算子图的输入。算子图运行需要资源，为算子图分配核心资源，以运行算子图，并计算输入数据，得到输出数据，从而实现特定功能。
[0024]可选的，算子图包括：神经网络模型或神经网络模型包括的至少一个网络。
[0025]其中，算子图可以是神经网络模型中的整体或部分。可以理解为，算子图用于实现
完整特定功能，或者实现特定功能中的部分功能。例如，算子图可以是一个神经网络模型，或者是一个神经网络模型中的至少一个网络构成的网络集合。
[0026]在一些可选的实施例中，算子图可以包括图像检测网络和语音识别网络形成的模型，或者算子图可以仅包括图像检测网络，或者算子图可以仅包括语音识别网络。又如，算子图可以包括图像检测网络和物体识别网络形成的模型，或者算子图可以仅包括图像检测网络，或者算子图可以仅包括物体识别网络。
[0027]通过将算子图配置为模型整体或者模型包括的部分网络，可以丰富芯片可执行的算子图的应用场景，以及丰富算子图的业务模式，同时可以提高核心资源的利用率。
[0028]S120，按照各所述第一算子图的运行需求信息，将运行周期划分为多个运行时间段，并为各所述第一算子图分配运行时间段；其中，所述第一算子图在分配的运行时间段内的运行数据，满足在所述运行周期下的运行需求信息。
[0029]运行周期可以是指预设的众核系统运行的周期，众核系统会循环重复运行周期。其中，一个运行周期是指众核系统需要将算子图集合中全部算子图对应的计算任务执行完成一次的时间。运行数据用于描述当前算子图在当前处理的运行时间段内的运行性能。配置有运行需求信息的算子图的运行数据需本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种算子图的时间分配方法，其特征在于，配置于众核系统，所述方法包括：在待运行于众核系统的算子图集合中，获取配置有运行需求信息的第一算子图；按照各所述第一算子图的运行需求信息，将运行周期划分为多个运行时间段，并为各所述第一算子图分配运行时间段；其中，所述第一算子图在分配的运行时间段内的运行数据，满足在所述运行周期下的运行需求信息。2.根据权利要求1所述的方法，其特征在于，所述按照各所述第一算子图的运行需求信息，将运行周期划分为多个运行时间段，并为各所述第一算子图分配运行时间段，包括：交替执行在运行周期内划分出一个运行时间段的操作，以及按照当前待分配的各第一算子图的运行需求信息，确定运行于所划分运行时间段内的各目标第一算子图的操作，直至为全部第一算子图在运行周期内分配匹配的运行时间段。3.根据权利要求2所述的方法，其特征在于，按照当前待分配的各第一算子图的运行需求信息，确定运行于所划分运行时间段内的各目标第一算子图，包括：根据将当前待分配的第一算子图的运行需求信息折合至所划分运行时间段内后得到的段内需求信息，以及所述当前待分配的第一算子图在所划分运行时间段内的运行数据，确定运行于所划分运行时间段内的各目标第一算子图。4.根据权利要求3所述的方法，其特征在于，根据将当前待分配的第一算子图的运行需求信息折合至所划分运行时间段内后得到的段内需求信息，以及当前待分配的第一算子图在所划分运行时间段内的运行数据，确定运行于所划分运行时间段内的各目标第一算子图，包括：在当前待分配的各所述第一算子图中，确定当前算子图；根据所述当前算子图的运行需求信息，所划分运行时间段内的时长和所述运行周期，确定所述当前算子图在所划分运行时间段内的段内需求信息；获取所述当前算子图在所划分运行时间段内的运行数据；在根据所述当前算子图的段内需求信息和所述运行数据，确定所述当前算子图满足性能条件时，确定所述当前算子图为目标第一算子图；返回执行在当前待分配的各所述第一算子图中，确定当前算子图的操作，直至满足结束分配条件。5.根据权利要求4所述的方法，其特征在于，所述运行需求信息包括运行需求速度，所述段内需求信息包括段内需求速度；所述确定所述当前算子图在所划分运行时间段内的段内需求信息，包括：计算所述运行周期与所述所划分运行时间段对应的时长的比值；计算所述运行需求速度与所述比值的乘积，确定为段内需求速度。6.根据权利要求5所述的方法，其特征在于，所述确定所述当前算子图满...

【专利技术属性】
技术研发人员：吴欣洋，李涵，丁瑞强，戚海涛，陈锐，
申请(专利权)人：北京灵汐科技有限公司，
类型：发明
国别省市：