映射方案优化方法及装置、电子设备、可读存储介质制造方法及图纸

本公开提供了一种映射方案优化方法及装置、电子设备、可读存储介质，该方法包括：包括：获取初始的第一映射方案，其中，第一映射方案用于将待执行的第一神经网络映射至众核系统的多个处理核，每个处理核用于执行第一神经网络的至少一个神经元，第一映射方案中包括各个处理核之间的核间连接；对第n

【技术实现步骤摘要】
映射方案优化方法及装置、电子设备、可读存储介质


[0001]本公开涉及人工智能
，特别涉及一种映射方案优化方法及装置、电子设备、可读存储介质。

技术介绍

[0002]智能应用的普及使得神经网络计算越来越受重视。然而，通用处理器难以满足神经网络所需的大计算量及大存储量的需求，为此，相关技术人员开发了具有神经网络加速架构的众核系统。众核系统在执行神经网络时会把神经网络的众多神经元按空间分布在不同的处理核上，即得到映射方案。由于处理核之间的数据传递是通过众核系统的路由系统(片上网络)实现，而神经网络本身有大量的数据传递，导致处理核之间的数据传递量很大，未经处理的映射方案影响众核系统执行神经网络的效率。

技术实现思路

[0003]本公开提供一种基于众核系统的映射方案优化方法及装置、电子设备、可读存储介质。
[0004]第一方面，本公开提供了一种基于众核系统的映射方案优化方法，该基于众核系统的映射方案优化方法包括：
[0005]获取初始的第一映射方案，其中，所述第一映射方案用于将待执行的第一神经网络映射至所述众核系统的多个处理核，每个所述处理核用于执行所述第一神经网络的至少一个神经元，所述第一映射方案中包括各个所述处理核之间的核间连接；
[0006]对第n
‑
1次核间重构的映射方案中的核间连接进行重构，获得第n次核间重构的映射方案，n≥1且n为整数，其中，第0次核间重构的映射方案为所述第一映射方案；
[0007]判断所述第n次核间重构的映射方案是否满足核间优化条件；
[0008]在所述第n次核间重构的映射方案满足预设的核间优化条件的情况下，根据所述第n次核间重构的映射方案，确定优化后的第二映射方案。
[0009]第二方面，本公开提供了一种基于众核系统的映射方案优化装置，该基于众核系统的映射方案优化装置包括：
[0010]获取模块，用于获取初始的第一映射方案，所述第一映射方案用于将待执行的第一神经网络映射至所述众核系统的多个处理核，每个所述处理核用于执行所述第一神经网络的至少一个神经元，所述第一映射方案中包括各个所述处理核之间的核间连接；
[0011]重构模块，用于对第n
‑
1次核间重构的映射方案中的核间连接进行重构，获得第n次核间重构的映射方案，n≥1且n为整数，其中，第0次核间重构的映射方案为所述第一映射方案；
[0012]判断模块，用于判断所述第n次核间重构的映射方案是否满足核间优化条件；
[0013]确定模块，用于在所述第n次核间重构的映射方案满足预设的核间优化条件的情况下，根据所述第n次核间重构的映射方案，确定优化后的第二映射方案。
[0014]第三方面，本公开提供了一种电子设备，该电子设备包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的一个或多个计算机程序，一个或多个所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述的基于众核系统的映射方案优化方法。
[0015]第四方面，本公开提供了一种计算机可读存储介质，其上存储有计算机程序，其中，所述计算机程序在被处理器/处理核执行时实现上述的基于众核系统的映射方案优化方法。
[0016]本公开所提供的实施例，对第n
‑
1次核间重构的映射方案中的核间连接进行重构，获得第n次核间重构的映射方案，之后判断所述第n次核间重构的映射方案是否满足核间优化条件，在所述第n次核间重构的映射方案满足预设的核间优化条件的情况下，根据所述第n次核间重构的映射方案，确定优化后的第二映射方案，优化了神经网络的映射方案，实现映射方案内聚化，而且减少了核间的数据传递，减轻了众核系统的路由压力，提高了众核系统执行神经网络的效率。
[0017]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0018]附图用来提供对本公开的进一步理解，并且构成说明书的一部分，与本公开的实施例一起用于解释本公开，并不构成对本公开的限制。通过参考附图对详细示例实施例进行描述，以上和其他特征和优点对本领域技术人员将变得更加显而易见，在附图中：
[0019]图1为本公开实施例提供的一种基于众核系统的映射方案优化方法的流程图；
[0020]图2为本公开实施例中将神经网络映射至众核系统的不同处理核上获得的映射方案的示意图；
[0021]图3为本公开实施例提供的一种核间重构优化方法的流程图；
[0022]图4为本公开实施例提供的核间剪枝优化过程中映射方案的变化示意图；
[0023]图5为本公开实施例提供的另一种核间重构优化方法的流程图；
[0024]图6为本公开实施例提供的核间重构过程中映射方案的变化示意图；
[0025]图7为本公开实施例提供的一种核内重连优化方法的流程图；
[0026]图8为本公开实施例提供的一种核内重连优化方法的流程图；
[0027]图9为本公开实施例提供的核内重连优化过程中映射方案的变化过程示意图；
[0028]图10为本公开实施例提供的一种映射方案优化方法的流程图；
[0029]图11为本公开实施例提供的两轮核间重构优化和核内重连优化过程中映射方案的变化过程示意图；
[0030]图12为本公开实施例提供的一种基于众核系统的映射方案优化装置的框图；
[0031]图13为本公开实施例提供的一种电子设备的框图。
具体实施方式
[0032]为使本领域的技术人员更好地理解本公开的技术方案，以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为
仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0033]在不冲突的情况下，本公开各实施例及实施例中的各特征可相互组合。
[0034]如本文所使用的，术语“和/或”包括一个或多个相关列举条目的任何和所有组合。
[0035]本文所使用的术语仅用于描述特定实施例，且不意欲限制本公开。如本文所使用的，单数形式“一个”和“该”也意欲包括复数形式，除非上下文另外清楚指出。还将理解的是，当本说明书中使用术语“包括”和/或“由
……
制成”时，指定存在所述特征、整体、步骤、操作、元件和/或组件，但不排除存在或添加一个或多个其它特征、整体、步骤、操作、元件、组件和/或其群组。“连接”或者“相连”等类似的词语并非限定于物理的或者机械的连接，而是可以包括电性的连接，不管是直接的还是间接的。
[0036]除非另外限定，否则本文所用的所有术语(包括技术和科学术语)的含义与本领域普通本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于众核系统的映射方案优化方法，其特征在于，包括：获取初始的第一映射方案，其中，所述第一映射方案用于将待执行的第一神经网络映射至所述众核系统的多个处理核，每个所述处理核用于执行所述第一神经网络的至少一个神经元，所述第一映射方案中包括各个所述处理核之间的核间连接；对第n
‑
1次核间重构的映射方案中的核间连接进行重构，获得第n次核间重构的映射方案，n≥1且n为整数，其中，第0次核间重构的映射方案为所述第一映射方案；判断所述第n次核间重构的映射方案是否满足核间优化条件；在所述第n次核间重构的映射方案满足预设的核间优化条件的情况下，根据所述第n次核间重构的映射方案，确定优化后的第二映射方案。2.根据权利要求1所述的基于众核系统的映射方案优化方法，其特征在于，所述对第n
‑
1次核间重构的映射方案中的核间连接进行重构，获得第n次核间重构的映射方案，包括：确定所述第n
‑
1次核间重构的映射方案中、各个核间连接的连接代价和连接权重，所述连接代价指示与所述核间连接对应的处理核之间连接的代价，所述连接权重指示与所述核间连接对应的神经元之间连接的权重；设定所述核间连接的第m个代价阈值和第m个第一权重阈值，其中，m≥1且m为整数；将连接代价大于所述第m个代价阈值、且连接权重的绝对值小于所述第m个第一权重阈值的核间连接删除，得到第m个核间剪枝映射方案；利用训练数据集对与所述第m个核间剪枝映射方案对应的第二神经网络进行重训练，得到第m个重训练后的第二神经网络；在所述第m个重训练后的第二神经网络的精度达到预设的精度阈值的情况下，将与所述第m个重训练后的第二神经网络对应的核间剪枝映射方案，确定为所述第n次核间重构的映射方案。3.根据权利要求2所述的基于众核系统的映射方案优化方法，其特征在于，所述核间连接的连接代价是基于所述核间连接的单位时间数据通信量及所述核间连接对应的起点处理核和终点处理核之间的距离确定的。4.根据权利要求1所述的基于众核系统的映射方案优化方法，其特征在于，所述对第n
‑
1次核间重构的映射方案中的核间连接进行重构，获得第n次核间重构的映射方案，包括：利用赫布法则对第n
‑
1次核间重构的映射方案中的核间连接进行重构，获得第n次核间重构的映射方案。5.根据权利要求4所述的基于众核系统的映射方案优化方法，其特征在于，所述利用赫布法则对第n
‑
1次核间重构的映射方案中的核间连接进行重构，获得第n次核间重构的映射方案，包括：确定所述第n
‑
1次核间重构的映射方案中的处理核及每个所述处理核内的处理节点，每个所述处理节点包括至少一个神经元；将任意两个处理节点按照预先约定的连接概率重新构建核间连接，获得第三映射方案；其中，所述两个处理节点位于不同的处理核；利用训练数据集对所述第三映射方案对应的第三神经网络进行重训练，得到重训练后的第三神经网络；将所述重训练后的第三神经网络中连接权重小于预设的第二权重阈值的核间连接删
除，获得第n次核间重构的映射方案。6.根据权利要求5所述的基于众核系统的映射方案优化方法，其特征在于，所述连接概率与两个所述处理节点对应的处理核之间的距离负相关。7.根据权利要求2所述的基于众核系统的映射方案优化方法，其特征在于，利用训练数据集对所述第二神经网络进行训练所采用的损失函数包括连接代价正则项和连接权重正则项。8.根据权利要求1所述的基于众核系统的映射方案优化方法，其特征在于，所述核间优化条件为所述核间优化的循环次数达到预设的循环次数或所述核间重构的映射方案满足路由负载要求。9.根据权利要求1所述的基于众核系统的映射方案优化方法，其特征在于，所述第一映射方...

【专利技术属性】
技术研发人员：张伟豪，曲环宇，
申请(专利权)人：北京灵汐科技有限公司，
类型：发明
国别省市：