智能算法中算子的硬件动态分配方法及系统技术方案

本发明专利技术提供了一种智能算法中算子的硬件动态分配方法，硬件动态分配方法用于对异构硬件架构中各硬件执行的算子进行动态分配，包括构建领域算子库；选择任务执行该任务的智能算法及异构硬件架构；对智能算法进行算子粒度拆分，并调用领域算子库内算子形成算子调用图；基于算子调用图和异构硬件架构中各硬件资源占用率，评估每一个算子在各硬件上执行表现，制定算子动态分配策略；依据算子动态分配策略，将算子部署到各硬件上执行。硬件动态分配系统包括领域算子库模块、分配控制总模块、算子执行模块、运行时模块。本发明专利技术设计的方法及系统可以进行对硬件执行的算法进行合理分配，提升智能算法的计算效率和异构硬件体系架构的资源利用率。的资源利用率。的资源利用率。

【技术实现步骤摘要】
智能算法中算子的硬件动态分配方法及系统


[0001]本专利技术涉及智能算法
，具体为一种智能算法中算子的硬件动态分配方法及系统。

技术介绍

[0002]智能算法在多个领域逐渐展现了它高效性，但是随着各种复杂任务需求的不断增加，智能算法设计的难度不断增加。以嵌入式算法环境为例，一方面在不同场景下智能算法的多样性增加了嵌入式算法环境设计的难度；另一方面由于嵌入式设备空间体积、能耗等各方面约束，也使得嵌入式算法环境设计的难度增大。
[0003]目前，智能算法包括多种算子，使得其结构较为复杂，且为了应对不同任务需求，实现智能算法的硬件通常由多种异构硬件设备组成，但是由于智能算法的算子多、不同算子在不同硬件上运行的效率不同、各硬件的使用率不同，因此对智能算法的算子合理分配，保证智能算法能高效稳定的运行，实现智能算法的硬件加速成为亟待解决的问题。

技术实现思路

[0004]为了保证智能算法能高效稳定的运行，实现智能算法的硬件加速，本专利技术设计了一种智能算法中算子的硬件动态分配方法及系统，该方法及系统能够合理地将复杂智能算法拆本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种智能算法中算子的硬件动态分配方法，其特征在于，硬件动态分配方法用于对异构硬件架构中各硬件执行的算子进行动态分配，包括以下步骤：步骤1、构建领域算子库；步骤2、接收并分析任务，选择执行该任务的智能算法及异构硬件架构；步骤3、对智能算法进行算子粒度拆分，依据拆分结果调用领域算子库内算子，形成算子调用图；步骤4、基于算子调用图和异构硬件架构中各硬件资源占用率，评估每一个算子在各硬件上执行表现，制定算子动态分配策略；步骤5、依据算子动态分配策略，将算子部署到各硬件上执行。2.根据权利要求1所述的智能算法中算子的硬件动态分配方法，其特征在于，硬件动态分配方法还包括；步骤6、计算算子在硬件上执行结果，对算子动态分配策略优化形成新算子动态分配策略，并依据新算子动态分配策略重新将算子部署到各硬件上执行。3.根据权利要求2所述的智能算法中算子的硬件动态分配方法，其特征在于：步骤1中，构建领域算子库的方法，包括：步骤1.1、获取领域中所有算子；步骤1.2、获取执行各算子的硬件，计算算子在硬件上的执行表现；步骤1.3、依据算子、执行算子的硬件以及执行表现，构建领域算子库。4.根据权利要求1或3...

【专利技术属性】
技术研发人员：李融奇，张瀚成，白林亭，刘鑫，蔡昊昕，文鹏程，
申请(专利权)人：中国航空工业集团公司西安航空计算技术研究所，
类型：发明
国别省市：