AI模型的代码编译方法、装置、计算机设备及存储介质制造方法及图纸

本发明专利技术公开了一种AI模型的代码编译方法、装置、计算机设备及存储介质。包括：获取与待编译的AI模型匹配的多个待编译的计算子图；规划与各计算子图对应的最小迭代次数和编译顺序，确定最小子图编译总次数和每个子图编译轮次下所需处理的计算子图；获取与当前子图编译轮次匹配的当前计算子图，采用服务器中的CPU资源，生成与当前计算子图匹配的多个待测试程序；根据服务器中的GPU资源的利用率，采用CPU资源分批次生成与各待测试程序匹配的编译代码，将各编译代码提供给GPU资源执行，以完成当前子图编译轮次下当前计算子图的代码编译过程。采用上述技术方案，能够提高CPU与GPU的资源利用率，进而提高AI模型的代码编译效率。进而提高AI模型的代码编译效率。进而提高AI模型的代码编译效率。

【技术实现步骤摘要】
AI模型的代码编译方法、装置、计算机设备及存储介质


[0001]本专利技术实施例涉及计算机软件技术，尤其涉及一种AI模型的代码编译方法、装置、计算机设备及存储介质。

技术介绍

[0002]随着AI（Artificial Intelligence，人工智能）模型在各个领域的广泛应用，工业界对AI模型的快速部署的需求越来越高，为了实现AI模型的快速部署，可以利用AI编译器自动生成AI模型的代码。
[0003]在工程项目中实际应用AI编译器自动生成AI模型的代码时，需要CPU（Central Processing Unit，中央处理器）与GPU（Graphics Processing Unit，图形处理器）协同工作，在进行多次迭代后获取性能较优的代码，但由于CPU生成代码耗费时间较长，且在现有技术中，CPU与GPU之间缺乏异步协调机制，因此会导致AI模型的代码编译时间较长，进而可能会影响工程项目的开发进程。

技术实现思路

[0004]本专利技术提供了一种AI模型的代码编译方法、装置、计算机设备及存储介质，能够提高CPU与GPU本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种人工智能AI模型的代码编译方法，其特征在于，包括：获取与待编译的AI模型匹配的多个待编译的计算子图；规划与各计算子图对应的最小迭代次数和编译顺序，并根据最小迭代次数和编译顺序，确定最小子图编译总次数和每个子图编译轮次下所需处理的计算子图；获取与当前子图编译轮次匹配的当前计算子图，并采用服务器中的中央处理器CPU资源，生成与当前计算子图匹配的多个待测试程序；根据服务器中的图形处理器GPU资源的利用率，采用CPU资源分批次生成与各待测试程序匹配的编译代码，并将各编译代码提供给GPU资源执行，以完成当前子图编译轮次下当前计算子图的代码编译过程。2.根据权利要求1所述的方法，其特征在于，规划与各计算子图对应的最小迭代次数和编译顺序，并根据最小迭代次数和编译顺序，确定最小子图编译总次数和每个子图编译轮次下所需处理的计算子图，包括：根据每个计算子图的描述参数，确定与每个计算子图分别对应的最小迭代次数，并将各所述最小迭代次数的总和，确定为最小子图编译总次数；按照预设的轮询算法，对各计算子图进行排序处理，得到各计算子图的编译顺序；根据与每个计算子图分别对应的最小迭代次数、所述编译顺序和最小子图编译总次数，确定每个子图编译轮次下所需处理的计算子图。3.根据权利要求2所述的方法，其特征在于，在获取与待编译的AI模型匹配的多个待编译的计算子图之前，还包括：响应于与所述AI模型匹配的代码编译启动指令，从用户指定的编译配置信息中提取配置迭代次数；在采用CPU资源分批次生成与各待测试程序匹配的编译代码，并将各编译代码提供给GPU资源执行之后，还包括：在确定完成最小子图编译总次数下的全部代码编译过程时，根据所述配置迭代次数和所述最小子图编译总次数，检测是否存在剩余迭代总次数；若是，则获取每个计算子图在执行所适配的最小迭代次数的代码编译过程后的梯度下降指数；根据各计算子图的梯度下降指数和剩余迭代总次数，规划与各计算子图对应的迭代追加次数，并继续执行与剩余迭代总次数对应的代码编译过程。4.根据权利要求1
‑
3任一项所述的方法，其特征在于，在获取与当前子图编译轮次匹配的当前计算子图，并采用服务器中的CPU资源，生成与当前计算子图匹配的多个待测试程序之后，包括：在所述GPU资源执行当前子图编译轮次下当前计算子图的代码编译过程中，如果检测到服务器中存在空闲的CPU资源，则获取与下一图编译轮次匹配的下一计算子图；采用所述空闲的CPU资源，继续生成与下一计算子图匹配的多个待测试程序。5.根据权利要求1
‑
3任一项所述的方法，其特征在于...

【专利技术属性】
技术研发人员：姚建国，李晗东，张亚林，
申请(专利权)人：上海燧原科技有限公司，
类型：发明
国别省市：