一种统一异构计算系统，一种AI加速平台技术方案

本申请公开了一种统一异构计算系统，一种AI加速平台。在本申请提供的统一异构计算系统中，框架支持模块能够将多种深度学习框架的模型计算图转换为具有统一格式的目标计算图；计算图优化模块能够对目标计算图进行优化，得到优化计算图；设备支持模块能够将优化计算图中的各种算子拆分为细粒度运算操作，确定细粒度运算操作对应的可执行代码，并将可执行代码传输至不同类型的AI硬件设备上运行，从而可实现多种深度学习框架的AI模型至多种AI硬件设备的解耦化映射，提高了映射的通用性、普适性和映射效率，且该系统支持模型应用过程和模型训练过程的映射。相应地，本申请提供的一种AI加速平台，也同样具有上述技术效果。也同样具有上述技术效果。也同样具有上述技术效果。

【技术实现步骤摘要】
一种统一异构计算系统，一种AI加速平台


[0001]本申请涉及计算机
，特别涉及一种统一异构计算系统，一种AI加速平台。

技术介绍

[0002]目前，可以使用GPU(Graphics Processing Unit，视觉处理器)、FPGA(Field Programmable Gate Array，现场可编程逻辑门阵列)等硬件加速模型的训练过程和推理过程。但使用硬件加速之前，需要将模型映射到硬件设备上。也即：将模型中的各种计算操作转换为可以在硬件设备中运行的可执行代码。现有的映射编译器仅能完成模型应用过程的自动映射，且其使用局限于模型所用的深度学习框架的类型，对接的底层AI(Artificial Intelligence，人工智能)硬件设备的类型也有限，限制了其通用性和普适性。AI硬件设备即：用于运行AI模型的设备。
[0003]因此，如何提高映射编译器的通用性和普适性，是本领域技术人员需要解决的问题。

技术实现思路

[0004]有鉴于此，本申请的目的在于提供一种统一异构计算系统，一种AI加速平台，以提高映射编译器本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种统一异构计算系统，其特征在于，包括：框架支持模块，用于将多种深度学习框架的模型计算图转换为具有统一格式的目标计算图；所述模型计算图包括：前向操作算子和反向操作算子；计算图优化模块，用于对所述目标计算图进行优化，得到优化计算图；设备支持模块，用于将所述优化计算图中的各种算子拆分为细粒度运算操作，确定所述细粒度运算操作对应的可执行代码，并将所述可执行代码传输至不同类型的AI硬件设备上运行。2.根据权利要求1所述的统一异构计算系统，其特征在于，所述框架支持模块包括多个转换器，任一个转换器用于将一种深度学习框架的模型计算图转换为具有统一格式的目标计算图。3.根据权利要求2所述的统一异构计算系统，其特征在于，所述多个转换器包括：Tensorflow转换器、PyTorch转换器、PaddlePaddle转换器、Mxnet转换器和/或ONNX转换器。4.根据权利要求1所述的统一异构计算系统，其特征在于，所述框架支持模块包括：通用层中间表示单元，用于基于映射表将所述目标计算图中的各种算子映射为通用算子库中的具有统一格式的算子；所述映射表中记录有多种深度学习框架的模型计算图中的各种算子与所述通用算子库中的算子的映射关系。5.根据权利要求4所述的统一异构计算系...

【专利技术属性】
技术研发人员：王丽，郭振华，高开，赵雅倩，李仁刚，
申请(专利权)人：浪潮电子信息产业股份有限公司，
类型：发明
国别省市：