基于人工智能的异构计算平台制造技术

本发明专利技术公开了一种基于人工智能的异构计算平台，包括底层异构硬件平台、系统软件层以及应用软件层，系统软件层运行在底层异构硬件平台上，应用软件层在系统软件层上开发应用。本发明专利技术基于人工智能实现了异构计算，采用双冗余交换开关式互连体系架构设计，支持动态扩展和并行处理的系统体系架构，包含硬件系统架构、软件平台设计和内部总线设计。通过增加冗余链路和故障检测电路，可以在单个计算模块或数据链路出现故障时，通过重新配置交换模块的节点转发表，对并行系统进行拓扑重构，使系统具备较强的容错性和故障隔离能力。具备较强的容错性和故障隔离能力。具备较强的容错性和故障隔离能力。

【技术实现步骤摘要】
基于人工智能的异构计算平台


[0001]本专利技术属于芯片技术应用领域。涉及一种支撑人工智能的应用的异构计算体系，尤其涉及一种基于人工智能的推理运算的基于人工智能的异构计算平台及计算方法。

技术介绍

[0002]目前单一的商用芯片难以适应需求。不足以快速、高效、低功耗地支撑人工智能的应用，需要一套异构的计算体系，来支持异构计算的需求。传统应用，某些特殊场景的应用除了具有数据量大、难以快速处理等问题之外，同时对安全性以及可靠性有较大的需求。。

技术实现思路

[0003]为了克服现有技术的缺陷，本专利技术需要解决的技术问题是既要满足不同载荷数据处理应用的特殊需求，又要具有一定的通用性，具有标准化、模块化、可扩展的特点，还要具有可重构、可容错能力，满足特殊空间环境应用需求。构建的处理平台能够通过简单的模块组合就可以快速实现不同的类型的数据处理应用需求。
[0004]针对现有技术中的缺陷，本专利技术提出了一种基于人工智能的异构计算平台，包括底层异构硬件平台、系统软件层以及应用软件层，系统软件层运行在底层异构硬件平台上，应用软件层在系统软件层上开发应用，所述底层异构硬件平台由数据处理模块、异构互联传输模块、温度检测调节控制模块、电磁兼容碰撞设计模块、功耗管理能耗控制模块、星载环境主机适配模块、CPU主控单元、FPGA加速单元、IPU、DSP处理单元以及容错与故障恢复模块组成；
[0005]所述系统软件层包括智能算法库和中间件，设置任务调度策略和软硬件划分机制，支持并行处理与异构计算，采用并行编程框架适配；
[0006]所述应用软件层提供人工智能应用计算过程的建模与分析以及人工智能应用的特征刻画及数据流分析接口。
[0007]优选的，上述数据处理模块由基础模块子系统、温度管理子系统和功耗控制接口子系统组成，其中基础模块子系统包括存储模块、时钟模块、智能芯片、IO模块和电源模块组成，智能芯片分别与存储模块、时钟模块、IO模块和电源模块连接，基础模块子系统分别与温度管理子系统和功耗控制接口子系统连接。
[0008]优选的，上述平台系统软件层通过任务调度模块完成任务调度和分配任务，通过负载均衡模块完成设备缓存、板载内存管理和Docker实例
‑
应用映射任务。
[0009]优选的，上述平台上任务包括软件任务和硬件任务，软件任务定义为运行在通用处理器上的任务，硬件任务定义为运行在异构计算单元上的任务。
[0010]优选的，每个硬件任务的执行时间基本固定，执行过程包括输入数据传输、任务执行、输出数据传输三个阶段。
[0011]优选的，上述硬件任务通常不支持任务抢占，一个硬件任务一旦开始执行，从该任务发送数据开始，一直到计算结果返回，异构计算单元一直被该硬件任务独占，其他任务无
法获得该异构计算单元的使用权。
[0012]优选的，上述硬件任务之间不具备直接通信的能力，硬件任务的直接通信需要平台的硬件支持，异构计算单元之间需要有直接的硬件通路，从而完成信号和数据的传输。
[0013]优选的，上述平台还包括一内存管理模块，通过页表结构完成虚拟地址空间到物理地址空间的转换；当异构计算核心或者数据传输总线需要片外板载内存时，所述页表结构提供一个地址给内存管理部件。
[0014]优选的，上述平台的异构任务运行流程如下：
[0015]创建任务后分别绑定软件任务单元和硬件任务单元，将任务分为软件任务负载和硬件任务负载，所述软件任务负载通过软件执行并完成检查，所述硬件任务负载分别完成硬件任务创建、硬件执行，并通过控制和写回操作后完成检查，其中通过调度来完成硬件任务创建和硬件执行。
[0016]优选的，上述硬件任务负载可以通过异构计算单元来完成硬件执行的控制，也可以直接实施硬件执行后的控制。
[0017]相对于现有技术，本专利技术基于人工智能实现了异构计算，采用双冗余交换开关式互连体系架构设计，支持动态扩展和并行处理的系统体系架构，包含硬件系统架构、软件平台设计和内部总线设计。通过增加冗余链路和故障检测电路，可以在单个计算模块或数据链路出现故障时，通过重新配置交换模块的节点转发表，对并行系统进行拓扑重构，使系统具备较强的容错性和故障隔离能力。
附图说明
[0018]为了更清楚地说明本专利技术实施例的技术方案，下面将对本专利技术实施例中所需要使用的附图作简单地介绍，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0019]图1示出了本专利技术基于人工智能的异构计算平台的框架示意图；
[0020]图2示出了本专利技术单点任务管理与资源调度子系统结构图；
[0021]图3示出了本专利技术异构任务运行流程示意图；
[0022]图4示出了本专利技术数据处理模块硬件架构示意图。
具体实施方式
[0023]下面将详细描述本专利技术的各个方面的特征和示例性实施例，为了使本专利技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本专利技术进行进一步详细描述。应理解，此处所描述的具体实施例仅被配置为解释本专利技术，并不被配置为限定本专利技术。对于本领域技术人员来说，本专利技术可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本专利技术的示例来提供对本专利技术更好的理解。
[0024]需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备
所固有的要素。在没有更多限制的情况下，由语句“包括
……”
限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
[0025]如图1所示，本专利技术提供一种基于人工智能的异构计算平台的实施例，包括底层异构硬件平台、系统软件层以及应用软件层，系统软件层运行在底层异构硬件平台上，应用软件层在系统软件层上开发应用，所述底层异构硬件平台由数据处理模块、异构互联传输模块、温度检测调节控制模块、电磁兼容碰撞设计模块、功耗管理能耗控制模块、星载环境主机适配模块、CPU主控单元、FPGA加速单元、IPU、DSP处理单元以及容错与故障恢复模块组成；
[0026]所述系统软件层包括智能算法库和中间件，设置任务调度策略和软硬件划分机制，支持并行处理与异构计算，采用并行编程框架适配；
[0027]所述应用软件层提供人工智能应用计算过程的建模与分析以及人工智能应用的特征刻画及数据流分析接口。
[0028]如图4所示，本实施例数据处理模块由基础模块子系统、温度管理子系统和功耗控制接口子系统组成，其中基础模块子系统包括存储模块、时钟模块、智能芯片、IO本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于人工智能的异构计算平台，包括底层异构硬件平台、系统软件层以及应用软件层，系统软件层运行在底层异构硬件平台上，应用软件层在系统软件层上开发应用，所述底层异构硬件平台由数据处理模块、异构互联传输模块、温度检测调节控制模块、电磁兼容碰撞设计模块、功耗管理能耗控制模块、星载环境主机适配模块、CPU主控单元、FPGA加速单元、IPU、DSP处理单元以及容错与故障恢复模块组成；所述系统软件层包括智能算法库和中间件，设置任务调度策略和软硬件划分机制，支持并行处理与异构计算，采用并行编程框架适配；所述应用软件层提供人工智能应用计算过程的建模与分析以及人工智能应用的特征刻画及数据流分析接口。2.根据权利要求1所述的基于人工智能的异构计算平台，所述数据处理模块由基础模块子系统、温度管理子系统和功耗控制接口子系统组成，其中基础模块子系统包括存储模块、时钟模块、智能芯片、IO模块和电源模块组成，智能芯片分别与存储模块、时钟模块、IO模块和电源模块连接，基础模块子系统分别与温度管理子系统和功耗控制接口子系统连接。3.根据权利要求1或2所述的基于人工智能的异构计算平台，所述平台系统软件层通过任务调度模块完成任务调度和分配任务，通过负载均衡模块完成设备缓存、板载内存管理和Docker实例
‑
应用映射任务。4.根据权利要求1或3所述的基于人工智能的异构计算平台，所述平台上任务包括软件任务和硬件任务，软件任务定义为运行在通用处理器上的任务，硬件任务定义为运行在异构...

【专利技术属性】
技术研发人员：刘德生，龙真真，王斌，
申请(专利权)人：中科晶锐苏州科技有限公司，
类型：发明
国别省市：