连接FPGA和人工智能模块的系统芯片技术方案

一种连接系统芯片上FPGA和人工智能AI模块的电路及系统芯片。在实施例中，系统芯片包括：AI模块，包括排列成二维阵列的多个处理单元，各处理单元能够完成逻辑和/或乘加运算；FPGA模块；绕线模块，用于提供AI模块的输入和/或输出端到FPGA模块的耦合。将FPGA与AI模块集成在同一芯片上时，AI模块的输出/输入信号可以很好的找到相应的FPGA连接点。FPGA可以高速的提供大量的数据到AI模块，配合其高带宽处理能力。

【技术实现步骤摘要】
连接FPGA和人工智能模块的系统芯片
本专利技术涉及集成电路
，尤其涉及一种连接系统芯片上FPGA和人工智能模块的电路及系统芯片。
技术介绍
近年来，人工智能迎来一波发展浪潮。人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，主要包括计算机实现智能的原理、制造类似于人脑智能的计算机，使计算机能实现更高层次的应用。当前，人工智能AI模块由处理器通过总线来进行访问控制，而总线是有一定的带宽限制，这样的架构难以适应AI模块的大带宽需求。
技术实现思路
根据本专利技术实施例，提供一种系统芯片，包括：AI模块，包括排列成二维阵列的多个处理单元，各处理单元能够完成逻辑和/或乘加运算；FPGA模块；绕线模块，用于提供AI模块的输入和/或输出端到FPGA模块的耦合。优选地，所述绕线模块位于FPGA模块中。优选地，在AI模块和FPGA模块不相邻的情况下，所述绕线XBAR模块位于AI模块的邻近区域中。优选地，AI模块嵌入FPGA模块中以便复用FPGA模块的绕线资源，以便自AI模块发送数据或者接收数据，皆经由所述的复用的FPGA的绕线资源。将FPGA与AI模块集成在同一芯片上时，AI模块的输出/输入信号可以很好的找到相应的FPGA连接点。FPGA可以高速的提供大量的数据到AI模块，配合其高带宽处理能力。附图说明图1是根据本专利技术实施例的连接FPGA模块和人工智能模块的系统芯片的示意图；图2是FPGA电路的结构示意图；图3是人工智能模块的结构示意图；图4是处理单元的示意图。具体实施方式为使本专利技术实施例的技术方案以及优点表达的更清楚，下面通过附图和实施例，对本专利技术的技术方案做进一步的详细描述。在本申请的描述中，术语“中心”、“上”、“下”、“前”、“后”、“左”、“右”、“东”、“南”、“西”、“北”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本申请和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本申请的限制。图1是根据本专利技术实施例的连接FPGA模块和人工智能模块的系统芯片的示意图。如图1所示，系统芯片上集成有至少一个FPGA模块和至少一个人工智能模块。FPGA模块可实现逻辑、计算、控制等各种功能。FPGA利用小型查找表(例如，16×1RAM)来实现组合逻辑，每个查找表连接到一个D触发器的输入端，触发器再来驱动其他逻辑电路或驱动I/O，由此构成了既可实现组合逻辑功能又可实现时序逻辑功能的基本逻辑单元模块，这些模块间利用金属连线互相连接或连接到I/O模块。FPGA的逻辑是通过向内部静态存储单元加载编程数据来实现的，存储在存储器单元中的值决定了逻辑单元的逻辑功能以及各模块之间或模块与I/O间的联接方式，并最终决定了FPGA所能实现的功能。人工智能模块可实现或加速经预先选定的特定AI功能，包括人工智能(ArtificialIntelligenceAI)，深度学习(DeepLearningDL),机器学习(MachineLearningML)等各种算法或加速算法中某一步骤的特定功能(如卷积Convolution,矩阵Matrix/张量运算TensorOperation等)。在一个例子中，人工智能(AI)部分包含由多个可编程功能模块(PFU)组成的阵列。FPGA模块和人工智能模块的大小并无限定，在设计时由实际应用决定。在占用芯片布局方面，一般是安排FPGA模块与人工智能模块相邻。FPGA模块和AI模块可以并排放置，此时FPGA模块可以为AI模块传输数据，提供控制。AI模块也可以嵌入FPGA模块之中；比如，FPGA模块较大，人工智能模块较小的情况时，亦可在大片的FPGA模块中挖空一窗口，内置入人工智能模块；此时，AI模块需要复用FPGA模块的绕线架构，以便通过复用的FPGA模块的绕线架构接收和发送数据。在实施例中，FPGA模块内各资源PLB、EMB、MAC、IO相互之间的绕线都是经有绕线(例如，XBAR)单元来实现。由绕线方式来看，整个阵列是相同一致，整齐排列的XBAR单元形成网格，所有绕线都在这网格内由经由XBAR完成。AI模块的输出/输入连接到相邻FPGA模块内的绕线资源的XBAR上。AI模块在左侧的输出/输入通过FPGA模块的虚拟IO(virtualIO)连接到左邻FPGA在右侧的XBAR上。AI模块在右侧的输出/输入直接连接到右侧FPGA内在左侧的XBAR上。在AI模块上下皆不连FPGA的情况时，可以在上方或下方的芯片区域内加入一些XBAR，专供AI模块输出/输入连接之用。在AI模块需要大量的数据输出/输入时，FPGA拥有大量的XBAR绕线资源，可以提供充足的互联资源。将FPGA与AI模块集成在同一芯片上时，AI模块的输出/输入信号可以很好的找到相应的FPGA连接点。FPGA可以高速的提供大量的数据到AI模块，配合其高带宽处理能力。由此，根据本专利技术的系统芯片具有良好的伸缩性，不受总线带宽的限制。图2是FPGA电路的结构示意图。如图2所示，FPGA电路可包含有多个可编程逻辑模块(LOGIC)、嵌入式存储块(EMB)、乘累加器(MAC)等模块和相应的绕线(XBAR)。当然，FPGA电路还设有时钟/配置模块(支干seam/主干spine)等相关资源。若需要EMB或MAC模块时，因其面积比PLB大许多，故以此EMB/MAC模块取代若干PLB模块。LOGIC模块可以包含，例如，8个6输入查找表,18个寄存器。EMB模块可以是，例如，36kbit或2个18kbit的存储单元。MAC模块可以是，例如，25x18乘法器，或2个18x18乘法器。FPGA阵列中LOGIC、MAC、EMB各模块数量的占比并无限制，阵列的大小也根据需要，在设计时由实际应用决定。绕线资源XBAR是各模块间互联的接点，均匀地分布在FPGA模块内。FPGA模块内所有的资源，PLB、EMB、MAC、IO相互之间的绕线都是经有一个相同的界面XBAR单元来实现。由绕线方式来看，整个阵列是相同一致，整齐排列的XBAR单元形成网格，将FPGA内所有模块相连。图3是人工智能模块的结构示意图。如图3所示，人工智能AI模块是一个二维阵列并且包括，例如，4X4个处理单元PE。AI模块可分为两个维度，彼此垂直的第一维度和第二维度。以第一处理器、第二处理器和第三处理器为例，第一处理器和第二处理器沿第一维度沿第一方向排列，第一处理器的第一输出端耦合到第一处理器的第一输入端；第一处理器和第三处理器沿第二维度沿第二方向排列，第一处理器的第二输出端耦合到第三处理器的第二输入端。数据a可以沿第一维度双向流动；例如，既可以在同一时钟下沿第一方向依次输入具有相同第二维度值的各处理单元，也可以沿第一方向的相反方向依次输入具有相同第二维度值的各处理单元；可以在第二维度双向流动，例如，既可以在同一时钟下沿第二方向依次输入具有相同第一维度值的各处理单元，也可以沿第二方向的相反方向依次输入具有相同第一维度值的各处理单元。当然，通过控制，同一个数据或者由其衍生的数据可以在不同的时钟下流经所有的PE单元。为理解方便起见，下文将以水平维度为第一维度本文档来自技高网...

【技术保护点】
1.一种系统芯片，包括：人工智能AI模块，包括排列成二维阵列的多个处理单元(PE)，各处理单元能够完成逻辑和/或乘加运算；FPGA模块；绕线(XBAR)模块，用于提供AI模块的输入和/或输出端到FPGA模块的耦合。

【技术特征摘要】
1.一种系统芯片，包括：人工智能AI模块，包括排列成二维阵列的多个处理单元(PE)，各处理单元能够完成逻辑和/或乘加运算；FPGA模块；绕线(XBAR)模块，用于提供AI模块的输入和/或输出端到FPGA模块的耦合。2.根据权利要求1所述的系统芯片，其特征在于，所述绕线(XBAR)模块位于FPGA模块中。3...

【专利技术属性】
技术研发人员：连荣椿，王海力，马明，
申请(专利权)人：京微齐力北京科技有限公司，
类型：发明
国别省市：北京,11