【技术实现步骤摘要】
本技术实施例涉及用于人工智能加速器的可重配置处理元件及其操作方法。
技术介绍
1、人工智能(ai)是可用于在经编程以如人类般思考及行动的机器中模拟人类智慧的强大工具。ai可用于各种应用及行业。ai加速器是用于高效处理ai工作负载(如神经网络)的硬件装置。一种类型的ai加速器包含脉动阵列,其可经由乘法及累加操作对输入执行操作。
技术实现思路
1、根据本技术的实施例,一种用于人工智能(ai)加速器的可重配置处理电路包括:第一存储器,其经配置以存储输入激活状态;第二存储器,其经配置以存储权重;乘法器,其经配置以将所述权重与所述输入激活状态相乘且输出乘积;第一多路复用器(mux),其经配置以基于第一选择器输出来自先前可重配置处理元件的先前总和;第三存储器,其经配置以存储第一总和;第二多路复用器,其经配置以基于第二选择器输出所述先前总和或所述第一总和;加法器,其经配置以将所述乘积与所述先前总和或所述第一总和相加以输出第二总和;及第三多路复用器,其经配置以基于第三选择器输出所述第二总和或所述先前总和。
2、根据本技术的实施例,一种操作人工智能加速器的可重配置处理元件的方法包括:通过第一多路复用器(mux)基于第一选择器选择来自所述人工智能加速器的可重配置处理元件的矩阵的先前列或先前行的先前总和;将输入激活状态与权重相乘以输出乘积;通过第二多路复用器基于第二选择器选择所述先前总和或当前总和;将所述乘积与所述选定先前总和或所述选定当前总和相加以输出经更新总和;通过第三多路复用器基于第三
3、根据本技术的实施例,一种用于人工智能(ai)加速器的处理核心包括:输入缓冲器,其经配置以存储多个输入激活状态;权重缓冲器,其经配置以存储多个权重;处理元件的矩阵阵列,其经布置成多个行及多个列,其中处理元件的所述矩阵阵列的每一处理元件包含:第一存储器,其经配置以存储来自所述输入缓冲器的输入激活状态;第二存储器,其经配置以存储来自所述权重缓冲器的权重;乘法器,其经配置以将所述权重与所述输入激活状态相乘且输出乘积;第一多路复用器(mux),其经配置以基于第一选择器输出来自先前行或先前列的处理元件的先前总和;第三存储器,其经配置以存储第一总和且将所述第一总和输出到下一行或下一列的处理元件;第二多路复用器,其经配置以基于第二选择器输出所述先前总和或所述第一总和;加法器,其经配置以将所述乘积与所述先前总和或所述第一总和相加以输出第二总和;及第三多路复用器,其经配置以基于第三选择器输出所述第二总和或所述先前总和;多个累加器,其经配置以接收来自所述多个行的最后一行的输出且对来自所述最后一行的所述所接收输出中的一或多者进行加总;及输出缓冲器,其经配置以接收来自所述多个累加器的输出。
本文档来自技高网...【技术保护点】
1.一种可重配置处理电路,其特征在于所述可重配置处理电路包括:
2.根据权利要求1所述的可重配置处理电路,其特征在于所述第一多路复用器进一步经配置以:
3.根据权利要求2所述的可重配置处理电路,其特征在于在第一模式中,所述第一及第二存储器经进一步配置以在每一循环分别更新所存储的所述输入激活状态及所存储的所述权重。
4.根据权利要求3所述的可重配置处理电路,其特征在于在所述第一模式中,在累加操作期间,所述第二多路复用器经进一步配置以输出所述第一总和,且所述第三多路复用器经进一步配置以在累加操作期间输出所述第二总和。
5.根据权利要求4所述的可重配置处理电路,其特征在于在所述第一模式中,在传出操作期间,所述第一多路复用器经进一步配置以输出所述第二先前总和作为所述先前总和,且所述第三多路复用器经进一步配置以输出所述先前总和。
6.根据权利要求2所述的可重配置处理电路,其特征在于在第二模式中,仅所述第一及第二存储器的所述第二存储器经配置以在每一循环更新所存储的所述权重。
7.根据权利要求6所述的可重配置处理电路,其特
8.根据权利要求2所述的可重配置处理电路,其特征在于在第三模式中,仅所述第一及第二存储器的所述第一存储器经配置以在每一循环更新所存储的所述输入激活状态。
9.一种处理核心,其特征在于所述处理核心包括:
10.根据权利要求9所述的处理核心,其特征在于所述矩阵阵列的第一行包含第一处理元件及第二处理元件,且所述矩阵阵列的第二行包含第三处理元件及第四处理元件,
...【技术特征摘要】
1.一种可重配置处理电路,其特征在于所述可重配置处理电路包括:
2.根据权利要求1所述的可重配置处理电路,其特征在于所述第一多路复用器进一步经配置以:
3.根据权利要求2所述的可重配置处理电路,其特征在于在第一模式中,所述第一及第二存储器经进一步配置以在每一循环分别更新所存储的所述输入激活状态及所存储的所述权重。
4.根据权利要求3所述的可重配置处理电路,其特征在于在所述第一模式中,在累加操作期间,所述第二多路复用器经进一步配置以输出所述第一总和,且所述第三多路复用器经进一步配置以在累加操作期间输出所述第二总和。
5.根据权利要求4所述的可重配置处理电路,其特征在于在所述第一模式中,在传出操作期间,所述第一多路复用器经进一步配置以输出所述第二先前总和...
【专利技术属性】
技术研发人员:孙晓宇,拉万·恩心,穆拉特·凯雷姆·阿卡尔瓦达尔,
申请(专利权)人:台湾积体电路制造股份有限公司,
类型:新型
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。