一种用于神经网络数据流计算架构的1D向量计算单元制造技术

本发明专利技术公开了一种用于神经网络数据流计算架构的1D向量计算单元，包含可重构配置单元和首尾相连的线性模块、非线性模块，其中，所述可重构配置单元用于根据外部输入输出可重构配置信息，将所述线性模块、所述非线性模块配置成某种功能算子，所述线性模块用于实现一维线性函数计算；所述非线性模块用于实现一维非线性函数计算。本发明专利技术提出的可重构1D向量计算单元，通过可重构配置单元的配置功能，将线性模块和/或非线性模块配置成为某种功能算子，实现多种1D向量计算，从而实现神经网络数据的高效计算。高效计算。高效计算。

【技术实现步骤摘要】
一种用于神经网络数据流计算架构的1D向量计算单元


[0001]本专利技术涉及神经网络张量处理器的计算架构领域，尤其涉及一种用于神经网络数据流计算架构的1D向量计算单元。

技术介绍

[0002]在现有的通用处理器中(如CPU)，非线性函数通常基于通用运算单元，使用基础运算步骤(例如乘法和加法等)，通过某种近似方法计算得到，计算过程复杂且周期长，计算效率极低。
[0003]在专用的人工智能处理器中，非线性函数的计算通常是以查找表(LUT)的方式来实现，也即把非线性函数的y数值直接存储在以x数值为索引的查找表中。
[0004]上述查找表方法存在明显缺点：局限性比较大，可以实现的非线性函数较少；实现资源使用较大，为了较高精度需要使用较多的查找表存储器存储更多的y值；实现的精度误差较大，LUT是以离散点的坐标来查找对应的函数值，如果LUT数量没有足够大，查找的函数值将会有比较大的误差。

技术实现思路

[0005]有鉴于现有技术的上述缺陷，本专利技术的目的是提供一种用于神经网络数据流计算架构的1D向量计算单元，实现神经网络数本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于神经网络数据流计算架构的1D向量计算单元，其特征在于：包含可重构配置单元和首尾相连的线性模块、非线性模块，其中，所述可重构配置单元用于根据外部输入输出可重构配置信息，将所述线性模块、所述非线性模块配置成某种功能算子，所述线性模块用于实现一维线性函数计算；所述非线性模块用于实现一维非线性函数计算。2.如权利要求1所述的用于神经网络数据流计算架构的1D向量计算单元，其特征在于：所述线性计算模块包括乘法单元、加减法和比较单元、多阈值relu单元以及第一精度转换单元；所述乘法单元、加减法和比较单元、多阈值relu单元以及第一精度转换单元通过可重构配置信息进行配置，从而决定每个模块是否参与计算以及参与计算的数据来源；所述乘法单元用于根据所述可重构配置信息完成任意位宽的有符号二进制补码乘法；所述加减法和比较单元用于根据所述可重构配置信息及所述乘法单元的计算结果完成加/减法运算和/或最大/小值运算；所述多阈值relu单元用于根据所述可重构配置信息及所述加减法和比较单元的计算结果完成一种relu计算；所述第一精度转换单元用于读取可重构配置单元的移位寄存器值，根据所述移位寄存器值对所述多阈值relu单元输出的结果进行精度转换和位宽截断。3.如权利要求2所述的用于神经网络数据流计算架构的1D向量计算单元，其特征在于：所述多阈值relu单元完成的计算包括：relu计算、relu6计算、Prelu计算及Leaky relu计算，其中，relu计算的实现是通过判断输入数值与0的大小关系，小于0，则该多阈值relu单元的输出为0，大于0，则为输入数值本身；relu6计算则是在relu计算的实现基础上，多加了一个判断大于6的条件，如果大于6则单元输出结果为6；Prelu计算的实现则是结合乘法单元，判断输入数值与0的大小关系，小于0，则乘以一个系数，然后通过选通信号，使其输出值等于输入值，完成prelu计算；Leaky relu计算的实现则是结合乘法单元，乘以一个固定系数，然后通过选通信号，使其输出值等于输入值，完成Leaky relu计算。4.如权利要求1所述的用于神经网络数据流计算架构的1D向量计算单元，其特征在于：所述非线性模块采用以查找表结合分段函数拟合的方式来实现一维非线性函数的计算。5.如权利要求4所述的用于神经网络数据流计算架构的1D向量计算单元，其特征在于：所述非线性模块包括：查找表、写逻辑单元、读地址计算单元、多个乘法加法单元和第二精度转换单元，所述查找表用于存储所述一维非线性函数的各分段函数的参数值，每个分段函数对应一个查找表地址；所述写逻辑单元用...

【专利技术属性】
技术研发人员：周志新，何日辉，罗闳訚，
申请(专利权)人：厦门壹普智慧科技有限公司，
类型：发明
国别省市：