一种数模混合神经元电路制造技术

本发明专利技术涉及神经网络领域，尤其涉及一种数模混合神经元电路，旨在解决现有技术中提高精度时所需电容数量大，占用芯片面积大，芯片成本较高的问题。本发明专利技术包括：数据存储器，用于存储激活值；权重存储器，用于存储与激活值一一对应的二值权重值；数据选择电路，用于选择mbit目标激活值的其中4bit；开关电容神经元电路，用于对每一次选择的4bit激活值和mbit目标激活值对应的二值权重值进行卷积操作，得到相应的模拟电压值；锁存电路，用于锁定并存储经加法电路得到的模拟电压值；加法电路，用于对锁存电路中锁存的模拟电压值和当次卷积操作得到的模拟电压值进行加法计算。本发明专利技术通过开关电容神经元复用技术，降低了开关电容个数，减小芯片面积，降低成本。

A mixed digital analog neuron circuit

【技术实现步骤摘要】
一种数模混合神经元电路
本专利技术涉及神经网络领域，尤其涉及一种数模混合神经元电路。
技术介绍
现在神经网络一般采用浮点计算，需要较大的存储空间和计算量，严重阻碍了神经网络在移动端的应用。神经网络量化算法，无需改变网络结构，且对内存需求大大降低，为实现网络终端提供了便利。然而，权重和激活值都进行1bit量化会使得精度损失较大，所以为了提高精度，将权重进行1bit量化，激活值进行定点量化(如4bit、8bit、16bit等)。但是，在对激活值进行定点量化时，由于针对激活值的每一bit位，采用相同的电路结构和不同容值的开关电容，实现N个维度数据的激活值的卷积操作。即：高比特位的容值是次高比特位的双倍，若最低比特位开关电容的容值为Cu，那么第二、三、四比特位的容值分别为：2Cu、4Cu、8Cu，若同时实现N个维度4bit的激活值的卷积操作则需要N*15个容值为Cu的电容。因此，激活值的精度越高，所需要的电容数量越大，这将占用大量芯片面积，使得芯片成本较高。
技术实现思路
本专利技术所要解决的技术问题是针对现有技术的不足，提供一种数模混合神经元电路，当权重1bit量化，激活值8bit、16bit或更高精度mbit量化时，采用开关电容神经元复用技术进行卷积操作，从而降低神经元电路中的电容个数，减小芯片面积，降低成本。本专利技术解决上述技术问题的技术方案如下：一种数模混合神经元电路，包括：数据存储器、数据选择电路、权重存储器、开关电容神经元电路、锁存电路和加法电路，其中，所述数据存储器，用于存储激活值；所述权重存储器，用于存储与所述激活值一一对应的二值权重值；所述数据选择电路，用于选择mbit目标激活值的其中4bit，所述mbit目标激活值为所述数据存储器中存储的任一激活值，其中，m＝2n，且n≥3；所述开关电容神经元电路，用于对每一次选择的4bit激活值和所述mbit目标激活值对应的二值权重值进行卷积操作，得到相应的模拟电压值；所述锁存电路，用于锁定并存储经所述加法电路得到的模拟电压值；所述加法电路，用于对所述锁存电路中锁存的模拟电压值和当次卷积操作得到的模拟电压值进行加法计算。在一些优先的实施例中，所述开关电容神经元电路，用于对第1次选择的4bit激活值和所述mbit目标激活值对应的二值权重值进行卷积操作，得到模拟电压值；所述加法电路，用于对所述模拟电压值和初始模拟电压值进行加法计算得到第一模拟电压值；所述锁存电路，用于锁定并存储所述第一模拟电压值；复用所述开关电容神经元电路对第k次选择的4bit激活值和所述mbit目标激活值对应的二值权重值进行卷积操作，得到模拟电压值Vk，其中，k＝2,…m/4；所述加法电路对所述模拟电压值Vk和第k-1次锁存的模拟电压值进行加法计算得到第二模拟电压值，直至k＝m/4时输出所述第二模拟电压值；所述锁存电路，用于锁定并存储所述第二模拟电压值。在一些优先的实施例中，所述开关电容神经元电路包括：异或逻辑电路、开关电容阵列、偏置电路和运算放大器，其中，所述异或逻辑电路，用于对输入数据N个维度中每一个维度数据的二值权重和该维度数据的定点量化激活值的每一位进行乘法操作；所述开关电容阵列，用于向所述运算放大器提供分压；所述偏置电路，用于修正所述分压；所述运算放大器，基于所述偏置电路修正后的分压对所述异或逻辑电路输出结果进行宽矢量求和，输出模拟电压值。在一些优先的实施例中，所述开关电容阵列包括N*4个设定大小的开关电容、2N*4+1个开关，所述开关基于获取的二项非重叠时钟信号，控制所述开关电容阵列中N*4个设定大小的开关电容的连接状态，其中，所述二项非重叠时钟信号为φ1时，所述开关电容阵列中N*4个设定大小的开关电容的两个基板均与参考地相连，电容清零；所述二项非重叠时钟信号为φ2时，基于所述异或逻辑电路输出结果，所述开关电容阵列中N*4个设定大小的开关电容的一个极板与参考电源或参考地相连，电容的另一极板与所述运算放大器正向输入端相连。在一些优先的实施例中，基于所述异或逻辑电路输出结果，所述开关电容阵列中N*4个设定大小的开关电容的一个极板与参考电源或参考地相连，包括：所述异或逻辑电路输出结果为1时，其对应电容的一个极板通过所述开关与参考电源相连；所述异或逻辑电路输出结果为0时，其对应电容的一个极板通过所述开关与参考地相连。在一些优先的实施例中，通过15个容值为Cu的单位电容构成4个不同容值的开关电容。在一些优先的实施例中，所述4个不同容值的开关电容，其电容大小依次为Cu，21Cu，22Cu，23Cu。本专利技术的有益效果是：通过开关电容神经元复用技术，降低了开关电容个数，减小芯片面积，降低成本。本专利技术附加的方面的优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本专利技术实践了解到。附图说明为了更清楚地说明本专利技术实施例的技术方案，下面将对本专利技术实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面所描述的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1为本专利技术实施例提供的数模混合神经元电路的结构框架示意图；图2为本专利技术实施例提供的数模混合神经元电路中的数据选择电路示意图；图3为本专利技术实施例提供的数模混合神经元电路中的开关电容神经元电路示意图；图4为本专利技术实施例提供的数模混合神经元电路中的开关电容神经元电路差分结构示意图；图5为本专利技术实施例提供的数模混合神经元电路中的锁存电路示意图；图6为本专利技术实施例提供的数模混合神经元电路中的加法电路示意图；图7为本专利技术实施例提供的数模混合神经元电路的输出电压时序图。具体实施方式下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本专利技术的一部分实施例，而不是全部实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都应属于本专利技术保护的范围。另外，需要说明的是，为了便于描述，附图中仅示出了与有关专利技术相关的部分。还应理解，在不冲突的情况下，本申请的实施例及实施例中的特征可以相互组合。本申请提供了一种数模混合神经元电路，如图1所示，该电路包括：数据存储器1、数据选择电路2、权重存储器3、开关电容神经元电路4、锁存电路5和加法电路6，其中：数据存储器1用于存储激活值，可并行读写操作；数据选择电路2的输入端与数据存储器1连接，用于选择mbit激活值的其中4比特位，mbit目标激活值为数据存储器中存储的任一激活值，其中，m＝2n，且n≥3。权重存储器3用于存储权重值，可并行读写操作；该权重值为与存储在数据存储器1中的激活值一一对应的二值权重值。...

【技术保护点】
1.一种数模混合神经元电路，其特征在于，包括：数据存储器、数据选择电路、权重存储器、开关电容神经元电路、锁存电路和加法电路，其中，/n所述数据存储器，用于存储激活值；/n所述权重存储器，用于存储与所述激活值一一对应的二值权重值；/n所述数据选择电路，用于选择mbit目标激活值的其中4bit，所述mbit目标激活值为所述数据存储器中存储的任一激活值，其中，m＝2

【技术特征摘要】
1.一种数模混合神经元电路，其特征在于，包括：数据存储器、数据选择电路、权重存储器、开关电容神经元电路、锁存电路和加法电路，其中，
所述数据存储器，用于存储激活值；
所述权重存储器，用于存储与所述激活值一一对应的二值权重值；
所述数据选择电路，用于选择mbit目标激活值的其中4bit，所述mbit目标激活值为所述数据存储器中存储的任一激活值，其中，m＝2n，且n≥3；
所述开关电容神经元电路，用于对每一次选择的4bit激活值和所述mbit目标激活值对应的二值权重值进行卷积操作，得到相应的模拟电压值；
所述锁存电路，用于锁定并存储经所述加法电路得到的模拟电压值；
所述加法电路，用于对所述锁存电路中锁存的模拟电压值和当次卷积操作得到的模拟电压值进行加法计算。


2.根据权利要求1所述的数模混合神经元电路，其特征在于，
所述开关电容神经元电路，用于对第1次选择的4bit激活值和所述mbit目标激活值对应的二值权重值进行卷积操作，得到模拟电压值；
所述加法电路，用于对所述模拟电压值和初始模拟电压值进行加法计算得到第一模拟电压值；
所述锁存电路，用于锁定并存储所述第一模拟电压值；
复用所述开关电容神经元电路对第k次选择的4bit激活值和所述mbit目标激活值对应的二值权重值进行卷积操作，得到模拟电压值Vk，其中，k＝2,…m/4；
所述加法电路对所述模拟电压值Vk和第k-1次锁存的模拟电压值进行加法计算得到第二模拟电压值，直至k＝m/4时输出所述第二模拟电压值；
所述锁存电路，用于锁定并存储所述第二模拟电压值。


3.根据权利要求1或2所述的数模混合神经元电路，其特征在于，所述开关电容神经元电路包括：异或逻辑电路、开关电容阵列、偏置电路和运算放大器...

【专利技术属性】
技术研发人员：张峰，李淼，赵婷，马春宇，
申请(专利权)人：天津智模科技有限公司，
类型：发明
国别省市：天津;12