使用矩阵电路近似确定点积的方法技术

技术编号:41294772 阅读:20 留言:0更新日期:2024-05-13 14:44
本发明专利技术涉及用于近似确定至少一个输入向量与权重向量的至少一个点积的方法,其中输入向量的输入分量和权重向量的权重分量以二进制形式存在;其中使用至少一个矩阵电路,其中对应于权重分量的比特对存储器单元编程,其中至少一部分权重分量的具有相同有效性的比特分别编程在同一列的存储器单元中;其中对输入分量的一个或多个子集中的每个子集执行比特和确定,其中将与输入分量的相应子集的具有相同有效性的比特相对应的电压施加在行线路的对应子集上,且将有限比特和确定为相应模数转换器的输出值,有限比特和的有效性对应于相应列的有效性和与施加电压对应的比特的有效性;其中确定对应于其有效性加权的有限比特和的总和,以确定所述点积的近似。

【技术实现步骤摘要】

本专利技术涉及一种使用矩阵电路近似确定输入向量和权重向量的点积的方法以及一种矩阵电路。


技术介绍

1、在许多计算密集型任务中,特别是在使用神经网络的人工智能应用或机器学习应用中,需要确定向量的点积。例如,在以下称为cnn(convolutional neural network)的“卷积神经网络”中的卷积是向量的点积。为了快速且有效地执行这样的向量运算,可以使用以专门为此设置的电路形式的向量矩阵乘法器。

2、在这些也称为“点积引擎”的向量矩阵乘法器中,借助于忆阻器的矩阵形布置将输入电压的向量转换为输出电压的向量,所述忆阻器布置在彼此正交的线路的交叉点处并且将交叉线路成对地连接,其中这些输出电压分别与输入电压的向量和布置成列的忆阻器的电导率之间的点积(dot product)成比例。在此,输入电压被施加到在一个方向上延伸的行线路上并且导致电流经由忆阻器进入与忆阻器正交延伸的列线路,所述列线路与地电势连接。借助于跨阻放大器将电流转换为输出电压。这样的电路可以达到分别数百或数千行和数百或数千列的大小。

3、de102020211818a1本文档来自技高网...

【技术保护点】

1.一种用于近似确定输入向量与权重向量的点积的方法,其中所述输入向量的输入分量(f0,f1,f2)和所述权重向量的权重分量(w0,w1,w2)以二进制形式存在,

2.根据权利要求1所述的方法,其中选择所述输入分量(f0,f1,f2)的一个或多个子集,使得对于每个子集,在该子集中包括的输入分量的数量等于或小于至少一个预定最大激活数量中分配的激活数量。

3.根据权利要求2所述的方法,其中基于所述点积的预定近似水平和/或基于分配给所述点积的不同部分的多个预定近似水平来选择所述至少一个预定最大激活数量。

4.根据权利要求2或3所述的方法,其中所述至少一个预定最...

【技术特征摘要】

1.一种用于近似确定输入向量与权重向量的点积的方法,其中所述输入向量的输入分量(f0,f1,f2)和所述权重向量的权重分量(w0,w1,w2)以二进制形式存在,

2.根据权利要求1所述的方法,其中选择所述输入分量(f0,f1,f2)的一个或多个子集,使得对于每个子集,在该子集中包括的输入分量的数量等于或小于至少一个预定最大激活数量中分配的激活数量。

3.根据权利要求2所述的方法,其中基于所述点积的预定近似水平和/或基于分配给所述点积的不同部分的多个预定近似水平来选择所述至少一个预定最大激活数量。

4.根据权利要求2或3所述的方法,其中所述至少一个预定最大激活数量大于相应模数转换器(28)的精度。

5.根据前述权利要求中任一项所述的方法,其中对于所述输入分量(f0,f1,f2)的一个或多个子集中的每个子集,在比特和确定期间向不属于行线路的对应子集的行线路施加零电压。

6.根据前述权利要求中任一项所述的方法,其中对于所述输入分量(f0,f1,f2)的一个或多个子集中的每个子集,在比特和确定期间,当相应比特具有为0的值时,向属于行线路的对应子集的行线路施加零电压,以及当相应比特具有为1的值时施加具有预定电压值的电压。

7.根据前述权利要求中任一项所述的方法,其中所述输入分量(f0,f1,f2)的一个或多个子集是不相交的。

8.根据前述权利要求中任一项所述的方法,其中通过将所述输入分量的整个集合划分为所述一个或多个子集或者通过将所述输入向量划分为一个或多个子区域,确定所述输入向量(f0,f1,f2)的一个或多个子集...

【专利技术属性】
技术研发人员:C·E·德拉帕拉阿帕里西奥A·贡陀罗T·索利曼
申请(专利权)人:罗伯特·博世有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1