存储器装置及其操作方法制造方法及图纸

本发明专利技术提供存储器装置及其操作方法。存储器装置包括：一存储器阵列，包括多个存储器单元，可用于储存多个权重值于该存储器阵列的这些存储器单元内；一乘法电路，耦接至该存储器阵列，该乘法电路对多个输入数据与这些权重值进行乘法，以得到多个乘法结果；以及一计数单元，耦接至该乘法电路，对这些乘法结果进行位计数以得到一乘积累加运算(MAC)运算结果。计数以得到一乘积累加运算(MAC)运算结果。计数以得到一乘积累加运算(MAC)运算结果。

【技术实现步骤摘要】
存储器装置及其操作方法


[0001]本专利技术有关于一种具有存储器内运算(In
‑
Memory
‑
Computing(IMC))的存储器装置及其操作方法。

技术介绍

[0002]人工智能(AI)已在许多领域中成为高度有效解决方案。AI的关键操作在于对大量的输入数据(如输入特征图(input feature maps))与权重值进行乘积累加运算(multiply
‑
and
‑
accumulation(MAC))。
[0003]然而，以目然的AI架构而言，容易遇到输出入瓶颈(IO bottleneck)与低效率的MAC运算流程(inefficient MAC operation fow)。
[0004]为达到高准确度，可执行具有多位输入及多位权重值的MAC操作。然而，输出入瓶颈变得更加严重，且效率将更低。
[0005]存储器内运算In
‑
Memory
‑
Computing(IMC))可用于加速MAC运算，因为IMC可减本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种存储器装置，其特征在于，包括：一存储器阵列，包括多个存储器单元，可用于储存多个权重值于该存储器阵列的这些存储器单元内；一乘法电路，耦接至该存储器阵列，该乘法电路对多个输入数据与这些权重值进行乘法，以得到多个乘法结果；以及一计数单元，耦接至该乘法电路，对这些乘法结果进行位计数以得到一乘积累加运算(MAC)运算结果。2.根据权利要求1所述的存储器装置，其特征在于，该乘法电路包括多个单位元乘法单元，各单位元乘法单元包括：一输入闩锁器，耦接至该存储器阵列，一感应放大器，耦接至该输入闩锁器，一输出闩锁器，耦接至该感应放大器，以及一共同数据闩锁器，耦接至该输出闩锁器，其中，该共同数据闩锁器传送该输入数据给该输入闩锁器。3.根据权利要求2所述的存储器装置，其特征在于，该单位元乘法单元产生这些乘法结果并输入至该计数单元。4.根据权利要求2所述的存储器装置，其特征在于，还包括一分群电路，耦接至该乘法电路与该计数单元，该分群电路对该乘法电路的这些乘法结果进行分群操作，以得到多个分群结果，且将这些分群结果输入至该计数单元，其中，该单位元乘法单元产生该乘法结果并输入至该分群电路。5.根据权利要求1所述的存储器装置，其特征在于，还包括：一输出入电路，耦接至该乘法电路与该计数单元，用以接收这些输入数据，并将该存储器装置所得到的该乘积累加运算结果输出；其中，该分群电路包括多个分群单元，这些分群单元对于这些乘法结果进行分群操作，以得到这些分群结果；该存储器阵列与该乘法电路是模拟的，而该分群电路与该计数单元是数字的；各这些输入数据或各这些权重值的多个位分为多个位向量；将这些位向量的各位从以一二进制形式转换成以一元编码表示；将以一元编码表示的这些位向量的该各位重复多次以成为一点积展开式；以及该乘法电路对该点积展开式的这些输入数据与该点积展开式的这些权重值进行乘法操作，以得到这些乘法操作结果。6.根据权利要求2所述的存储器装置，其特征在于，...

【专利技术属性】
技术研发人员：胡瀚文，李永骏，林柏榕，王淮慕，
申请(专利权)人：旺宏电子股份有限公司，
类型：发明
国别省市：