【技术实现步骤摘要】
【国外来华专利技术】补偿模拟存算一体(ACIM)模块劣化的系统和方法
[0001]相关申请的交叉引用
[0002]本专利申请要求2021年6月14日提交的美国申请17/347,457号的优先权,该专利申请全文以引用方式并入本文。
技术介绍
[0003]本公开的各方面涉及识别和减轻硬件电路在硬件加速电路中的计算方面的劣化。
[0004]相关领域的描述
[0005]深度神经网络通常用于学习或识别数据中的复杂模式。与深度神经网络相关联的处理通常可涉及大量向量
‑
矩阵乘法(VMM)。然而,使用传统计算系统执行或计算大量VMM可能需要大量的时间和其他资源。
[0006]如存算一体(CIM)电路等硬件加速电路可通过减少系统内例如存储器电路与处理器之间所需的数据传送来加速VMM和对应计算的执行。实际上,CIM电路可对存储器电路中所存储的数据进行处理。具体地,与传统处理相比,采用存储类存储器(如磁阻RAM(MRAM)、相变存储器(PCM)、电阻式RAM(RRAM)等)的模拟CIM(ACIM)可以实现VMM的高效计算,具有 ...
【技术保护点】
【技术特征摘要】
【国外来华专利技术】1.一种用于执行存算一体(CIM)计算的设备,所述设备包括:存算一体(CIM)模块,所述CIM模块被配置为使用至少一个乘法累加操作将多个模拟权重施加到输入数据以生成输出;数字权重存储单元,所述数字权重存储单元被配置为存储多个数字权重参考,其中所述多个数字权重参考中的数字权重参考对应于所述多个模拟权重中的模拟权重;和设备控制器,所述设备控制器被配置为:基于所述多个数字权重参考将所述多个模拟权重编程到所述CIM模块;以及确定所述多个模拟权重中的一个或多个模拟权重降级;其中:所述数字权重存储单元中的所述多个数字权重参考填充有来自主机设备的值,并且所述CIM模块中的降级模拟权重替换为来自所述数字权重存储单元的对应数字权重参考,而不参考所述主机设备。2.根据权利要求1所述的设备,其中:所述CIM模块包括位单元的第一阵列和位单元的第二阵列,每个阵列被配置为用所述多个模拟权重个别地编程;并且所述设备控制器还被配置为将所述多个模拟权重编程到所述位单元的第一阵列或第二阵列中的一个阵列,同时使所述位单元的第一阵列或第二阵列中的另一个阵列生成所述输出。3.根据权利要求1所述的设备,其中为了确定所述多个模拟权重中的一个或多个模拟权重降级,所述设备控制器还被配置为确定自所述模拟权重被编程到所述CIM模块以来已经过去了阈值时间量。4.根据权利要求3所述的设备,其中所述阈值时间量基于所述CIM模块的一个或多个参数而确定。5.根据权利要求1所述的设备,其中为了确定所述多个模拟权重中的一个或多个模拟权重降级,所述设备控制器还被配置为确定所述输出降低到低于输出阈值。6.根据权利要求1所述的设备,其中:所述CIM模块包括错误校正部件,所述错误校正部件被配置为监测和校正编程到所述CIM模块的所述多个模拟权重中的错误,所述设备控制器还被配置为基于存储在所述数字权重存储单元中的对应数字权重参考,对所述多个模拟权重中降级的所述一个或多个模拟权重进行重新编程,并且在自所述模拟权重被写入所述CIM模块以来已经过去了阈值时间量时,基于存储在所述数字权重存储单元中的对应数字权重参考对所述多个模拟权重进行重新编程。7.根据权利要求1所述的设备,其中所述设备控制器还被配置为基于应用于所述CIM的损耗均衡机制确定所述多个模拟权重中的一个或多个模拟权重降级。8.根据权利要求7所述的设备,其中所述设备控制器还被配置为将所述损耗均衡机制应用于所述CIM,所述损耗均衡机制被配置为:读取对应于所述CIM模块中的位线或字线的选择的值,以及基于所述CIM中的位线或字线的所述选择的读取值确定所述多个模拟权重降级。9.根据权利要求1所述的设备,其中为了确定所述多个模拟权重中的一个或多个模拟
权重降级,所述设备控制器还被配置为:从所述CIM读取对应于所编程的多个模拟权重的值;将所述读取值转换为数字值;以及确定至少一个数字值与存储在所述数字权重存储单元中的对应数字权重参考之差大于阈值差值。10.根据权利要求9所述的设备,其中所述阈值差值包括汉明距离。11.根据权利要求1所述的设备,其中为了确定所述多个模拟权重中的一个或...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。