用于神经网络的推理引擎及其操作方法技术

本发明专利技术公开了一种用于神经网络的推理引擎及其操作方法，其中用于一神经网络的推理引擎使用存储一核心系数(kernel coefficient)的一存储器内计算阵列。一箝位输入矩阵被提供至存储器内计算阵列，以产生代表箝位输入向量及核心的一函数的一输出向量。一电路被包括，接收一输入向量，输入向量的元素具有一第一数值范围中的数值。电路箝位在一第二数值范围的一限度的输入向量的元素的数值，以提供箝位输入向量。第二数值范围系更窄于第一数值范围且根据存储器内计算阵列的特性被设定。第一数值范围可被使用于使用数字计算资源的训练中，第二数值范围可被使用于使用存储器内计算阵列的推理中。的推理中。的推理中。

【技术实现步骤摘要】
用于神经网络的推理引擎及其操作方法


[0001]本专利技术是有关于实施人工神经网络的技术的改善，且特别包括特征是非理想存储器装置行为(non
‑
ideal memory device behavior)的存储器装置及其操作方法。

技术介绍

[0002]人工神经网络(artificial neural network，ANN)技术已成为一有效且重要的计算工具，特别是人工智能的实现。深度神经网络(deep neural network)是使用多个非线性且复杂的转换层以依次塑造(model)高级特征(high
‑
level feature)的人工神经网络的一类型。为了训练的目的，深度神经网络通过后向传播(backpropagation)提供回馈，其负载(carry)观测的输出及预测的输出之间的差异以调整模型参数。深度神经网络随着大训练数据组(training dataset)的可用性(availability)、并行计算及分布式计算(parallel and distributed computing)的能力(po本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于一神经网络的推理引擎，其中，包括：一存储器内计算阵列，存储一核心的系数，该存储器内计算阵列具有多个输入以接收一箝位输入向量且产生代表该箝位输入向量及该核心的一函数的一输出向量；以及一电路，操作地耦接于一输入向量的一来源，其中该输入向量的多个元素具有一第一数值范围中的多个数值，该电路用以箝位在一第二数值范围的一限度的该输入向量的这些元素的这些数值以提供该箝位输入向量，该第二数值范围系更窄于该第一数值范围。2.根据权利要求1所述的推理引擎，其中，该存储器内计算阵列包括存储该核心的元素的多个存储单元，这些存储单元具有多个电导，这些电导具有误差量，该误差量系在这些存储单元的输入电压及这些存储单元的这些电导的一函数。3.根据权利要求1所述的推理引擎，其中，该存储器内计算阵列包括多个存储单元，这些存储单元具有多个电导，这些电导具有误差量，该误差量系在这些存储单元的输入电压的一函数。4.根据权利要求1所述的推理引擎，其中，还包括：一数字
‑
模拟转换器，转换该箝位输入向量为多个模拟电压且施加这些模拟电压至该存储器内计算阵列的这些输入，这些模拟电压代表代表该箝位输入向量的多个元素。5.根据权利要求1所述的推理引擎，其中，该神经网络包括多个层，该多个层包括一第一层、一或多个中间层及一最终层，该存储器内计算阵列系该一或多个中间层中的一中间层的一元件，且该输入向量的该来源包括该多个层中的一在先层；其中该在先层应用一激活函数以产生该输入向量，用以箝位该输入向量...

【专利技术属性】
技术研发人员：林榆瑄，许柏凯，李岱萤，
申请(专利权)人：旺宏电子股份有限公司，
类型：发明
国别省市：