针对神经网络的防错的推理计算制造技术

用于运行用于卷积神经网络的推理计算的硬件平台的方法（100），包括步骤：

【技术实现步骤摘要】
【国外来华专利技术】针对神经网络的防错的推理计算


[0001]本专利技术涉及确保在神经网络的推理运行中发生的计算免受所使用的硬件平台上的瞬态错误的影响。

技术介绍

[0002]在神经网络的推理中，以很大的数量计算神经元的激活，其方式是基于在神经网络训练中所开发的权重对输送给这些神经元的输入进行加权求和。因此会发生大量乘法，然后将这些乘法的结果相加（multiply
‑
and
‑
accumulate（乘法和累加），MAC）。特别是在移动应用中、例如在道路交通中至少部分自动驾驶车辆的情况下，神经网络在专门进行这种计算的硬件平台上得以实现。这些平台在硬件成本和每单位计算能力的能耗方面是特别有效的。
[0003]随着这些硬件平台的集成密度增加，瞬态（即零星出现的）计算错误的概率增加。从而例如可能由于来自背景辐射的高能光子撞击硬件平台的存储位置或处理单元而使比特意外“翻转”。此外，硬件平台正好在车辆中与大量其他耗电器共享车载电网，这些耗电器可能将干扰（例如电压峰值）输入耦合到硬件平台中。随着硬件平台集成密度的增加，与此相关的公差变本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于运行用于卷积神经网络的推理计算的硬件平台的方法(100)，其中所述硬件平台具有至少一个加速模块，所述加速模块专门用于，通过在输入矩阵(1)内的不同位置应用卷积核(2a
‑
2c)而计算出用所述卷积核(2a
‑
2c)对所述输入矩阵(1)的卷积并将所述卷积的结果作为二维输出矩阵(3a
‑
3c)输出，所述方法包括步骤：
·
借助加速模块使用多个卷积核(2a
‑
2c)对具有神经网络的输入数据的输入矩阵(1)进行卷积(110)，使得产生多个二维输出矩阵(3a
‑
3c)；
·
将所述卷积核(2a
‑
2c)逐个元素相加(120)以形成控制核(4)；
·
借助所述加速模块使用所述控制核(4)对所述输入矩阵(1)进行卷积(130)，使得产生二维控制矩阵(5)；
·
将所述控制矩阵(5)的每个元素(5*)与所述输出矩阵(3a
‑
3c)中与所述元素(5*)相对应的元素(3a*
‑
3c*)的总和进行比较(140)；
·
响应于所述比较(140)对于所述控制矩阵(5)的元素(5*)得出(150)偏差，利用至少一个附加的控制计算来检查(160)：是否正确计算出了至少一个输出矩阵(3a
‑
3c)中与所述控制矩阵(5)的所述元素(5*)对应的元素(3a*
‑
3c*)。2.根据权利要求1所述的方法(100)，其中在使用至少一个卷积核(2a
‑
2c)进行的卷积(110)中，将与所述卷积核(2a
‑
2c)对应的偏值(7a
‑
7c)相加到(111)使用所述卷积核(2a
‑
2c)生成的输出矩阵(3a
‑
3c)的元素并且其中也将所有偏值(7a
‑
7c)的总和相加到(112)所述控制矩阵(5)的所有元素。3.根据权利要求1至2中任一项所述的方法(100)，其中，利用所述附加控制计算(160)来检查(161)：是否正确计算了所述至少一个输出矩阵(3a
‑
3c)的包含要检查的元素(3a*
‑
3c*)的行或列(3a#
‑
3c#)。4.根据权利要求3所述的方法(100)，其中在所述控制计算的范畴内，
·
通过检查元素(11)扩展(162)输入矩阵(1)；
·
借助所述加速模块利用与至少一个输出矩阵(3a
‑
3c)对应的卷积核(2a
‑
2c)对所述检查元素(11)进行卷积(163)，以便以此方式获得控制值(31)；
·
将行或列(3a#
‑
...

【专利技术属性】
技术研发人员：C，
申请(专利权)人：罗伯特，
类型：发明
国别省市：