【技术实现步骤摘要】
【国外来华专利技术】
本专利技术一般涉及神经网络领域。特别是，本专利技术涉及一种用于检查神经网络的完整性的方法，该神经网络作为硬件单元或终端设备中的应用或所谓的推理来执行。神经网络在此通过其结构和通过训练阶段中所确定的权重因子来定义。此外，为了实现人工神经网络而使用所谓的脉动阵列，其具有布置成矩阵形的处理元件。
技术介绍
1、随着数字化的推进和与此相关的过程数据的增加，当今针对许多复杂问题而使用神经网络用于数据处理。神经网络在此几乎可以用于所有
以进行数据处理。神经网络的应用领域例如在于诸如文本、图像和模式识别、快速决策这样的领域和/或在于分类任务领域。
2、原则上，人工神经网络表示生物神经系统及其关联工作方法的仿制物。神经网络的突出特性特别是在于学习能力，也即，所提出的问题、诸如文本、图像或模式识别、快速决策等都是在经训练的知识基础上被解决的。神经网络由大量人工神经元组成，所述人工神经元例如是与人脑细胞有同感的。神经元在神经网络中被分组在不同层或所谓的分层中，并且其特点是高度联网。作为层而例如设置至少一个用于记录原始数据的输入层和输出层，其中从输出层提供由神经网络确定的结果或者说结论。在其间，可以设置一个或多个“被隐藏的”层(所谓的隐藏层(hiddenlayer))，从这些层中确定并提供中间结果。这种神经网络例如从文献ep3502974 a1中已知。
3、所谓“深度学习”在此是指一种特殊的机器学习方法，它使用在输入层和输出层之间有大量“被隐藏的”中间层的人工神经网络，并且由此形成广泛的内部结构。在数据处理或学习中，数据
4、为了可用于预给定任务(例如文本、图像或模式识别、语音合成、决策或分类任务等)，神经网络必须在训练阶段被训练。在此训练阶段期间，神经网络基于例如预给定的训练数据和/或训练模式而被训练以提供关于所述任务的正确答案。在此，例如从可预给定或随机选择的被分配给神经元的起始权重或起始权重因子的值出发，对于每个训练周期为相应神经元修改权重或权重因子以及必要时修改偏差值。然后将在相应训练周期中获得的神经网络的结果与例如参考数据/参考模式进行比较，直到达到期望的结果质量。然后例如存储这样确定的权重因子，以便用于由经过训练的神经网络执行相应的任务——即所谓的推理。
5、针对执行在训练阶段中基于特定数据模式所训练的神经网络或者使用训练阶段中所确定的通常固定的权重因子进行所谓的推理，存在有各种平台。根据相应应用的要求而定，作为硬件平台可以例如使用通用多核cpu和gpu或集成电路，诸如所谓的现场可编程门阵列(fpga)或专用集成电路(所谓的asic)，特别是可以使用特殊神经网络asic。如果涉及到例如通常在诸如汽车、移动性和/或自动化等领域所需的定制的、实时的且损耗优化的解决方案，则特别是主要使用fpga和/或特殊神经网络asic。
6、所谓的脉动阵列或脉动排列通常用于特别是在使用深度学习的情况下有效实现神经网络。脉动阵列是被耦合单元、节点或处理元件的同质网络。处理元件布置成矩阵形(例如，作为二维矩阵)并且以特定于应用的方式配置。每个处理元件基于从其上游的邻居单元所接收的数据而独立地计算部分结果，存储所述部分结果并将其向下游转发，其中例如通过新数据到达相应处理单元中来触发所述转发。也就是说，数据流例如波状地穿过脉动阵列而以时钟驱动。当通过脉动阵列处理神经网络或神经网络的相应层时，中央处理单元尤其确保：例如，除了一组输入数据之外，神经网络的权重因子在正确的时间点被从主存储器引导到相应的处理元件。神经网络的权重因子在此决定了相应处理元件对相应处理元件的部分结果的影响。例如，从文献us10817260 b1中已知借助脉动阵列的神经网络的实现方案。
7、当使用经过训练的神经网络、即所谓的推理时，尤其是在汽车、移动性和/或自动化等领域中，保证各个系统的可靠性、稳健性和安全性通常很重要。神经网络特别是通过神经元及其相互连接的布置来定义的，即由它们的结构或拓扑来定义的。典型的结构例如是单层或多层的前馈网络或循环网络。此外，神经网络还由经过训练的行为来定义，即由训练阶段中所确定的权重因子来定义。当在硬件单元或终端设备中应用经过训练的神经网络(即，推理)时，所述两者之一、即结构和/或经过训练的行为的改变将导致错误的、不正确的且因此不可信的结果。
8、会导致不正确且不可信的结果的对神经网络的正确处理的威胁(安保性威胁(securitythreat))例如表示对例如存储单元中的经过训练的权重因子的故意修改，其中所述存储单元提供所述权重因子以用于脉动阵列的处理元件。此外，存储器单元中的所述权重因子可以例如通过在同一存储器上工作的并发进程而被无意地修改或影响。例如可能由于诸如辐射、供电等的物理影响而出现的所谓的位翻转也可能对神经网络的正确处理构成安全威胁(安全性威胁(safetythreat))。例如，通过所谓的位翻转可以影响或改变存储器中的权重因子。此外，还可以在从主存储器进入脉动阵列的路径中或者在通过脉动阵列的路径中修改权重因子。神经网络的错误的或不正确的结果可能尤其是在安全相关领域中会导致危急情况。因此重要的是，即使在终端设备正在进行运行期间，特别是在用于安全相关领域的终端设备的情况下或在硬件单元上执行时，也检查神经网络的完整性，尤其是神经网络的结构(网络图)的完整性和神经网络权重因子的完整性。
技术实现思路
1、因此，本专利技术所基于的目的是说明一种用于检查神经网络的完整性的方法，通过该方法，在硬件单元上或者在终端设备中执行期间以简单的方式并且没有大耗费地识别神经网络的结构和/或权重因子的改变。
2、该目的通过具有根据独立专利权利要求的特征的开头提到的类型的方法来实现。本专利技术的有利实施方式在从属权利要求中描述。
3、根据本专利技术，该目的通过开头提到的类型的方法来实现，该方法用于在硬件单元中或终端设备中作为应用或推理执行期间检查神经网络的完整性。神经网络在此通过其结构、即其神经元的布置和连接以及通过在训练阶段所确定的权重因子来定义，这些权重因子决定了神经网络的行为。为了实现神经网络，使用了所谓的脉动阵列，其具有布置成矩阵形的处理元件。当在硬件单元中执行神经网络时，在脉动阵列的每个处理元件中经由连续到达相应的处理元件并且由相应的处理元件处理的权重因子的序列通过累加、例如通过应用散列算法而针对相应处理元件确定唯一的检查值。在神经网络的执行后，于是存在一组唯一的检查值。将这些唯一的检查值与对应的参考值进行比较。在此，将针对相应处理元件所确定的唯一的检查值与用于相应处理元件的对应参考值进行比较。如果在对至少一个处理元件的比较中确定出：在执行期间分别所确定的唯一的检查值与对应的参考值之间存在偏差，则在执行中创建的神经网络的结果被分类为不安全或不可信。
4、本专利技术的主要方面在于，在作为所谓的推理或作为本文档来自技高网...
【技术保护点】
1.一种用于在硬件单元中、特别是终端设备中执行期间检查神经网络的完整性的方法，其中所述神经网络通过自身结构和通过训练阶段中所确定的权重因子(GF)来定义，并且其中为了实现所述神经网络而使用所谓的脉动阵列(AR)，所述脉动阵列具有布置成矩阵形的处理元件(V11、...、V55)，其特征在于，当在所述脉动阵列(AR)的每个处理元件(V11,...,V55)中执行神经网络时，经由连续到达的、由相应的处理元件(V11、...、V55)处理的那些权重因子(GF)的序列，通过应用散列算法而确定唯一的检查值(101)，在所述神经网络的执行后，将针对相应处理元件(V11、...、V55)所确定的唯一的检查值与用于相应处理元件(V11、...、V55)的对应的参考值进行比较(102)，并且如果至少对于处理元件(V11、...、V55)，分别在执行期间所确定的唯一的检查值与对应的参考值有偏差，则将所述神经网络的结果(NNR)分类为不可信(103)。
2.根据权利要求1所述的方法，其特征在于，在所述脉动阵列的所述处理元件(V11、...、V55)中设置检查单元(P11、...、P55)，所
3.根据权利要求1至2中任一项所述的方法，其特征在于，使用循环冗余检查方法来根据由相应处理元件处理的权重因子(GF)的序列确定唯一的检查值(101)。
4.根据权利要求3所述的方法，其特征在于，将相应处理元件(V11、...、V55)的参考值作为最终权重因子插入到相应处理元件的权重因子的序列中(101)。
5.根据权利要求1至4中任一项所述的方法，其特征在于，仅由所述脉动阵列(AR)中的形成所述权重因子(GF)到所述脉动阵列(AR)中的输入接口的那些处理元件(V11、...、V15)确定唯一的检查值(101)。
6.根据权利要求1至4中任一项所述的方法，其特征在于，仅由所述脉动阵列(AR)中的形成针对所述权重因子(GF)的所述脉动阵列(AR)中的输出接口的那些处理元件(V51、...、V55)确定唯一的检查值(101)。
7.根据前述权利要求中任一项所述的方法，其特征在于，通过逐行和/或逐列累加而由所述处理元件(V11、...、V55)的检查值形成检查签名(101)。
8.根据前述权利要求中任一项所述的方法，其特征在于，通过分析推导或通过在所述神经网络的设计阶段中的模拟或者借助于神经网络的至少一次初始执行来确定用于所述处理元件(V11、...、V55)的参考值。
9.根据前述权利要求中任一项所述的方法，其特征在于，用于所述处理单元(V11、...、V55)的参考值被存储在所述神经网络在其上执行的所述硬件单元的存储单元(SP)中。
10.根据前述权利要求中任一项所述的方法，其特征在于，针对实现所述神经网络而使用所谓的现场可编程阵列或专用集成电路作为硬件平台。
...【技术特征摘要】
【国外来华专利技术】
1.一种用于在硬件单元中、特别是终端设备中执行期间检查神经网络的完整性的方法，其中所述神经网络通过自身结构和通过训练阶段中所确定的权重因子(gf)来定义，并且其中为了实现所述神经网络而使用所谓的脉动阵列(ar)，所述脉动阵列具有布置成矩阵形的处理元件(v11、...、v55)，其特征在于，当在所述脉动阵列(ar)的每个处理元件(v11,...,v55)中执行神经网络时，经由连续到达的、由相应的处理元件(v11、...、v55)处理的那些权重因子(gf)的序列，通过应用散列算法而确定唯一的检查值(101)，在所述神经网络的执行后，将针对相应处理元件(v11、...、v55)所确定的唯一的检查值与用于相应处理元件(v11、...、v55)的对应的参考值进行比较(102)，并且如果至少对于处理元件(v11、...、v55)，分别在执行期间所确定的唯一的检查值与对应的参考值有偏差，则将所述神经网络的结果(nnr)分类为不可信(103)。
2.根据权利要求1所述的方法，其特征在于，在所述脉动阵列的所述处理元件(v11、...、v55)中设置检查单元(p11、...、p55)，所述检查单元被实施为所述处理元件(v11、...、v55)中的附加硬件组件，并且通过所述检查单元将相应的权重因子(gf)累加成唯一的检查值(101)。
3.根据权利要求1至2中任一项所述的方法，其特征在于，使用循环冗余检查方法来根据由相应处理元件处理的权重因子(gf)的序列确定唯一的检查值(101)。
【专利技术属性】
技术研发人员：N·贝克，H·穆尔，H·陶赫尔，C·翁格尔，M·韦斯，
申请(专利权)人：西门子股份公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。