用于从经训练神经网络生成压缩网络的设备和方法技术

公开了用于从经训练神经网络生成压缩网络的设备和方法，其中该方法包括：模型（402）从第一训练数据（304）生成压缩图（412），该压缩图（412）表示模型（402）的模型分量响应于第一训练数据（304）对第一输出数据的影响；通过根据压缩图（412）压缩（604）经训练神经网络来生成压缩网络（606）；经训练神经网络（610）响应于第二训练数据（306）生成经训练网络输出数据（612）；压缩网络（606）响应于第二训练数据（306）生成压缩网络输出数据（608）；通过将经训练网络输出数据（612）与压缩网络输出数据（608）进行比较来训练模型（402）。

【技术实现步骤摘要】
用于从经训练神经网络生成压缩网络的设备和方法
各种实施例总地涉及用于从经训练神经网络生成压缩网络的设备和方法。
技术介绍
举例来说，对于自主驾驶，诸如相机传感器和/或视频传感器之类的成像传感器可以用于提供交通工具周围环境的数字图像。可以训练神经网络来处理诸如繁忙的城市、雪山或荒芜的平原之类的各种环境中的数字图像，并且可以取决于数字图像中图示的情形来控制交通工具。因此，针对各种环境、情形、对象、上下文等对神经网络进行训练，从而使得经训练神经网络计算密集。然而，如果交通工具处于一个环境（例如城市）中，则交通工具不需要对神经网络在其他环境（例如荒芜的平原）中针对其进行训练的情形或对象做出反应。因此，例如在实时且安全关键型系统中，有必要提供一种模型，所述模型能够从用于特定环境的经训练神经网络生成具有低计算成本的压缩网络。在大型数据集上训练各种神经网络以执行多个任务，从而导致经训练神经网络的高计算成本。对于诸如实时应用或安全关键型应用的许多应用，可能有必要提供具有低计算成本的神经网络。此外，可能仅需要执行多个任务中的一些任务。因此，可能有必要从经本文档来自技高网...

【技术保护点】
1.一种计算机实现的模型从经训练神经网络生成压缩网络的方法，所述方法包括：/n• 模型的第一模型部分生成表示模型分量响应于相关联的第一训练数据对第一输出数据中的每个第一输出数据的影响的影响图，其中每个所生成的影响图针对每个模型分量包括在处理相应的第一训练数据方面的影响；/n• 使用每个所生成的影响图生成组合影响图；/n• 模型的第二模型部分从所述组合影响图生成压缩图；/n• 通过根据压缩图压缩经训练神经网络来生成压缩网络，其中生成压缩网络包括如果压缩图中的对应值满足预定义删除准则，则根据压缩图从经训练神经网络中删除网络分量；/n• 经训练神经网络响应于第二训练数据生成经训练网络输出数据；/n•...

【技术特征摘要】
20190919 EP 19198421.01.一种计算机实现的模型从经训练神经网络生成压缩网络的方法，所述方法包括：
•模型的第一模型部分生成表示模型分量响应于相关联的第一训练数据对第一输出数据中的每个第一输出数据的影响的影响图，其中每个所生成的影响图针对每个模型分量包括在处理相应的第一训练数据方面的影响；
•使用每个所生成的影响图生成组合影响图；
•模型的第二模型部分从所述组合影响图生成压缩图；
•通过根据压缩图压缩经训练神经网络来生成压缩网络，其中生成压缩网络包括如果压缩图中的对应值满足预定义删除准则，则根据压缩图从经训练神经网络中删除网络分量；
•经训练神经网络响应于第二训练数据生成经训练网络输出数据；
•压缩网络响应于第二训练数据生成压缩网络输出数据；
•通过将经训练网络输出数据与压缩网络输出数据进行比较来训练模型。


2.根据权利要求1所述的方法，其中训练模型包括通过将经训练网络输出数据与压缩网络输出数据进行比较来训练第一模型部分和/或训练第二模型部分。


3.根据权利要求1或2中任一项所述的方法，其中如果压缩图中的对应值低于预定义门限值，则满足预定义删除准则。


4.根据权利要求1至3中任一项所述的方法，其中训练模型包括训练模型以通过减少压缩图的每个值的总和来增加总压缩。


5.根据权利要求1至4中任一项所述的方法，其中第一输出数据由经训练神经网络针对第一训练数据...

【专利技术属性】
技术研发人员：J·皮特斯，E·胡格布姆，M·韦林，M·坎德米尔，K·S·M·巴尔西姆，
申请(专利权)人：罗伯特·博世有限公司，
类型：发明
国别省市：德国;DE