【技术实现步骤摘要】
【国外来华专利技术】在不同的深度学习架构之间的知识转移本专利技术涉及一种用于将第一神经网络转换到第二神经网络的方法。此外,本专利技术还涉及一种用于执行所述转换的控制装置,一种带有所述控制装置的交通工具,程序单元和计算机可读媒介。在当前的汽车中,基于摄像装置的驾驶员辅助系统为提高道路交通的安全性做出了重要贡献。这类系统的目标是对对象、车道和周围环境场景进行稳定可靠的识别和分类。在此,基于深度学习原理的计算机视觉和机器学习架构为稳定可靠地识别特征和对象做出了重要贡献。正是在改善对象识别方面,过去已形成了诸如残差网络(ResNet)等极为有效和功能强劲的神经网络,其特征是对象识别率高。这些神经网络具有很大的深度,并使用具有数百万数据的大数据集进行训练。借助极大数量的数据,对大型的,也包括较小的扁平网络进行训练计算工作量很大,也极为耗时,可能需要长达数周或数月的时间。但是,恰恰在具有传感器平台和嵌入式系统的汽车应用的成本敏感领域,只有有限的、籍此可基于深度学习方法和预训练神经网络实现对象识别的硬件和运行时间资源可供使用。因此,资源可用性低要求使用具有相应架构的小型高效神经网络, ...
【技术保护点】
1.一种方法,该方法用于将具有第一架构的第一神经网络转换到用于交通工具控制装置中的、具有第二架构的第二神经网络,以获取第一神经网络的知识并将其传输到第二神经网络,所述方法包括以下步骤:/n-将第一神经网络的至少一个层转换到第二神经网络的至少一个层(701);/n-在第二神经网络架构中随机初始化至少一个经转换的层(702);/n-在第二神经网络中训练至少一个经转换的层(703),同时对第二神经网络中未经转换的层或整个第二神经网络进行微调(704);/n其中,在多个过程中将第一神经网络转换到第二神经网络,在每个过程中都执行下列步骤:转换(701)、随机初始化(702)、训练(7 ...
【技术特征摘要】
【国外来华专利技术】20170630 DE 102017211199.2;20170801 DE 102017213241.一种方法,该方法用于将具有第一架构的第一神经网络转换到用于交通工具控制装置中的、具有第二架构的第二神经网络,以获取第一神经网络的知识并将其传输到第二神经网络,所述方法包括以下步骤:
-将第一神经网络的至少一个层转换到第二神经网络的至少一个层(701);
-在第二神经网络架构中随机初始化至少一个经转换的层(702);
-在第二神经网络中训练至少一个经转换的层(703),同时对第二神经网络中未经转换的层或整个第二神经网络进行微调(704);
其中,在多个过程中将第一神经网络转换到第二神经网络,在每个过程中都执行下列步骤:转换(701)、随机初始化(702)、训练(703)和同时进行微调(704)。
2.根据权利要求1所述的方法,
其中,第一神经网络的第一架构不同于第二神经网络的第二架构。
3.根据上述权利要求中任一项权利要求所述的方法,其还具有下列步骤:
-将第一神经网络的至少一个层无变化地传输到第二神经网络。
4.根据上述权利要求中任一项权利要求所述的方法,
其中,转换步骤包括将第一神经网络的至少两个层转换到第二神经网络一个层。
5.根据权利要求1至3中任一项权利要求所述的方法,
其中,转换步骤包括将第一神经网络的一个层转换到第二神经网络的至少个两层。
6.根据上述权利要求中任一项权利要求所述的方法,
其中,转换步骤仅包括将第一神经网络的输入层转换到第二神经网络,其中,所述方法规定,第一神经网络的其余层无变化地传输到第二神经网络中。
7.根据上述权利要求中任一项权利要求所述的方法,
其中,所述方法规定,针对运行的硬件对第二神经网络的第二架构进行优化或压缩。
...
【专利技术属性】
技术研发人员:M·卡格,C·斯查芬贝格,
申请(专利权)人:康蒂特米克微电子有限公司,
类型:发明
国别省市:德国;DE
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。