【技术实现步骤摘要】
用于利用人工神经网络进行操控的设备和计算机实现的方法
本专利技术以用于利用人工神经网络进行操控的设备和计算机实现的方法为出发点。信息存储在人工神经网络中,通过所述信息可以将例如传感器的输入参量映射到用于操控的输出参量。
技术介绍
激活函数(Aktivierungsfunktionen)是深度人工神经网络的重要组成部分。在特定的架构中并且尤其是在人工神经网络的循环架构中,这些激活函数导致爆发的或消失的激活。就此而论,爆发的或消失的激活意味着神经网络的各个单元、即神经元的状态采用以下数值,所述数值一方面在网络训练期间以及另一方面在神经网的推理(Inferenz)期间、也即在应用阶段中导致神经网络的数字不稳定特性。在训练期间,数字爆发的或消失的激活导致梯度方法的数字不稳定梯度,所述梯度方法被用于确定人工神经网络的参数。在训练期间,这些爆发的或消失的梯度可能导致模型、即存储在人工神经网络中的参数不再被学习。从而存储在人工神经网络中的信息变得不可用。结果可能是不期望的操控。此外,爆发的或消失的激活在操控时、即在推理阶段中本身可能导致系 ...
【技术保护点】
1.一种用于利用人工神经网络运行图像分类器的计算机实现的方法,其特征在于,确定所述人工神经网络的输出参量(608),其中所述输出参量根据用于所述人工神经网络的输入数据并且根据所述人工神经网络的激活函数被确定(606)并且表征所述输入数据的分类,其中所述激活函数是至少逐段地连续可导的并且是单调递增的,其中所述激活函数具有至少三个固定点,其中所述激活函数的固定点的数目或者是有限的和奇数的或者是可数的和离散的,并且其中所述激活函数的导数在相邻固定点之间的区域中是交替地单调递增和单调递减的。/n
【技术特征摘要】
20190426 DE 102019206046.3;20200408 DE 102020204541.一种用于利用人工神经网络运行图像分类器的计算机实现的方法,其特征在于,确定所述人工神经网络的输出参量(608),其中所述输出参量根据用于所述人工神经网络的输入数据并且根据所述人工神经网络的激活函数被确定(606)并且表征所述输入数据的分类,其中所述激活函数是至少逐段地连续可导的并且是单调递增的,其中所述激活函数具有至少三个固定点,其中所述激活函数的固定点的数目或者是有限的和奇数的或者是可数的和离散的,并且其中所述激活函数的导数在相邻固定点之间的区域中是交替地单调递增和单调递减的。
2.根据权利要求1所述的方法,其特征在于,所述激活函数的导数对于小于定义集的最小值的、所述激活函数的定义集的值小于1,对于所述最小值定义所述激活函数的一个固定点,或者所述激活函数的导数对于大于所述定义集的最大值的、所述激活函数的定义集的值小于1,对于所述最大值定义所述激活函数的一个固定点。
3.根据权利要求1或2所述的方法,其特征在于,所述导数尤其是在对其不定义激活函数的固定点的定义集的值的范围中大于零。
4.根据前述权利要求中任一项所述的方法,其特征在于,所述激活函数的值集通过在下限值和上限值之间的数字范围定义,尤其是通过从零包括零在内到一包括一在内的数字范围定义。
5.根据前述权利要求中任一项所述的方法,其特征在于,所述激活函数是连续可导的。
...
【专利技术属性】
技术研发人员:V菲舍尔,
申请(专利权)人:罗伯特·博世有限公司,
类型:发明
国别省市:德国;DE
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。