【技术实现步骤摘要】
深度神经网络的正确性保持优化
技术介绍
本专利技术整体涉及深度神经网络(DNN)，并且更具体地涉及一种DNN优化方法，该DNN优化方法通过神经元分析来消除神经元以降低受训DNN的计算能力和资源要求，同时平衡准确性要求。深度神经网络(DNN)可用于诸如自主车辆的车辆中，用于多个系统，诸如感知系统。车辆感知系统可允许车辆感测车辆在其所行驶的道路中的物体和障碍物。受训DNN可能需要大量计算能力和存储器。车辆可能没有无限的计算能力和存储器来专用于受训DNN。因此，希望提供一种方法来减少受训深度神经网络的计算资源和能力要求。此外，通过下文的本专利技术具体实施方式和所附权利要求书并结合附图和本专利技术的
技术介绍
，本专利技术的其它期望特征和特性将变得显而易见。
技术实现思路
提供一种用于减少车辆中使用的受训深度神经网络(DNN)中的神经元及其互连的数量的处理器实现的方法。该方法包括：识别并分类DNN的多个隐藏层中的层类型；使用数据验证集评估DNN的准确性；以及生成神经元的层特定排名，其中该生成包括：对多个隐藏层中的一个或多个层使用数...
【技术保护点】
1.一种用于减少车辆中使用的受训深度神经网络(DNN)中的神经元及其互连的数量的处理器实现的方法，所述方法包括：/n识别并分类所述DNN的多个隐藏层中的层类型；/n使用数据验证集评估所述DNN的准确性；/n生成神经元的层特定排名，所述生成包括：/n对所述多个隐藏层中的一个或多个层使用所述数据验证集来分析所分析的一个或多个层中的每个神经元的激活函数，以确定每个神经元的对应于所分析的激活函数的激活分数；以及/n基于层类型根据所述神经元的激活分数对所分析的一个或多个层中的每个神经元进行排名，以生成神经元的层特定排名，所述排名包括生成每个神经元的归一化神经元激活输出分数并基于其归一...
【技术特征摘要】
20181220 US 16/2271951.一种用于减少车辆中使用的受训深度神经网络(DNN)中的神经元及其互连的数量的处理器实现的方法，所述方法包括：
识别并分类所述DNN的多个隐藏层中的层类型；
使用数据验证集评估所述DNN的准确性；
生成神经元的层特定排名，所述生成包括：
对所述多个隐藏层中的一个或多个层使用所述数据验证集来分析所分析的一个或多个层中的每个神经元的激活函数，以确定每个神经元的对应于所分析的激活函数的激活分数；以及
基于层类型根据所述神经元的激活分数对所分析的一个或多个层中的每个神经元进行排名，以生成神经元的层特定排名，所述排名包括生成每个神经元的归一化神经元激活输出分数并基于其归一化激活输出分数对层中的所述神经元进行排名；
从所述DNN中选择特定类型的多个较低排名神经元以供移除，所述移除在移除所选的较低排名神经元之后不导致所述DNN落在准确性阈值限值之外；以及
从所述DNN中移除所选的供移除的所述神经元；
其中移除了神经元的所述DNN被配置成用于在车辆中执行感知任务。
2.根据权利要求1所述的方法，其中从所述DNN中选择多个较低排名神经元以供移除包括迭代地分析并从所述DNN中选择较低排名神经元以供移除，直至达到迭代阈值。
3.根据权利要求2所述的方法，其中从所述DNN中迭代地选择较低排名神经元以供移除包括：
指定所述较低排名神经元中的一些以供移除；
将移除了指定供移除的所述较低排名神经元的较新DNN的准确性与没有移除神经元的DNN的准确性进行比较；
当所述较新DNN的准确性不在准确性阈值限值内时，如果未达到迭代限值，则执行所述选择的另一迭代同时指定更少的神经元以供移除，或者如果达到所述迭代限值，则从所述最后一次先前迭代中选择移除所述指定供移除的神经元，其中所述较新DNN的准确性在准确性阈值限值内；并且
当所述较新DNN的准确性在准确性阈值限值内时，如果未达到迭代限值，则执行所述选择的另一迭代同时指定更多的神经元以供移除，或者如果达到所述迭代限值，则在所述当前迭代中选择移除所述指定供移除的神经元。
4.根据权利要求3所述的方法，其中评估所述DNN的准确性包括将所述数据验证集应用于所述DNN的输入并确定所述DNN的输出处的预测准确性。
5.根据权利要...
【专利技术属性】
技术研发人员：P·M·帕拉兰达，R·塞特胡，A·罗狄欧诺娃，
申请(专利权)人：通用汽车环球科技运作有限责任公司，
类型：发明
国别省市：美国;US
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。