图像分类神经网络制造技术

本公开涉及图像分类神经网络。一种神经网络系统，包括子网络，该子网络包括第一子网络，该第一子网络包括多个第一模块，每个第一模块包括：直通卷积层，其处理子网络输入以生成直通输出；神经网络层的平均汇集堆栈，其处理所述第一子网络的所述子网络输入以生成平均汇集输出；卷积神经网络层的第一堆栈，其处理所述子网络输入以生成第一堆栈输出；卷积神经网络层的第二堆栈，其处理所述子网络输入以生成第二堆栈输出；以及级联层，其级联所生成的输出以生成第一模块输出。通过将模块子网络包括在深度神经网络中，所述深度神经网络可以更好地执行图像处理任务，并且可以更快且更有效地来训练，同时维持所述图像处理任务的改进性能。能。能。

【技术实现步骤摘要】
图像分类神经网络
[0001]分案说明
[0002]本申请属于申请日为2016年12月29日的中国专利技术专利申请201680084514.7的分案申请。
[0003]相关申请的交叉引用
[0004]本申请要求2016年2月18日提交的美国临时申请序列号62/297,101的优先权。在先申请的公开内容被认为是本申请的公开内容的一部分，并且通过引用并入本申请的公开内容中。


[0005]本说明书涉及使用深度神经网络(例如卷积神经网络)处理图像。

技术介绍

[0006]卷积神经网络通常包括至少两种神经网络层、卷积神经网络层和完全连接的神经网络层。卷积神经网络层具有稀疏连接性，其中卷积层中的每个节点仅从下一个最低神经网络层中的节点的子集接收输入。一些卷积神经网络层具有与层中的其他节点共用权重的节点。然而，完全连接层中的节点从下一个最低神经网络层中的每个节点接收输入。

技术实现思路

[0007]一般来讲，本说明书中描述的主题的一个创新方面可以体现在一种第一神经网络系统中，所述第一神经网络系统被配置来接收图像本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种神经网络系统，所述神经网络系统包括一个或多个计算机和存储指令的一个或多个存储设备，所述指令在由所述一个或多个计算机执行时，使所述一个或多个计算机实现神经网络，所述神经网络包括：剩余子网络，所述剩余子网络包括剩余模块，所述剩余模块包括：一组或多组卷积神经网络层，所述一组或多组卷积神经网络层中的每一组被配置来处理所述剩余子网络的子网络输入，以生成相应的组输出；滤波扩展层，所述滤波扩展层被配置来通过按比例放大所述组输出中的每一个的维度来生成扩展输出；以及求和层，所述求和层被配置来从所述剩余子网络的所述子网络输入和所述扩展输出生成求和输出。2.根据权利要求1所述的神经网络系统，其中，所述剩余模块还包括直通卷积层，所述直通卷积层被配置来处理所述子网络输入，以生成直通输出。3.根据权利要求2所述的神经网络系统，其中，所述滤波扩展层被配置来通过按比例放大所述组输出中的每一个和所述直通输出的维度来生成所述扩展输出。4.根据权利要求2所述的神经网络系统，其中，所述直通卷积层是1x1卷积层。5.根据权利要求2所述的神经网络系统，其中，所述滤波扩展层被配置来接收所述直通输出和所述组输出，并且将1x1卷积应用于所述直通输出和所述组输出，以生成所述扩展输出。6.根据权利要求1所述的神经网络系统，其中，所述求和层被配置来：对所述剩余子网络的所述子网络输入和所述扩展...

【专利技术属性】
技术研发人员：VO范霍克，C塞格迪，S伊奥弗，
申请(专利权)人：谷歌有限责任公司，
类型：发明
国别省市：