数据处理系统和数据处理方法技术方案

数据处理系统(100)具有处理器，该处理器执行按照神经网络的处理。神经网络根据通过对学习数据执行按照神经网络的处理而输出的输出数据与针对学习数据的理想的输出数据的比较，使最优化对象参数最优化。处理器在第M(M为1以上的整数)中间层中，对表示向第M中间层输入的输入数据的中间数据应用包含卷积运算的运算，由此输出平面尺寸与该中间数据相等的特征图，该卷积运算使用了由最优化对象参数构成的卷积核，处理器对输入到第M中间层的中间数据与通过将该中间数据输入到第M中间层而输出的特征图中的对应的坐标彼此进行乘法运算，在第(M+1)中间层的处理中，对通过执行乘法运算而输出的中间数据执行池化处理。

【技术实现步骤摘要】
【国外来华专利技术】数据处理系统和数据处理方法
本专利技术涉及数据处理技术，特别涉及使用了学习到的深度神经网络的数据处理技术。
技术介绍
卷积神经网络(CNN：ConvolutionalNeuralNetwork)是包含1个以上的非线性单元的数学模型，并且是预测与输入对应的输出的机器学习模型。许多卷积神经网络除了具有输入层和输出层之外，还具有1个以上的中间层(隐藏层)。各中间层的输出成为下一层(中间层或输出层)的输入。卷积神经网络的各层根据输入和自身的参数而生成输出。现有技术文献非专利文献非专利文献1：AlexKrizhevsky、IlyaSutskever、GeoffreyE.Hinton、“ImageNetClassificationwithDeepConvolutionalNeuralNetworks”、NIPS2012_4824
技术实现思路
专利技术要解决的课题卷积神经网络通常包含进行平面方向的缩小的池化处理。本专利技术人通过积极深入的研究，学习出一种网络，在该网络中，利用一贯性学习的优点以适当的方法根据输入进行平面方向的缩小，由此更有效地利用输入到池化处理中的数据，其结果，认识到为对未知数据的预测精度提高。因此，本专利技术是鉴于这样的情况而完成的，其目的在于提供能够提高对未知数据的预测精度的技术。用于解决课题的手段为了解决上述课题，本专利技术的某一方式的数据处理系统具有处理器，该处理器执行按照包含输入层、1个以上的中间层以及输出层在内的神经网络的处理。基于通过对学习数据执行处理而输出的输出数据与针对学习数据的理想的输出数据的比较，神经网络的最优化对象参数被最优化，处理器进行如下处理：在第M(M为1以上的整数)中间层中，对表示向第M中间层输入的输入数据的中间数据应用包含卷积运算的运算，由此输出平面尺寸与该中间数据相等的特征图，该卷积运算使用了由最优化对象参数构成的卷积核；对输入到第M中间层的中间数据与通过将该中间数据输入到第M中间层而输出的特征图中的对应的坐标彼此进行乘法运算；以及在第(M+1)中间层中，对通过执行乘法运算而输出的中间数据执行池化处理。另外，本专利技术的另一方式也是一种数据处理系统。该数据处理系统具有：处理器，其执行按照包含输入层、1个以上的中间层以及输出层在内的神经网络的处理；以及学习部，其基于通过神经网络处理部对学习数据执行处理而输出的输出数据与针对学习数据的理想的输出数据的比较，使神经网络的最优化对象参数最优化，由此使神经网络进行学习。处理器在学习中，进行如下处理：在第M(M为1以上的整数)中间层中，对表示向第M中间层输入的输入数据的中间数据应用包含卷积运算的运算，由此输出平面尺寸与该中间数据相等的特征图，该卷积运算使用了由最优化对象参数构成的卷积核；对输入到第M中间层的中间数据与通过将该中间数据输入到第M中间层而输出的特征图中的对应的坐标彼此进行乘法运算；以及在第(M+1)中间层中，对通过执行乘法运算而输出的中间数据执行池化处理。本专利技术的又一方式是一种数据处理方法。在该方法中，执行按照包含输入层、1个以上的中间层以及输出层在内的神经网络的处理。基于通过对学习数据执行处理而输出的输出数据与针对学习数据的理想的输出数据的比较，神经网络的最优化对象参数被最优化，在按照神经网络的处理中，进行如下处理：在第M(M为1以上的整数)中间层中，对表示向第M中间层输入的输入数据的中间数据应用包含卷积运算的运算，由此输出平面尺寸与该中间数据相等的特征图，该卷积运算使用了由最优化对象参数构成的卷积核；对输入到第M中间层的中间数据与通过将该中间数据输入到第M中间层而输出的特征图中的对应的坐标彼此进行乘法运算；以及在第(M+1)中间层中，对通过执行乘法运算而输出的中间数据执行池化处理。另外，本专利技术的又一方式也是一种数据处理方法。该方法具有如下步骤：通过对学习数据执行按照包含输入层、1个以上的中间层以及输出层在内的神经网络的处理，输出与学习数据对应的输出数据；以及基于与学习数据对应的输出数据与针对学习数据的理想的输出数据的比较，使神经网络的最优化对象参数最优化。在使最优化对象参数最优化的步骤中，进行如下处理：在第M(M为1以上的整数)中间层中，对表示向第M中间层输入的输入数据的中间数据应用包含卷积运算的运算，由此输出平面尺寸与该中间数据相等的特征图，该卷积运算使用了由最优化对象参数构成的卷积核；对输入到第M中间层的中间数据与通过将该中间数据输入到第M中间层而输出的特征图中的对应的坐标彼此进行乘法运算；以及在第(M+1)中间层中，对通过执行乘法运算而输出的中间数据执行池化处理。另外，以上构成要素的任意组合、以及在方法、装置、系统、记录介质、计算机程序等之间转换本专利技术的表现而得到的方式，作为本专利技术的方式也是有效的。专利技术效果根据本专利技术，能够提高对未知数据的预测精度。附图说明图1是示出实施方式的数据处理系统的功能和结构的框图。图2是示意性地示出神经网络的结构的一例的图。图3是示出数据处理系统进行的学习处理的流程图的图。图4是示出数据处理系统进行的应用处理的流程图的图。具体实施方式以下，基于优选的实施方式参照附图对本专利技术进行说明。以下，以将数据处理装置应用于图像处理的情况为例进行说明，但本领域技术人员可以理解，也可以将数据处理装置应用于语音识别处理、自然语言处理及其他处理。图1是示出实施方式的数据处理系统100的功能和结构的框图。这里所示的各块在硬件上可以由以计算机的CPU(centralprocessingunit：中央处理单元)为代表的元件或机械装置来实现，在软件上可以通过计算机程序等来实现，这里，描述了通过它们的协作而实现的功能块。因此，本领域技术人员能够理解，这些功能块可以通过硬件、软件的组合以各种形式实现。数据处理系统100执行根据学习用的图像(学习数据)和正解值进行神经网络的学习的“学习处理”；和将学习完毕的神经网络应用于未知的图像(未知数据)，进行图像分类、物体检测或图像分割等图像处理的“应用处理”，正解值是针对该图像的理想的输出数据。在学习处理中，数据处理系统100对学习用的图像执行按照神经网络的处理，并输出针对学习用的图像的输出数据。然后，数据处理系统100向输出数据接近正解值的方向更新神经网络的最优化(学习)对象的参数(以下称为“最优化对象参数”)。通过反复进行该过程，使最优化对象参数最优化。在应用处理中，数据处理系统100使用了在学习处理中被最优化的最优化对象参数，对未知的图像执行按照神经网络的处理，并输出针对该图像的输出数据。数据处理系统100对输出数据进行解释，对图像进行图像分类、或者根据图像进行物体检测、或者对图像进行图像分割。数据处理系统100具有获取部110、存储部120、神经网络处理部130、学习部140以及解释部150。主要通过神经网络处理部130和学习部140来实现学习处理的功能，主要通过神经网络处理部130和解释部1本文档来自技高网...

【技术保护点】
1.一种数据处理系统，其特征在于，/n该数据处理系统具有处理器，该处理器执行按照包含输入层、1个以上的中间层以及输出层在内的神经网络的处理，/n基于通过对学习数据执行所述处理而输出的输出数据与针对所述学习数据的理想的输出数据的比较，所述神经网络的最优化对象参数被最优化，/n所述处理器进行如下处理：/n在第M中间层中，对表示向第M中间层输入的输入数据的中间数据应用包含卷积运算的运算，由此输出平面尺寸与该中间数据相等的特征图，其中，该卷积运算使用了由最优化对象参数构成的卷积核，M为1以上的整数；/n对输入到第M中间层的中间数据与通过将该中间数据输入到第M中间层而输出的特征图中的对应的坐标彼此进行乘法运算；以及/n在第(M+1)中间层中，对通过执行所述乘法运算而输出的中间数据执行池化处理。/n

【技术特征摘要】
【国外来华专利技术】1.一种数据处理系统，其特征在于，
该数据处理系统具有处理器，该处理器执行按照包含输入层、1个以上的中间层以及输出层在内的神经网络的处理，
基于通过对学习数据执行所述处理而输出的输出数据与针对所述学习数据的理想的输出数据的比较，所述神经网络的最优化对象参数被最优化，
所述处理器进行如下处理：
在第M中间层中，对表示向第M中间层输入的输入数据的中间数据应用包含卷积运算的运算，由此输出平面尺寸与该中间数据相等的特征图，其中，该卷积运算使用了由最优化对象参数构成的卷积核，M为1以上的整数；
对输入到第M中间层的中间数据与通过将该中间数据输入到第M中间层而输出的特征图中的对应的坐标彼此进行乘法运算；以及
在第(M+1)中间层中，对通过执行所述乘法运算而输出的中间数据执行池化处理。


2.一种数据处理系统，其特征在于，
该数据处理系统具有：
处理器，其执行按照包含输入层、1个以上的中间层以及输出层在内的神经网络的处理；以及
学习部，其基于通过所述神经网络处理部对学习数据执行所述处理而输出的输出数据与针对所述学习数据的理想的输出数据的比较，使所述神经网络的最优化对象参数最优化，由此使所述神经网络进行学习，
所述处理器在所述学习中，进行如下处理：
在第M中间层中，对表示向第M中间层输入的输入数据的中间数据应用包含卷积运算的运算，由此输出平面尺寸与该中间数据相等的特征图，其中，该卷积运算使用了由最优化对象参数构成的卷积核，M为1以上的整数；
对输入到第M中间层的中间数据与通过将该中间数据输入到第M中间层而输出的特征图中的对应的坐标彼此进行乘法运算；以及
在第(M+1)中间层中，对通过执行所述乘法运算而输出的中间数据执行池化处理。


3.根据权利要求1或2所述的数据处理系统，其特征在于，
所述卷积核的与特征方向垂直的维度的尺寸大于1。


4.根据权利要求1至3中的任意一项所述的数据处理系统，其特征在于，
所述处理器输出特征方向的维度为1的特征图。


5.根据权利要求1至3中的任意一项所述的数据处理系统，其特征在于，
所述处理器进行对实数值输出0以上且1以下的实数值的运算。


6.根据权...

【专利技术属性】
技术研发人员：矢口阳一，
申请(专利权)人：奥林巴斯株式会社，
类型：发明
国别省市：日本;JP