学习系统、学习装置、学习方法、学习程序、训练数据生成装置、训练数据生成方法、训练数据生成程序、终端装置以及阈值变更装置制造方法及图纸

技术编号:18580643 阅读:69 留言:0更新日期:2018-08-01 14:49
学习系统具有学习装置和学习装置用的训练数据生成装置。学习装置通过误差反向传播法学习神经网络。训练数据生成装置对于输入数据,按照每个标签取得表示输入数据的内容与标签一致的正评价、表示输入数据的内容与标签不一致的负评价和表示从学习对象标签中排除的无视评价中的任意一个,生成训练数据。学习装置在对学习用的神经网络进行学习时,调整中间层的权重系数以使正评价或者负评价的标签的识别得分与正评价或者负评价的真实得分接近,并且使得无视评价的标签的识别得分不会影响到中间层的权重系数的调整。

Learning system, learning device, learning method, learning program, training data generating device, training data generation method, training data generating program, terminal device, and threshold change device.

The learning system has training data generator for learning devices and learning devices. Learning devices learn neural networks through error backpropagation. For the input data, the training data generating device generates training data by obtaining the positive evaluation of the content of the input data and the label in accordance with each label, the negative evaluation of the inconsistency between the content of the input data and the label, and representing any of the ignored evaluations excluded from the learning object label. When learning the neural network for learning, the learning device adjusts the weight coefficient of the middle layer to make the recognition score of the positive evaluation or negative evaluation close to the true score of the positive evaluation or negative evaluation, and the recognition score of the label of the disregard of the evaluation does not affect the adjustment of the weight coefficient of the middle layer.

【技术实现步骤摘要】
【国外来华专利技术】学习系统、学习装置、学习方法、学习程序、训练数据生成装置、训练数据生成方法、训练数据生成程序、终端装置以及阈值变更装置
本公开涉及学习系统、学习装置、学习方法、学习程序、训练数据生成装置、训练数据生成方法、训练数据生成程序、终端装置以及阈值变更装置。
技术介绍
在专利文献1中记载了通过误差反向传播法学习使用多个标签来对识别对象数据进行分类的神经网络的装置。该神经网络具有输入层、多个中间层(隐藏层)和输出层。输入层具有多个人工神经元。中间层分别具有多个人工神经元。输出层具有与标签的数量相同数量的人工神经元。学习装置使用训练数据来学习神经网络,该训练数据包含输入数据和标签的评价。标签的评价中具有表示数据的内容与标签一致的“正评价”、及表示数据的内容与标签不一致的“负评价”。正评价或者负评价与“0”、“1”等数值(真实得分)相关联,这些数值也称作真实值(GroundTruth)。学习装置在输入层取得输入数据,在中间层进行运算,以使从输出层输出的识别得分与评价的真实得分接近的方式,调整中间层的运算参数。但是,在神经网络的标签的赋予方法(分类方法)中存在仅将从多个标签中选择的1个标签赋予给识别本文档来自技高网...

【技术保护点】
1.一种学习系统,其具有:学习装置,该学习装置通过误差反向传播法来学习神经网络,该神经网络使用多个标签来对识别对象数据进行分类;以及训练数据生成装置,该训练数据生成装置生成所述学习装置用的训练数据,其中,所述训练数据生成装置具有:输入数据取得部,其取得输入数据;评价取得部,其对于由所述输入数据取得部取得的所述输入数据,按照每个标签取得表示所述输入数据的内容与标签一致的正评价、表示所述输入数据的内容与标签不一致的负评价和表示从学习对象标签中排除的无视评价中的任意一个;以及训练数据生成部,其通过将由所述输入数据取得部取得的所述输入数据与由所述评价取得部取得的每个标签的评价关联起来,生成所述训练数据...

【技术特征摘要】
【国外来华专利技术】2015.10.30 JP 2015-215057;2016.07.19 JP 2016-141551.一种学习系统,其具有:学习装置,该学习装置通过误差反向传播法来学习神经网络,该神经网络使用多个标签来对识别对象数据进行分类;以及训练数据生成装置,该训练数据生成装置生成所述学习装置用的训练数据,其中,所述训练数据生成装置具有:输入数据取得部,其取得输入数据;评价取得部,其对于由所述输入数据取得部取得的所述输入数据,按照每个标签取得表示所述输入数据的内容与标签一致的正评价、表示所述输入数据的内容与标签不一致的负评价和表示从学习对象标签中排除的无视评价中的任意一个;以及训练数据生成部,其通过将由所述输入数据取得部取得的所述输入数据与由所述评价取得部取得的每个标签的评价关联起来,生成所述训练数据,所述学习装置具有:训练数据取得部,其取得由所述训练数据生成装置生成的所述训练数据;输入层,其取得由所述训练数据取得部取得的所述训练数据中包含的所述输入数据作为得分;中间层,其使用权重系数对所述输入层取得的得分进行运算;输出层,其使用所述中间层运算出的得分来输出每个标签的识别得分;以及误差反向传播部,其使用所述输出层输出的每个标签的识别得分和每个标签的评价的真实得分来调整所述中间层的权重系数,所述误差反向传播部调整所述中间层的权重系数以使正评价或者负评价的标签的识别得分与正评价或者负评价的真实得分接近,并且使得无视评价的标签的识别得分不会影响到所述中间层的权重系数的调整。2.根据权利要求1所述的学习系统,其中,所述误差反向传播部将无视评价的真实得分设定为与无视评价的标签的识别得分相同的值,将无视评价的真实得分与无视评价的标签的识别得分之间的差分变更为0,或者,将无视评价的真实得分与无视评价的标签的识别得分之间的差分的微分值变更为0。3.根据权利要求1所述的学习系统,其中,所述误差反向传播部切断与无视评价的标签相关的所述神经网络的连接。4.根据权利要求1~3中的任意一项所述的学习系统,其中,所述训练数据生成部将无法由所述评价取得部取得评价的标签与无视评价关联起来。5.根据权利要求1~4中的任意一项所述的学习系统,其中,所述训练数据生成装置具有受理部,该受理部受理指定标签的评价的用户操作,所述评价取得部取得通过由所述受理部受理的所述用户操作而指定的标签的评价。6.根据权利要求5所述的学习系统,其中,所述受理部受理指定所述输入数据的一部分标签的评价的所述用户操作,所述训练数据生成部将由所述评价取得部取得的一部分标签的评价与由所述输入数据取得部取得的所述输入数据关联起来,并且使所述输入数据的剩余标签的评价成为无视评价。7.根据权利要求1~6中的任意一项所述的学习系统,其中,所述训练数据生成部在将由所述评价取得部取得的标签的评价与由所述输入数据取得部取得的所述输入数据关联起来之前,使所述输入数据的全部标签的评价成为无视评价。8.一种学习装置,其通过误差反向传播法来学习神经网络,该神经网络使用多个标签来对识别对象数据进行分类,该学习装置具有:训练数据取得部,其取得训练数据,该训练数据包含输入数据和与所述输入数据预先关联的每个标签的评价;输入层,其取得由所述训练数据取得部取得的所述训练数据中包含的所述输入数据作为得分;中间层,其使用权重系数对所述输入层取得的得分进行运算;输出层,其使用所述中间层运算出的得分来输出每个标签的识别得分;以及误差反向传播部,其使用所述输出层输出的每个标签的识别得分和每个标签的评价的真实得分,来调整所述中间层的权重系数,对于所述输入数据,按照每个标签关联了表示所述输入数据的内容与标签一致的正评价、表示所述输入数据的内容与标签不一致的负评价和表示从学习对象标签中排除的无视评价中的任意一个,所述误差反向传播部调整所述中间层的权重系数以使正评价或者负评价的标签的识别得分与正评价或者负评价的真实得分接近,并且使得无视评价的标签的识别得分不会影响到所述中间层的权重系数的调整。9.一种训练数据生成装置,其生成学习装置用的训练数据,该学习装置通过误差反向传播法来学习神经网络,该神经网络使用多个标签来对识别对象数据进行分类,该训练数据生成装置具有:输入数据取得部,其取得输入数据;评价取得部,其对于由所述输入数据取得部取得的所述输入数据,按照每个标签取得表示所述输入数据的内容与标签一致的正评价、表示所述输入数据的内容与标签不一致的负评价和表示从学习对象标签中排除的无视评价中的任意一个;以及训练数据生成部,其通过将由所述输入数据取得部取得的所述输入数据与由所述评价取得部取得的每个标签的评价关联起来,生成所述训练数据。10.一种学习方法,通过误差反向传播法来学习神经网络,该神经网络使用多个标签对识别对象数据进行分类,该学习方法包括:训练数据取得步骤,取得训练数据,该训练数据包含输入数据和与所述输入数据预先关联的每个标签的评价;输入步骤,在该输入步骤中,输入层取得在所述训练数据取得步骤中取得的所述训练数据中包含的所述输入数据作为得分;运算步骤,在该运算步骤中,中间层使用权重系数对在所述输入步骤中取得的得分进行运算;输出步骤,在该输出步骤中,输出层使用在所述运算步骤中运算出的得分来输出每个标签的识别得分;以及误差反向传播步骤,使用在所述输出步骤中输出的每个标签的识别得分和每个标签的评价的真实得分来调整所述中间层的权重系数,对于所述输入数据,按照每个标签关联了表示所述输入数据的内容与标签一致的正评价、表示所述输入数据的内容与标签不一致的负评价和表示从学习对象标签中排除的无视评价中的任意一个,在所述误差反向传播步骤中,调整所述中间层的权重系数以使正评价或者负评价的标签的识别得分与正评价或者负评价的真实得分接近,并且使得无视评价的标签的识别得分不会影响到所述中间层的权重系数的调整。11.一种训练数据生成方法,生成学习装置用的训练数据,该学习装置通过误差反向传播法来学习神经网络,该神经网络使用多个标签来对识别对象数据进行分类,该训练数据生成方法包括:输入数据取得步骤,取得输入数据;评价取得步骤,对于在所述输入数据取得步骤中取得的所述输入数据,按照每个标签取得表示所述输入数据的内容与标签一致的正评价、表示所述输入数据的内容与标签不一致的负评价和表示从学习对象标签中排除的无视评价中的任意一个;以及训练数据生成步骤,通过将在所述输入数据取得步骤中取得的所述输入数据与在所述评价取得步骤中取得的每个标签的评价关联起来,生成所述训练数据。12.一种学习...

【专利技术属性】
技术研发人员:黑田康浩平贺督基大熊显至小林理弘小山紘史
申请(专利权)人:株式会社摩如富
类型:发明
国别省市:日本,JP

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1