信息处理设备、处理信息的方法和计算机可读记录介质技术

提供了信息处理设备、处理信息的方法和计算机可读记录介质。信息处理设备包括：量化单元，其被配置成量化在神经网络中使用的变量中的至少一个变量；噪声添加单元，其被配置成向变量中的至少一个变量中的每个变量添加噪声；以及学习单元，其被配置成通过使用已经添加了预定噪声的经量化的变量中的至少一个经量化的变量来执行神经网络。

【技术实现步骤摘要】
信息处理设备、处理信息的方法和计算机可读记录介质
本文讨论的实施方式涉及信息处理设备、用于处理信息的方法和计算机可读记录介质。
技术介绍
在相关技术中，已知一种将在神经网络(NN)中使用的各种变量(权重参数、梯度信息、差值等)量化为固定的十进制值的方法，作为用于减少NN的执行时间的方法。相关技术在例如日本公开特许公报第2018-120441号中公开。
技术实现思路
[技术问题]然而，当通过量化各种变量来执行NN时，存在与不量化各种变量的情况下执行NN的情况相比准确度劣化的问题。实施方式的一方面的目的是抑制在通过量化神经网络中使用的变量来执行该神经网络的情况下的准确度的劣化。[问题的解决方案]根据实施方式的一方面，一种信息处理装置包括：量化单元，其被配置成量化在神经网络中使用的变量中的至少一个变量；噪声添加单元，其被配置成向变量中的至少一个变量中的每个变量添加预定噪声；以及学习单元，其被配置成通过使用已经添加了预定噪声的经量化的变量中的至少一个经量化的变量来执行神经网络。本文档来自技高网...

【技术保护点】
1.一种信息处理设备，包括：/n量化单元，其被配置成量化在神经网络中使用的变量中的至少一个变量；/n噪声添加单元，其被配置成向所述变量中的至少一个变量中的每个变量添加预定噪声；以及/n学习单元，其被配置成通过使用已经添加了所述预定噪声的经量化的变量中的至少一个经量化的变量来执行所述神经网络。/n

【技术特征摘要】
20190917 JP 2019-1680781.一种信息处理设备，包括：
量化单元，其被配置成量化在神经网络中使用的变量中的至少一个变量；
噪声添加单元，其被配置成向所述变量中的至少一个变量中的每个变量添加预定噪声；以及
学习单元，其被配置成通过使用已经添加了所述预定噪声的经量化的变量中的至少一个经量化的变量来执行所述神经网络。


2.根据权利要求1所述的信息处理设备，
其中，在所述量化中被量化的变量中的至少一个变量包括在学习期间后向传播的差值、在学习期间通过后向传播所述差值计算的梯度信息以及在学习或推断期间用于输入数据的计算的权重参数中的至少一个。


3.根据权利要求2所述的信息处理设备，
其中，所述噪声添加单元包括在所述添加中向所述经量化的变量添加其表示噪声的每个值的出现频率的直方图具有预定概率分布的噪声。


4.根据权利要求3所述的信息处理设备，
其中，所述学习单元包括：在所述量化中对在学习期间通过后向传播所述差值计算的所述梯度信息进行量化并且在所述添加中向经量化的梯度...

【专利技术属性】
技术研发人员：坂井靖文，
申请(专利权)人：富士通株式会社，
类型：发明
国别省市：日本;JP