用于定制神经网络的系统和方法技术方案

本文中提供一种系统，在一些实施例中，所述系统包含配置成从客户端应用程序接收用户特定的目标信息以用于训练神经形态集成电路上的神经网络的一个或多个服务器和一个或多个数据库服务器。所述一个或多个数据库服务器配置成合并所述用户特定的目标信息与现有目标信息以在所述一个或多个数据库中形成合并的目标信息。所述系统进一步包含训练集构建器和训练器。所述训练集构建器配置成构建训练集以用于根据所述合并的目标信息来训练所述神经网络的基于软件的版本。所述训练器配置成用所述训练集训练所述神经网络的所述基于软件的版本以确定所述神经形态集成电路上的所述神经网络的一组突触权重。

System and method for customizing neural network

【技术实现步骤摘要】
【国外来华专利技术】用于定制神经网络的系统和方法优先权本申请要求标题为“用于定制神经网络的系统和方法(SYSTEMSANDMETHODSFORCUSTOMIZINGNEURALNETWORKS)”的2018年10月18日提交的美国专利申请第16/164,671号和2017年10月19日提交的美国临时专利申请第62/574,650号的优先权，所述申请以全文引用的方式并入本申请中。
本公开的实施例涉及神经形态计算领域。更具体来说，本公开的实施例涉及用于定制神经形态集成电路的神经网络的系统和方法。
技术介绍
在计算机科学中，机器学习是涉及为机器提供从数据学习且基于这些数据做出预测的能力的人工智能(“AI”)的规范。机器学习的一个分支包含例如深度学习，其利用深度或多层神经网络来从数据学习且基于这些数据做出预测。机器学习对于众多应用变得常见，所述应用包含生物信息学、计算机视觉、视频游戏、营销、医学诊断、在线搜索引擎和其它机器学习应用；然而，基于“计时”来处理指令的常规中央处理单元(“CPU”)不能够在保持低功耗的同时处理机器学习应用所需的数据。存在研发旨在保持低功耗的深度神经网络的直接硬件实施方案的研究努力，但现有研究努力仍不足以在保持足够低的功耗以供日常使用(例如独立电池供电装置)的同时提供机器学习应用的必需处理功率——尤其是针对新应用和现有应用中的新情况的定制处理能力。本文中所公开的是用于定制具有针对新应用和现有应用中的新情况的定制处理能力的神经网络的系统和方法。
技术实现思路
本文中提供一种用于定制神经网络的系统，在一些实施例中，所述系统包含一个或多个服务器和一个或多个数据库服务器。所述一个或多个服务器配置成从客户端应用程序接收用户特定的目标信息以用于训练神经形态集成电路上的神经网络。所述一个或多个数据库服务器配置成从所述一个或多个服务器接收所述用户特定的目标信息且在一个或多个数据库中合并所述用户特定的目标信息。所述一个或多个数据库包含现有目标信息。所述用户特定的目标信息的所述合并在所述一个或多个数据库中形成合并的目标信息。所述系统进一步包含训练集构建器和训练器。所述训练集构建器配置成构建训练集以用于根据所述合并的目标信息来训练所述神经网络的基于软件的版本。所述训练器配置成用所述训练集训练所述神经网络的所述基于软件的版本以确定所述神经形态集成电路上的所述神经网络的一组突触权重。在一些实施例中，所述训练集构建器进一步配置成构建所述训练集以使用所述现有目标信息的现有训练。在一些实施例中，所述训练器进一步配置成鉴于新学习的用户特定的目标信息来更新先前学习的现有目标信息的所述基于软件的神经网络的所述突触权重。在一些实施例中，所述系统进一步包含文件构建器，所述文件构建器配置成构建所述一组突触权重的文件以用于更新包含所述神经网络的所述神经形态集成电路的固件。所述一个或多个服务器进一步配置成将所述文件提供给所述客户端应用程序以用于用所述神经网络的所述一组突触权重更新所述神经形态集成电路的所述固件。本文中提供一种用于定制神经网络的系统，在一些实施例中，所述系统包含一个或多个服务器和一个或多个数据库服务器。所述一个或多个服务器配置成从客户端应用程序接收用户特定的目标信息以用于训练神经形态集成电路上的神经网络。所述一个或多个数据库服务器配置成从所述一个或多个服务器接收所述用户特定的目标信息且在一个或多个数据库中合并所述用户特定的目标信息。所述一个或多个数据库包含现有目标信息。所述用户特定的目标信息的所述合并在所述一个或多个数据库中形成合并的目标信息。所述系统进一步包含训练集构建器和训练器。所述训练集构建器配置成构建训练集以用于根据所述合并的目标信息来训练所述神经网络的基于软件的版本。所述训练器配置成用所述训练集训练所述神经网络的所述基于软件的版本以确定所述神经形态集成电路上的所述神经网络的一组突触权重。所述系统进一步包含文件构建器。所述文件构建器配置成构建所述一组突触权重的文件以用于更新包含所述神经网络的所述神经形态集成电路的固件。在一些实施例中，所述训练集构建器进一步配置成构建所述训练集以使用所述现有目标信息的现有训练。所述训练器进一步配置成鉴于新学习的用户特定的目标信息来更新先前学习的现有目标信息的所述基于软件的神经网络的所述突触权重。所述一个或多个服务器进一步配置成将所述文件提供给所述客户端应用程序以用于用所述神经网络的所述一组突触权重更新所述神经形态集成电路的所述固件。本文中还提供一种用于定制神经网络的方法，在一些实施例中，所述方法包含：接收用户特定的目标信息以用于训练神经形态集成电路上的神经网络；合并所述用户特定的目标信息与现有目标信息以形成合并的目标信息；构建训练集以用于根据所述合并的目标信息来训练所述神经网络；和训练所述神经网络以确定所述神经网络的一组突触权重。接收所述用户特定的目标信息包含通过一个或多个服务器从客户端应用程序接收所述用户特定的目标信息。接收所述用户特定的目标信息进一步包含通过一个或多个数据库服务器从所述一个或多个服务器接收所述用户特定的目标信息。合并所述用户特定的目标信息与现有目标信息包含：在包含所述现有目标信息的一个或多个数据库中合并所述用户特定的目标信息以在所述一个或多个数据库中形成所述合并的目标信息。构建所述训练集以用于训练所述神经网络包含用训练集构建器构建所述训练集，其中所述训练集用于根据所述合并的目标信息来训练所述神经网络的基于软件的版本。训练所述神经网络包含：用训练器基于所述训练集来训练所述神经网络的所述基于软件的版本以确定所述神经形态集成电路上的所述神经网络的所述一组突触权重。在一些实施例中，所述方法进一步包含：在所述一个或多个数据库中合并所述用户特定的目标信息之前，标记所述一个或多个数据库中的所述目标信息。所述标记包含标记关键词以用于关键词定位。在一些实施例中，构建所述训练集包含构建配置成使用所述现有目标信息的现有训练的所述训练集。在一些实施例中，所述方法进一步包含用所述训练器鉴于新学习的用户特定的目标信息来更新先前学习的现有目标信息的所述基于软件的神经网络的所述突触权重。所述更新包含基于不同于已学习的所述现有目标信息的信息来训练所述基于软件的神经网络。在一些实施例中，所述方法进一步包含：用文件构建器构建所述一组突触权重的文件以用于更新包含所述神经网络的所述神经形态集成电路的固件。在一些实施例中，所述方法进一步包含将所述文件提供给所述客户端应用程序，由此允许用所述神经网络的所述一组突触权重更新所述神经形态集成电路的所述固件。在一些实施例中，所述方法进一步包含：在所述一个或多个数据库中合并所述用户特定的目标信息之前，标记所述一个或多个数据库中的所述目标信息，其中所述标记包含标记关键词以用于关键词定位；用所述训练器鉴于新学习的用户特定的目标信息来更新先前学习的现有目标信息的所述基于软件的神经网络的所述突触权重，其中所述更新包含基于不同于已学习的所述现有目标信息的信息来训练所述基于软件的神经网络；和用文件构建器构建所述一本文档来自技高网...

【技术保护点】
1.一种用于定制神经网络的系统，其包括：/n一个或多个服务器，其配置成从客户端应用程序接收用户特定的目标信息以用于训练神经形态集成电路上的神经网络；/n一个或多个数据库服务器，其配置成/n(i)从所述一个或多个服务器接收所述用户特定的目标信息，和/n(ii)在包含现有目标信息的一个或多个数据库中合并所述用户特定的目标信息以在所述一个或多个数据库中形成合并的目标信息；/n训练集构建器，其配置成构建训练集以用于根据所述合并的目标信息来训练所述神经网络的基于软件的版本；和/n训练器，其配置成用所述训练集训练所述神经网络的所述基于软件的版本以确定所述神经形态集成电路上的所述神经网络的一组突触权重。/n

【技术特征摘要】
【国外来华专利技术】20171019 US 62/574650;20181018 US 16/1646711.一种用于定制神经网络的系统，其包括：
一个或多个服务器，其配置成从客户端应用程序接收用户特定的目标信息以用于训练神经形态集成电路上的神经网络；
一个或多个数据库服务器，其配置成
(i)从所述一个或多个服务器接收所述用户特定的目标信息，和
(ii)在包含现有目标信息的一个或多个数据库中合并所述用户特定的目标信息以在所述一个或多个数据库中形成合并的目标信息；
训练集构建器，其配置成构建训练集以用于根据所述合并的目标信息来训练所述神经网络的基于软件的版本；和
训练器，其配置成用所述训练集训练所述神经网络的所述基于软件的版本以确定所述神经形态集成电路上的所述神经网络的一组突触权重。


2.根据权利要求1所述的系统，其中所述训练集构建器进一步配置成构建所述训练集以使用所述现有目标信息的现有训练。


3.根据权利要求1所述的系统，其中所述训练器进一步配置成鉴于新学习的用户特定的目标信息来更新先前学习的现有目标信息的所述基于软件的神经网络的所述突触权重。


4.根据权利要求1所述的系统，其进一步包括：
文件构建器，其配置成构建所述一组突触权重的文件以用于更新包含所述神经网络的所述神经形态集成电路的固件。


5.根据权利要求4所述的系统，其中所述一个或多个服务器进一步配置成将所述文件提供给所述客户端应用程序以用于用所述神经网络的所述一组突触权重更新所述神经形态集成电路的所述固件。


6.一种用于定制神经网络的系统，其包括：
一个或多个服务器，其配置成从客户端应用程序接收用户特定的目标信息以用于训练神经形态集成电路上的神经网络；
一个或多个数据库服务器，其配置成
(i)从所述一个或多个服务器接收所述用户特定的目标信息，和
(ii)在包含现有目标信息的一个或多个数据库中合并所述用户特定的目标信息以在所述一个或多个数据库中形成合并的目标信息；
训练集构建器，其配置成构建训练集以用于根据所述合并的目标信息来训练所述神经网络的基于软件的版本；
训练器，其配置成用所述训练集训练所述神经网络的所述基于软件的版本以确定所述神经形态集成电路上的所述神经网络的一组突触权重；和
文件构建器，其配置成构建所述一组突触权重的文件以用于更新包含所述神经网络的所述神经形态集成电路的固件。


7.根据权利要求6所述的系统，其中所述训练集构建器进一步配置成构建所述训练集以使用所述现有目标信息的现有训练。


8.根据权利要求7所述的系统，其中所述训练器进一步配置成鉴于新学习的用户特定的目标信息来更新先前学习的现有目标信息的所述基于软件的神经网络的所述突触权重。


9.根据权利要求8所述的系统，其中所述一个或多个服务器进一步配置成将所述文件提供给所述客户端应用程序以用...

【专利技术属性】
技术研发人员：KF布什，P沃伦坎普，SW贝利，
申请(专利权)人：森田公司，
类型：发明
国别省市：美国;US