一种模拟神经网芯片的设计方法及模拟神经网芯片技术

本发明专利技术公开了一种模拟神经网芯片的设计方法及模拟神经网芯片，方法包括：设置模拟神经网架构并建立与所述模拟神经网架构相同的数字神经网模型；根据所述模拟神经网架构设计并制作模拟神经网电路；对所述数字神经网模型进行训练，并根据模拟神经网的目标精度对所述数字神经网模型进行参数裁剪；将裁剪后的神经网参数输入至所述模拟神经网电路并运行，获得具有目标精度的模拟神经网芯片。本发明专利技术实施例通过设计模拟神经网架构并建立与其相同的数字神经网模型，对数字神经网进行训练后得到符合精度要求的神经网参数，将该神经网参数导入至模拟神经网芯片内并运行，得到具有目标精度的模拟神经网芯片，实现了高精度、高速、低功耗的神经网芯片。

A design method of analog neural network chip and analog neural network chip

The invention discloses a design method of analog neural network chip and analog neural network chip, the method includes: setting up the analog neural network architecture and establishing a digital neural network model with the same architecture as the analog neural network; designing and making the analog neural network circuit according to the analog neural network architecture; training the digital neural network model and making the analog neural network circuit according to the objectives of the analog neural network Standard precision cuts the parameters of the digital neural network model; input the cut parameters of the neural network to the analog neural network circuit and run to obtain the analog neural network chip with target precision. In the embodiment of the invention, the analog neural network architecture is designed and the same digital neural network model is established. After training the digital neural network, the neural network parameters that meet the accuracy requirements are obtained. The neural network parameters are imported into the analog neural network chip and run, and the analog neural network chip with the target accuracy is obtained. The neural network core with high accuracy, high speed and low power consumption is realized Slice.

【技术实现步骤摘要】
一种模拟神经网芯片的设计方法及模拟神经网芯片
本专利技术涉及模拟计算
，尤其涉及一种模拟神经网芯片的设计方法及模拟神经网芯片。
技术介绍
目前，数字神经网已经在各个领域得到广泛的应用，包括人脸识别、语音识别等等。大型神经网对于计算量的要求很高。数字芯片的算力一般用“每秒万亿次运算”（TOPS）来衡量。当前，100TOPS算力的数字芯片或芯片集群十分昂贵，而且功耗至少需要几十瓦。由于数字计算机和数字电路的特点，运算通过指令集完成，计算结果一般需要在毫秒(mS)级别以上，无法达到微秒或纳秒级别。由于数字技术的兴起，人们在近些年没有对模拟计算有太多关注，对于模拟神经网的设计、实施、训练方法等具体技术研发较少，模拟神经网在速度上可以达到数字神经网的百倍甚至千倍以上，同时功耗远远低于数字神经网，但是模拟神经网在精度方面还有所欠缺，导致模拟神经网芯片的发展和应用范围受限。因此，现有技术还有待于改进和发展。
技术实现思路
鉴于上述现有技术的不足，本专利技术的目的在于提供一种模拟神经网芯片的设计方法及模拟神经网芯片，旨在解决现有技术中如何提高模拟神经网芯片的精度，实现高速、高精度和低功耗的模拟神经网芯片的问题。本专利技术的技术方案如下：一种模拟神经网芯片的设计方法，其包括如下步骤：设置模拟神经网架构并建立与所述模拟神经网架构相同的数字神经网模型；根据所述模拟神经网架构设计并制作模拟神经网电路；对所述数字神经网模型进行训练，并根据模拟神经网的目标精度对所述数字神经网模型进行参数裁剪；将裁剪后的神经网参数输入至所述模拟神经网电路并运行，获得具有目标精度的模拟神经网芯片。所述的模拟神经网芯片的设计方法中，所述设置模拟神经网架构并建立与所述模拟神经网架构相同的数字神经网模型，包括：根据模拟神经网的目标精度设计单个模拟神经元的计算精度和模拟神经网的矩阵结构完成模拟神经网架构的设置；建立与所述模拟神经网架构相同的数字神经网模型。所述的模拟神经网芯片的设计方法中，对所述数字神经网模型进行训练，并根据模拟神经网的目标精度对所述数字神经网模型进行参数裁剪，包括：利用预先获取的训练样本对所述数字神经网模型进行训练；训练完成后根据模拟神经元的计算精度对数字神经网中的每个数字神经元进行参数裁剪，得到修剪后的神经网参数。所述的模拟神经网芯片的设计方法中，对所述数字神经网模型进行参数裁剪具体为对每个数字神经元的权重参数进行量化处理。所述的模拟神经网芯片的设计方法中，所述训练完成后根据模拟神经元的计算精度对数字神经网中的每个数字神经元进行参数裁剪，得到修剪后的神经网参数，之后还包括：对裁剪后的数字神经网模型进行仿真，验证当前数字神经网的精度是否达到所述目标精度，若否，则重新训练并进行参数裁剪，直到当前数字神经网的精度达到所述目标精度。所述的模拟神经网芯片的设计方法中，所述将裁剪后的神经网参数输入至所述模拟神经网电路并运行，获得具有目标精度的模拟神经网芯片，包括：将裁剪后的神经网参数输入至所述模拟神经网电路并运行；测试当前模拟神经网电路的运行精度是否达到所述目标精度，若否，则重新对所述数字神经网模型进行训练和参数裁剪，直到当前模拟神经网电路的运行精度达到所述目标精度，获得具有目标精度的模拟神经网芯片。所述的模拟神经网芯片的设计方法中，所述模拟神经网架构至少包括状态输入模块、指令输入模块、模拟神经网和输出模块；所述状态输入模块和指令输入模块均连接所述模拟神经网，所述模拟神经网还连接所述输出模块。所述的模拟神经网芯片的设计方法中，所述模拟神经网至少包括由若干个模拟神经元组成的输入层、隐藏层和输出层，所述输入层、隐藏层和输出层通过网络连接线连接形成相应的模拟神经网架构。所述的模拟神经网芯片的设计方法中，所述模拟神经元至少包括求和电路、乘法电路和存储单元，所述求和电路、乘法电路和存储单元依次连接。本专利技术的另一实施例还提供了一种模拟神经网芯片，所述模拟神经网芯片采用如上所述的模拟神经网芯片的设计方法设计制作完成。有益效果：本专利技术公开了一种模拟神经网芯片的设计方法及模拟神经网芯片，相比于现有技术，本专利技术实施例通过设计模拟神经网架构并建立与其相同的数字神经网模型，根据模拟神经网的目标精度对数字神经网进行训练，得到裁剪后的符合精度要求的神经网参数，将该神经网参数导入至模拟神经网芯片内并运行，得到具有目标精度的模拟神经网芯片，成功兼顾了模拟神经网芯片的计算速度和计算精度，实现高精度、高速、低功耗的神经网芯片，大大拓宽了模拟神经网芯片的应用范围。附图说明下面将结合附图及实施例对本专利技术作进一步说明，附图中：图1为本专利技术提供的模拟神经网芯片的设计方法较佳实施例的流程图；图2为本专利技术提供的模拟神经网芯片的设计方法较佳实施例中步骤S100的流程图；图3为本专利技术提供的模拟神经网芯片的设计方法较佳实施例中步骤S300的流程图；图4为本专利技术提供的模拟神经网芯片的设计方法较佳实施例中步骤S400的流程图；图5为本专利技术提供的模拟神经网架构第一实施例的示意图；图6为本专利技术提供的模拟神经网架构第二实施例的示意图；图7为本专利技术提供的模拟神经网架构第三实施例的示意图；图8为本专利技术提供的模拟神经元第一实施例的示意图；图9为本专利技术提供的模拟神经元第二实施例的示意图；图10为本专利技术提供的模拟神经网芯片的设计方法应用实施例中模型训练和运行流程图。具体实施方式为使本专利技术的目的、技术方案及效果更加清楚、明确，以下对本专利技术进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本专利技术，并不用于限定本专利技术。以下结合附图对本专利技术实施例进行介绍。请参阅图1，图1为本专利技术提供的模拟神经网芯片的设计方法较佳实施例的流程图。如图1所示，其包括如下步骤：S100、设置模拟神经网架构并建立与所述模拟神经网架构相同的数字神经网模型；S200、根据所述模拟神经网架构设计并制作模拟神经网电路；S300、对所述数字神经网模型进行训练，并根据模拟神经网的目标精度对所述数字神经网模型进行参数裁剪；S400、将裁剪后的神经网参数输入至所述模拟神经网电路并运行，获得具有目标精度的模拟神经网芯片。由于神经网络的设计可以在网络结构和节点的运算精度之间做平衡，这给模拟神经网的设计带来很大的空间，因此本实施例中，先根据实际应用需求设计模拟神经网架构并建立与所述模拟神经网架构相同的数字神经网模型，之后根据该模拟神经网架构设计并制作模拟神经网电路，具体可根据具体的模拟集成电路工艺所提供的基础模拟元器件来确认电路设计并实施，以适应不同规模的模拟神经网芯片要，在建立了与模拟神经网架构相同的数字神经网模型后，对所述数字神经网模型进行训练，其训练目的是根据模拟神经网的目标精度来对数字神经网模型的参数进行裁剪，以此获取能本文档来自技高网...

【技术保护点】
1.一种模拟神经网芯片的设计方法，其特征在于，包括如下步骤：/n设置模拟神经网架构并建立与所述模拟神经网架构相同的数字神经网模型；/n根据所述模拟神经网架构设计并制作模拟神经网电路；/n对所述数字神经网模型进行训练，并根据模拟神经网的目标精度对所述数字神经网模型进行参数裁剪；/n将裁剪后的神经网参数输入至所述模拟神经网电路并运行，获得具有目标精度的模拟神经网芯片。/n

【技术特征摘要】
1.一种模拟神经网芯片的设计方法，其特征在于，包括如下步骤：
设置模拟神经网架构并建立与所述模拟神经网架构相同的数字神经网模型；
根据所述模拟神经网架构设计并制作模拟神经网电路；
对所述数字神经网模型进行训练，并根据模拟神经网的目标精度对所述数字神经网模型进行参数裁剪；
将裁剪后的神经网参数输入至所述模拟神经网电路并运行，获得具有目标精度的模拟神经网芯片。


2.根据权利要求1所述的模拟神经网芯片的设计方法，其特征在于，所述设置模拟神经网架构并建立与所述模拟神经网架构相同的数字神经网模型，包括：
根据模拟神经网的目标精度设计单个模拟神经元的计算精度和模拟神经网的矩阵结构完成模拟神经网架构的设置；
建立与所述模拟神经网架构相同的数字神经网模型。


3.根据权利要求2所述的模拟神经网芯片的设计方法，其特征在于，所述对所述数字神经网模型进行训练，并根据模拟神经网的目标精度对所述数字神经网模型进行参数裁剪，包括：
利用预先获取的训练样本对所述数字神经网模型进行训练；
训练完成后根据模拟神经元的计算精度对数字神经网中的每个数字神经元进行参数裁剪，得到修剪后的神经网参数。


4.根据权利要求3所述的模拟神经网芯片的设计方法，其特征在于，对所述数字神经网模型进行参数裁剪具体为对每个数字神经元的权重参数进行量化处理。


5.根据权利要求3所述的模拟神经网芯片的设计方法，其特征在于，所述训练完成后根据模拟神经元的计算精度对数字神经网中的每个数字神经元进行参数裁剪，得到修剪后的神经网参数，之后还...

【专利技术属性】
技术研发人员：叶军，
申请(专利权)人：深圳小墨智能科技有限公司，
类型：发明
国别省市：广东;44