当前位置: 首页 > 专利查询>清华大学专利>正文

一种面向神经网络算法的模拟感知计算架构制造技术

技术编号:17249556 阅读:78 留言:0更新日期:2018-02-11 07:59
本发明专利技术公开了一种面向神经网络算法的模拟感知计算架构,包括:神经元值缓冲器,其配置为缓存待分析对象的样本参数;突触权重缓冲器,其配置为存储与样本参数对应的突触权重;模拟计算处理模块,其配置为根据突触权重和样本参数,在模拟域对待分析对象进行特征提取及特征分类。本发明专利技术实现了待分析对象的特征提取和特征分类,并且对样本参数和突触权重的计算是在模拟域中进行,具有高能效的特点,同时本架构减少了模数和数模转换模块的代价,进一步降低了能耗。

【技术实现步骤摘要】
一种面向神经网络算法的模拟感知计算架构
本专利技术涉及人工智能领域,尤其涉及一种面向神经网络算法的模拟感知计算架构。
技术介绍
近年来,人工智能(ArtificialIntelligence,简称AI)蓬勃发展,神经网络作为人工智能当前最有效的实现途径之一,越来越受到学术界和工业界的关注。神经网络在图像、视频和语音识别等领域内得到了广泛的应用。诸多神经网络中,卷积神经网络(ConvolutionalNeuralNetwork,简称CNN)和深度神经网络(DeepNeuralNetworks,简称DNN)应用最为广泛。CNN和DNN都是计算密集型的神经网络,神经网络规模大,对平台的运算能力的要求高,特别是当处理图像和视频的高维数据时,数据传输速率可能超过计算平台实时处理的能力,目前主要通过专用集成电路提高运算速度。RedEye是一种针对移动视觉设计的专用集成电路,它具有模拟卷积神经网络图像传感器结构,采用了模块化的并行设计思路,能够降低模拟设计的复杂性,但是无法实现特征分类,而且需要大量模数转换器(AnalogtoDigitalConverter,简称ADC)将模拟信号转换成数字信号,能耗高。
技术实现思路
为解决现有技术中专用模拟集成电路仅能实现卷积神经网络的特征提取,无法实现特征分类以及专用数字集成电路存在能耗高的问题,本专利技术提供了一种面向神经网络算法的模拟感知计算架构。根据本专利技术的一个实施例,提供了一种面向神经网络算法的模拟感知计算架构,包括:神经元值缓冲器,其配置为缓存待分析对象的样本参数;突触权重缓冲器,其配置为存储与所述样本参数对应的突触权重;模拟计算处理模块,其配置为根据所述突触权重和所述样本参数,在模拟域对待分析对象进行特征提取及特征分类。根据本专利技术的一个实施例,所述模拟计算处理模块包括:多个乘法累加单元,其配置为根据所述突触权重对所述样本参数进行卷积处理;多个第一非线性单元,其配置为与所述乘法累加单元一一对应连接,用于对各所述乘法累加单元输出的卷积结果进行非线性映射处理;池化单元,其配置为对多个所述第一非线性单元输出的结果进行下采样及特征筛选;第二非线性单元,其配置为对所述特征筛选的结果进行非线性映射。根据本专利技术的一个实施例,所述面向神经网络算法的模拟感知计算架构还包括:输出缓冲器,其配置为缓存所述第二非线性单元输出的中间特征和最终特征,并输出所述中间特征给所述神经元值缓冲器。根据本专利技术的一个实施例,所述面向神经网络算法的模拟感知计算架构还包括:赢者通吃模块,其配置为从所述第二非线性单元输出的最终特征中,筛选并输出最终特征中的最大值。根据本专利技术的一个实施例,所述突触权重缓冲器包括第一权重参数存储器,其中,所述第一权重参数存储器配置为存储所述突触权重。根据本专利技术的一个实施例,所述突触权重缓冲器还包括第二权重参数存储器,其中,所述第二权重参数存储器配置为从所述第一权重参数存储器读取所述突触权重,并输出给所述模拟计算处理模块。根据本专利技术的一个实施例,所述面向神经网络算法的模拟感知计算架构还包括:数字控制模块,其配置为分别与所述神经元值缓冲器、所述突触权重缓冲器、所述模拟计算处理模块、所述输出缓冲器和所述赢者通吃模块连接。根据本专利技术的一个实施例,所述神经元值缓冲器缓存的待分析对象的样本参数以及所述突触权重缓冲器存储的与所述样本参数对应的突触权重均为模拟值。根据本专利技术的一个实施例,所述神经元值缓冲器、所述第二权重参数存储器和所述输出缓冲器是易失性存储器,所述第一权重参数存储器是非易失性存储器。根据本专利技术的一个实施例,所述架构适用卷积神经网络和深度神经网络。本专利技术带来了以下有益效果:本专利技术实现了待分析对象的特征提取和特征分类,并且对样本参数和突触权重的计算是在模拟域中进行,减少了模数和数模转换模块,降低了能耗。本专利技术的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本专利技术而了解。本专利技术的目的和其他优点可通过在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。附图说明为了更清楚地说明本专利技术实施例中的技术方案,下面将对实施例描述中所需要的附图做简单的介绍:图1是根据本专利技术一个实施例的面向神经网络算法的模拟感知计算架构框图;图2是根据本专利技术一个实施例的模拟内存分布图;图3是根据本专利技术一个实施例的模拟计算处理模块与突触权重缓冲器连接关系图;图4是根据本专利技术一个实施例的有限状态机状态转移关系图;图5是根据本专利技术一个实施例的芯片在不同平台的加速图;图6是根据本专利技术一个实施例的芯片在不同平台的能效图;图7是现有技术中乘法累加单元结构图;图8是现有技术中乘法累加单元内部的吉尔伯特乘法器结构图;图9是现有技术中一种采用MOS管的非线性单元的电路结构示意图;图10是现有技术中一种采用MOS管的非线性单元的电路特性示意图;图11是现有技术中的一种最大值池化电路结构图;图12是现有技术中的一种平均值池化电路结构图;图13是现有技术中的非易失性存储器结构图;图14是现有技术中的易失性存储器结构图。具体实施方式以下将结合附图及实施例来详细说明本专利技术的实施方式,借此对本专利技术如何应用技术手段来解决技术问题,并达成技术效果的实现过程能充分理解并据以实施。需要说明的是,只要不构成冲突,本专利技术中的各个实施例以及各实施例中的各个特征可以相互结合,所形成的技术方案均在本专利技术的保护范围之内。图1是根据本专利技术一个实施例的面向神经网络算法的模拟感知计算架构框图,以下参考图1来对本专利技术进行详细说明。该面向神经网络算法的模拟感知计算架构包括神经元值缓冲器120、模拟计算处理模块150、突触权重缓冲器。其中,神经元值缓冲器120用于缓存待分析对象的样本参数。突触权重缓冲器用于存储与样本参数对应的突触权重。模拟计算处理模块150用于在模拟域内对待分析对象的突触权重和样本参数进行特征提取和特征分类。本专利技术通过神经元值缓冲器120、模拟计算处理模块150、突触权重缓冲器组成的面向神经网络算法的模拟感知计算架构,可以实现卷积神经网络的特征提取和特征分类。模拟计算处理模块150对样本参数和突触权重进行处理是在模拟域中进行,减少了模数和数模转换模块,降低了能耗。图2是根据本专利技术一个实施例的模拟内存分布图,以下参考图2来对本专利技术进行详细说明。在本专利技术的一个实施例中,模拟计算处理模块150包括乘法累加单元1501、第一非线性单元1502、池化单元1503、第二非线性单元1504。乘法累加单元1501用于对突触权重和样本参数进行卷积处理,第一非线性单元1502用于对卷积处理的结果进行非线性映射,池化单元1503用于对非线性映射的结果进行下采样和特征筛选,第二非线性单元1504用于对特征筛选结果进行非线性映射。图7是现有技术中乘法累加单元结构图,图8是现有技术中乘法累加单元内部的吉尔伯特乘法器结构图,以下将结合图7和图8对乘法累加单元1501进行详细说明。具体的,乘法累加单元1501对突触权重和样本参数参进行卷积运算。在卷积神经网络中,卷积运算是所有运算中最基本的运算,卷积运算消耗功率大、运算时间长,因此,乘法累加单元对架构性能至关重要。乘法累加单元1501的数量根据样本参数和突触权重的规模进行设定。乘法累加单元150本文档来自技高网...
一种面向神经网络算法的模拟感知计算架构

【技术保护点】
一种面向神经网络算法的模拟感知计算架构,包括:神经元值缓冲器,其配置为缓存待分析对象的样本参数;突触权重缓冲器,其配置为存储与所述样本参数对应的突触权重;模拟计算处理模块,其配置为根据所述突触权重和所述样本参数,在模拟域对待分析对象进行特征提取及特征分类。

【技术特征摘要】
1.一种面向神经网络算法的模拟感知计算架构,包括:神经元值缓冲器,其配置为缓存待分析对象的样本参数;突触权重缓冲器,其配置为存储与所述样本参数对应的突触权重;模拟计算处理模块,其配置为根据所述突触权重和所述样本参数,在模拟域对待分析对象进行特征提取及特征分类。2.根据权利要求1所述的架构,其特征在于,所述模拟计算处理模块包括:多个乘法累加单元,其配置为根据所述突触权重对所述样本参数进行卷积处理;多个第一非线性单元,其配置为与所述乘法累加单元一一对应连接,用于对各所述乘法累加单元输出的卷积结果进行非线性映射处理;池化单元,其配置为对多个所述第一非线性单元输出的结果进行下采样及特征筛选;第二非线性单元,其配置为对所述特征筛选的结果进行非线性映射。3.根据权利要求2所述的架构,其特征在于,还包括:输出缓冲器,其配置为缓存所述第二非线性单元输出的中间特征和最终特征,并输出所述中间特征给所述神经元值缓冲器。4.根据权利要求3所述的架构,其特征在于,还包括:赢者通吃模块,其配置为从所述第二非线性单元输出的最终特征中,筛选并输出最...

【专利技术属性】
技术研发人员:乔飞贾凯歌刘哲宇魏琦谢福贵刘辛军杨华中
申请(专利权)人:清华大学
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1