芯片结构及用于卷积计算的处理模块制造技术

本发明专利技术提供一种芯片结构及用于卷积计算的处理模块,所述处理模块接收卷积模块的输出，处理模块包括：偏置模块，连接至所述卷积模块的输出，将所述卷积模块的输出结果进行偏置处理；前激活模块，连接至所述偏置模块，对所述偏置模块的输出进行激活处理；批归一化模块，连接至所述前激活模块，对所述前激活模块的输出进行批归一化处理；后激活模块，连接至所述批归一化模块，对所述批归一化模块的输出进行激活处理；池化模块，连接至所述前激活模块、批归一化模块以及后激活模块中的一个或多个模块，对所连接的模块的输出进行池化处理；控制模块，通过参数配置激活一个或多个模块。本发明专利技术降低芯片功耗和数据延时。

【技术实现步骤摘要】
芯片结构及用于卷积计算的处理模块
本专利技术涉及卷积神经网络领域，尤其涉及一种芯片结构及用于卷积计算的处理模块。
技术介绍
卷积神经网络(ConvolutionalNeuralNetwork,CNN)是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。它包括卷积层(convolutionallayer)和池化层(poolinglayer)。卷积神经网络已广泛应用于图像分类、物体识别、目标追踪。对于卷积神经网络的处理芯片，在卷积处理之后的各个处理模块之间存在互相的制约依存关系，无法灵活广泛地支持不同算法模型，且现有技术中处理模块物理上相互独立，在进行计算时，需要分别自片外储存模块进行读写，增加芯片功耗和数据延时。
技术实现思路
本专利技术为了克服上述现有技术存在的缺陷，提供一种芯片结构及用于卷积计算的处理模块，以在卷积处理之后的各个模块通过控制模块进行激活，且模块之间不存在互相的制约依存关系，可以灵活广泛地支持不同算法模型，且各模块以流水线的方式实现，在进行计算时，无需分别自片外储存模块进行读写，降低芯片功耗和数据延时。根据本专利技术的一个方面，提供一种用于卷积计算的处理模块，所述处理模块接收卷积模块的输出，包括：偏置模块，连接至所述卷积模块的输出，配置成将所述卷积模块的输出结果进行偏置处理；前激活模块，连接至所述偏置模块，配置成对所述偏置模块的输出进行激活处理；批归一化模块，连接至所述前激活模块，配置成对所述前激活模块的输出进行批归一化处理；后激活模块，连接至所述批归一化模块，配置成对所述批归一化模块的输出进行激活处理；池化模块，连接至所述前激活模块、批归一化模块以及后激活模块中的一个或多个模块，配置成对所连接的模块的输出进行池化处理；控制模块，配置成通过参数配置激活所述偏置模块、所述前激活模块、所述批归一化模块、所述后激活模块以及所述池化模块中的一个或多个模块，其中，所述偏置模块、所述前激活模块、所述批归一化模块、所述后激活模块以及所述池化模块皆包括旁路，当该模块未激活时，数据经过该模块的旁路进入下一模块。在本专利技术的一些实施例中，所述偏置模块配置成执行加法偏置，所述加法偏置中被加的第一参数由所述控制模块加载至所述偏置模块中。在本专利技术的一些实施例中，所述前激活模块和所述后激活模块分别包括多个非线性整流单元。在本专利技术的一些实施例中，每个所述非线性整流单元配置成：判断输入数据是否为正；若输入数据为正，则判断激活第一整流功能或第二整流功能；若激活第一整流功能，则使所述非线性整流单元的输出等于输入；若激活第二整流功能，则判断输入数据是否大于第二参数；若输入数据大于第二参数，则输出第二参数；若输入数据不大于第二参数，则使所述非线性整流单元的输出等于输入；若输入数据为负，则判断激活第三整流功能或第四整流功能；若激活第三整流功能，则使所述非线性整流单元的输出为0；若激活第三整流功能，则所述非线性整流单元的输出为输入的第三参数倍。在本专利技术的一些实施例中，所述第二参数及所述第三参数由所述控制模块经由时间切换控制加载至所述非线性整流单元中。在本专利技术的一些实施例中，所述批归一化模块包括多个批归一化单元，每个所述批归一化单元配置成：使输入所述批归一化单元的数据与第四参数相乘获得的乘积，与第五参数相加，获得的和作为所述批归一化单元输出。在本专利技术的一些实施例中，所述第四参数及所述第五参数由所述控制模块经由时间切换控制加载至所述批归一化单元中。在本专利技术的一些实施例中，所述池化模块包括最大池化单元和/或平均池化单元。根据本专利技术的又一方面，还提供一种芯片结构，包括：卷积模块；以及如上所述的用于卷积计算的处理模块，所述处理模块接收所述卷积模块的输出。在本专利技术的一些实施例中，所述卷积模块与所述处理模块在芯片内级联。相比现有技术，本专利技术的优势在于：在卷积处理之后的处理模块中，各个模块通过控制模块进行激活，且模块之间不存在互相的制约依存关系，可以灵活广泛地支持不同算法模型，且各模块以流水线的方式实现，在进行计算时，无需分别自片外储存模块进行读写，降低芯片功耗和数据延时。附图说明通过参照附图详细描述其示例实施方式，本专利技术的上述和其它特征及优点将变得更加明显。图1示出了根据本专利技术实施例的用于卷积计算的处理模块的结构示意图；图2示出了根据本专利技术实施例的非线性整流单元的结构示意图；图3示出了根据本专利技术实施例的批归一化单元的结构示意图；图4示出了根据本专利技术实施例的芯片结构的示意图；图5示出了根据本专利技术实施例的应用于尺寸为5*5的卷积核的一卷积组的示意图；图6示出了根据本专利技术实施例的卷积模块的示意图。具体实施方式现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。为了解决现有技术的缺陷，本专利技术提供一种用于卷积计算的处理模块。下面将结合图1至图3对本专利技术提供的用于卷积计算的处理模块进行进一步地描述。首先参见图1，图1示出了根据本专利技术实施例的用于卷积计算的处理模块的结构示意图。用于卷积计算的处理模块10包括偏置模块110、前激活模块120、批归一化模块130、后激活模块140、池化模块150以及控制模块160。偏置模块110连接至卷积模块的输出，配置成将所述卷积模块的输出结果进行偏置处理。前激活模块120连接至所述偏置模块110，配置成对所述偏置模块110的输出进行激活处理。批归一化模块130连接至所述前激活模块120配置成对所述前激活模块120的输出进行批归一化处理。后激活模块140连接至所述批归一化模块130，配置成对所述批归一化模块130的输出进行激活处理。池化模块150连接至所述前激活模块120、批归一化模块130以及后激活模块140中的一个或多个模块，配置成对所连接的模块的输出进行池化处理。具体而言，在本实施例中，所述前激活模块120、批归一化模块130以及后激活模块140连接至一输出选择模块170，由输出选择模块170自所述前激活模块120、批归一化模块130以及后激活模块140选择一个本文档来自技高网...

【技术保护点】
1.一种用于卷积计算的处理模块，其特征在于，所述处理模块接收卷积模块的输出，包括：/n偏置模块，连接至所述卷积模块的输出，配置成将所述卷积模块的输出结果进行偏置处理；/n前激活模块，连接至所述偏置模块，配置成对所述偏置模块的输出进行激活处理；/n批归一化模块，连接至所述前激活模块，配置成对所述前激活模块的输出进行批归一化处理；/n后激活模块，连接至所述批归一化模块，配置成对所述批归一化模块的输出进行激活处理；/n池化模块，连接至所述前激活模块、批归一化模块以及后激活模块中的一个或多个模块，配置成对所连接的模块的输出进行池化处理；/n控制模块，配置成通过参数配置激活所述偏置模块、所述前激活模块、所述批归一化模块、所述后激活模块以及所述池化模块中的一个或多个模块，/n其中，所述偏置模块、所述前激活模块、所述批归一化模块、所述后激活模块以及所述池化模块皆包括旁路，当该模块未激活时，数据经过该模块的旁路进入下一模块。/n

【技术特征摘要】
1.一种用于卷积计算的处理模块，其特征在于，所述处理模块接收卷积模块的输出，包括：
偏置模块，连接至所述卷积模块的输出，配置成将所述卷积模块的输出结果进行偏置处理；
前激活模块，连接至所述偏置模块，配置成对所述偏置模块的输出进行激活处理；
批归一化模块，连接至所述前激活模块，配置成对所述前激活模块的输出进行批归一化处理；
后激活模块，连接至所述批归一化模块，配置成对所述批归一化模块的输出进行激活处理；
池化模块，连接至所述前激活模块、批归一化模块以及后激活模块中的一个或多个模块，配置成对所连接的模块的输出进行池化处理；
控制模块，配置成通过参数配置激活所述偏置模块、所述前激活模块、所述批归一化模块、所述后激活模块以及所述池化模块中的一个或多个模块，
其中，所述偏置模块、所述前激活模块、所述批归一化模块、所述后激活模块以及所述池化模块皆包括旁路，当该模块未激活时，数据经过该模块的旁路进入下一模块。


2.如权利要求1所述的用于卷积计算的处理模块，其特征在于，所述偏置模块配置成执行加法偏置，所述加法偏置中被加的第一参数由所述控制模块加载至所述偏置模块中。


3.如权利要求1所述的用于卷积计算的处理模块，其特征在于，所述前激活模块和所述后激活模块分别包括多个非线性整流单元。


4.如权利要求3所述的用于卷积计算的处理模块，其特征在于，每个所述非线性整流单元配置成：
判断输入数据是否为正；
若输入数据为正，则判断激活第一整流功能或第二整流功能；
若激活第一整流功能，则使所...

【专利技术属性】
技术研发人员：谭黎敏，宋捷，张锡斌，
申请(专利权)人：上海西井信息科技有限公司，
类型：发明
国别省市：上海;31