【技术实现步骤摘要】
【国外来华专利技术】
本专利技术涉及一种用于降低卷积神经网络(cnn)的功率消耗的硬件架构，并且更具体地涉及将动态数据量化方案应用于cnn的硬件架构。
技术介绍
1、今天，卷积神经网络(cnn)广泛用于执行图像识别、目标识别和图像分割等任务。神经网络在具有许多应用时需要密集的计算处理，这可导致高功率消耗。本文描述了一种用于降低cnn的功率消耗的硬件架构。
技术实现思路
1、根据本专利技术的一个实施方案，动态数据量化方案用于使卷积神经网络(cnn)的功率消耗最小化。数据量化减小数据信号的位宽度，并且因此降低功率消耗。然而，数据量化的折衷是量化值的数值精度降低。采用特定的数据量化方法(即，动态数据量化)来使由数据量化引起的精度损失最小化。动态数据量化方案利用激活数据的特性，所述特性在于激活数据的局部块的动态范围(即，对应于卷积核的维度)通常小于整个激活数据阵列的动态范围。因此，激活数据的每个局部块独立于激活数据的相邻块进行量化，使得量化输出的位仅用于表示位于更受约束的局部动态范围内的值。动态数据量化方案类似地应用于使卷积核中的每一个量化。
2、3x3m位激活值阵列的量化表示包括9个n位尾数值和n位尾数值之间共享的一个指数，其中n小于m。具有p位参数值的3x3核的量化表示包括9个q位尾数值和q位尾数值之间共享的一个指数，其中q小于p。核与激活数据的卷积包括计算9个n位尾数值与9个q位尾数值的点积，并对两个所共享的指数求和。在具有多个卷积核的场景中，多个计算单元(每个计算单元对应于卷积核中的一个)从
3、在本专利技术的一个实施方案中，核的量化表示预先计算并存储在存储元件中，使得当在cnn的模型的应用(推断)阶段期间执行卷积时，核的量化表示可直接从存储器元件读取。在另一个实施方案中，核的量化可“即时”执行，这在cnn的训练阶段期间可能是必要的。
4、与下面的附图相关联地更充分地描述了本专利技术的这些和其他实施方案。
本文档来自技高网...【技术保护点】
1.一种系统，其包括：
2.如权利要求1所述的系统，其中所述量化位范围基于所述激活值阵列中的最大值来确定。
3.如权利要求1所述的系统，其中所述量化位范围基于所述激活值阵列中的中值来确定。
4.如权利要求1所述的系统，其中所述量化位范围基于位于所述激活值阵列的空间中心处的值来确定。
5.如权利要求1所述的系统，其中所共享的激活指数基于所述量化位范围的所述起始或结束位位置来确定。
6.如权利要求1所述的系统，其中所述第一量化卷积核从存储器元件接收。
7.如权利要求1所述的系统，其中所述第一量化卷积核从第二量化器-校准模块接收。
8.如权利要求1所述的系统，其中所述激活值阵列是3乘3阵列。
9.如权利要求1所述的系统，其中所述第一量化卷积核是3乘3核。
【技术特征摘要】
【国外来华专利技术】
1.一种系统，其包括：
2.如权利要求1所述的系统，其中所述量化位范围基于所述激活值阵列中的最大值来确定。
3.如权利要求1所述的系统，其中所述量化位范围基于所述激活值阵列中的中值来确定。
4.如权利要求1所述的系统，其中所述量化位范围基于位于所述激活值阵列的空间中心处的值来确定。
5.如权利要求1所述的系统，其中所共享的激活...
【专利技术属性】
技术研发人员：黄建辉，詹姆斯·迈克尔·博德温，普拉迪普·R·乔吉尼帕里，沙巴利瓦斯·阿比兰，加里·S·戈德曼，马丁·斯蒂芬·帕特兹，尤金·M·范伯格，贝伦德·奥兹卡里，
申请(专利权)人：雷哥尼公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。