当前位置: 首页 > 专利查询>GSI科技公司专利>正文

精确指数和准确SOFTMAX计算制造技术

技术编号:20944310 阅读:39 留言:0更新日期:2019-04-24 02:19
一种用于关联存储器设备的方法,包括:将数字X的多比特尾数A划分为多个更小的部分尾数A_j,针对每个部分尾数A_j的每个可能值离线计算多个部分指数F(A_j),以及将多个部分指数F(A_j)存储在关联存储器设备的查找表(LUT)中。一种系统,包括:用于存储数字X的尾数A的多个部分尾数A_j的关联存储器阵列,以及用于利用部分尾数来计算e的X次幂的指数计算器。

Accurate Index and Accurate SOFTMAX Calculations

A method for associative memory devices includes: dividing the multi-bit tail A of digital X into several smaller part tails A_j, calculating several part exponents F (A_j) offline for each possible value of the tail A_j of each part, and storing multiple part exponents F (A_j) in the lookup table (LUT) of the associative memory device. A system includes an associative memory array for storing multiple parts of the tail A of digital X and an exponential calculator for calculating the X power of E by using part of the tail A.

【技术实现步骤摘要】
精确指数和准确SOFTMAX计算相关申请的交叉引用本申请要求享有于2017年10月15日提交的美国专利申请15/784,152的优先权,该申请通过引用并入本文。
本专利技术总体上涉及关联计算,并且具体地涉及使用关联计算的数据挖掘算法。
技术介绍
数据挖掘是发现大数据集中的模式的计算过程。数据挖掘使用不同的技术来分析大数据集,其中的一种技术是分类。分类用于基于存储在数据集中的、其组成员资格已知的数据项来预测数据实例的组成员资格。softmax回归是各种多类分类方法中使用的已知数据挖掘分类方法中的一种,例如,多项逻辑回归、多类线性判别分析、朴素贝叶斯分类器、人工神经网络,以及应用于包括计算机视觉、语音识别、自然语言处理、音频识别、社交网络过滤、机器翻译、生物信息学和其他的领域的其他深度学习算法。softmax回归将任意实数值的N维向量“压缩”到范围[0,1]中的实数值的N维向量,其加起来为1,并且在等式1中定义:其中N是数据集的大小,并且xi和xj是浮点数,分别表示存储在数据集中位置i和j的原始值。在分类算法中,softmax回归计算对象属于N个定义的类中的每个类的概率。可以在存储器中使本文档来自技高网...

【技术保护点】
1.一种用于关联存储器设备的方法,所述方法包括:将数字X的多比特尾数A划分为多个更小的部分尾数A_j;针对每个所述部分尾数A_j的每个可能值离线计算多个部分指数F(A_j);以及将所述多个部分指数F(A_j)存储在所述关联存储器设备的查找表(LUT)中。

【技术特征摘要】
2017.10.15 US 15/784,1521.一种用于关联存储器设备的方法,所述方法包括:将数字X的多比特尾数A划分为多个更小的部分尾数A_j;针对每个所述部分尾数A_j的每个可能值离线计算多个部分指数F(A_j);以及将所述多个部分指数F(A_j)存储在所述关联存储器设备的查找表(LUT)中。2.根据权利要求1所述的方法,其中,所述离线计算包括使用大量泰勒级数系数。3.根据权利要求1所述的方法,还包括将部分尾数A_j的每个可能值k与多个部分尾数Ai_j进行比较,一次比较一个值,每个部分尾数Ai_j存储在所述关联存储器设备的分区sec-A_j的列i中,并且标记存储所述值k的、每个分区sec-A_j的每个列i。4.根据权利要求3所述的方法,还包括从所述LUT的行k读取所述部分指数F(A_j),并且同时将每个所读取的部分指数F(A_j)写入每个相关联的分区sec-F_j的所有所标记的列。5.根据权利要求4所述的方法,还包括同时在每个列i上进行以下操作:将存储在每个sec-F_j中的部分指数相乘;以及将所述相乘的结果存储在分区sec-ex的列i中,所述结果是e的所述X次幂的值。6.根据权利要求5所述的方法,还包括利用存储在所述分区sec-ex中的所述值来计算以下中的一个:softmax、softplus、sigmoid以及tanh。7.根据权利要求5所述的方法,还包括同时在sec-ex的每个行上进行以下操作:对具有预定义值的比特数进行计数;以及将所述计数的结果存储在向量SUM中。8.根据权利要求7所述的方法,其中,所述预定义值是一。9.根据权利要求7所述的方法,还包括对存储在sec-ex中的值进行归一化,并且将所述归一化的值存储在sec-S中。10.根据权利要求9所述的方法,其中,所述归一化包括同时将所述sec...

【专利技术属性】
技术研发人员:A·奥凯里博
申请(专利权)人:GSI科技公司
类型:发明
国别省市:美国,US

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1