存储器查找机制的方法与系统以及存储器裸片技术方案

根据本公开的一些示例性实施例，提供一种存储器查找机制的方法与系统以及存储器裸片，所述方法包括：使用存储器裸片、利用查找表方法学通过存取被存储在所述存储器裸片上的查找表来实施乘法运算，所述查找表包括浮点运算结果；由所述存储器裸片向逻辑裸片发送所述乘法运算的结果，所述逻辑裸片包括处理器及缓冲器；以及由所述逻辑裸片使用计算单元实施矩阵乘法运算。

Method and System of Memory Finding Mechanism and Bare Memory Chip

【技术实现步骤摘要】
存储器查找机制的方法与系统以及存储器裸片[相关申请的交叉参考]本申请主张在2017年12月26日提出申请的美国临时专利申请第62/610,439号的优先权及权利，所述美国临时专利申请的内容全文并入本申请供参考。
本文所公开的实施例的一个或多个方面涉及一种高带宽存储器查找机制系统。
技术介绍
新兴应用(比如，深度神经网络)使用大规模计算及存储能力来对不同的数据集进行训练并以高准确度进行学习。此外，随着应用(比如，高性能计算(HighPerformanceComputing，HPC)图形算法)变得计算密集，能量高效性及低延迟变得日益重要。因此，对存储及计算资源(例如，用于存储权重及中间结果的存储器、以及主要用于基本线性代数子程序(BasicLinearAlgebraSubprograms，BLAS)内核及一般矩阵对矩阵乘法(GeneralMatrixtoMatrixMultiplication，GEMM)内核的加速的计算)的需求明显增加。
技术实现思路
本公开实施例的各个方面涉及一种高带宽存储系统中的存储器查找机制。根据本公开的一些示例性实施例，提供一种在高带宽存储系统中用于存储器查找机制的本文档来自技高网...

【技术保护点】
1.一种在高带宽存储系统中用于存储器查找机制的方法，包括：使用存储器裸片、利用查找表方法学通过存取被存储在所述存储器裸片上的查找表来实施乘法运算，所述查找表包括浮点运算结果；由所述存储器裸片向逻辑裸片发送所述乘法运算的结果，所述逻辑裸片包括处理器及缓冲器；以及由所述逻辑裸片使用计算单元实施矩阵乘法运算。

【技术特征摘要】
2017.12.26 US 62/610,439;2018.03.06 US 15/913,7581.一种在高带宽存储系统中用于存储器查找机制的方法，包括：使用存储器裸片、利用查找表方法学通过存取被存储在所述存储器裸片上的查找表来实施乘法运算，所述查找表包括浮点运算结果；由所述存储器裸片向逻辑裸片发送所述乘法运算的结果，所述逻辑裸片包括处理器及缓冲器；以及由所述逻辑裸片使用计算单元实施矩阵乘法运算。2.根据权利要求1所述的方法，其中所述查找表方法学包括浮点完全乘积乘法方法，所述浮点完全乘积乘法方法包括：由所述存储器裸片使用完整标量浮点输入从所述查找表检索完整标量乘法结果，所述查找表包括多个完整乘积乘法结果；由所述存储器裸片将所述完整标量乘法结果从所述查找表发送到所述缓冲器；由所述缓冲器将所述完整标量乘法结果发送到所述逻辑裸片上的累加器；以及由所述累加器累加所述完整标量乘法结果。3.根据权利要求1所述的方法，其中所述查找表方法学包括浮点部分乘积乘法方法，所述浮点部分乘积乘法方法包括：由所述存储器裸片使用分数标量浮点输入从包括多个部分乘积乘法结果的所述查找表检索部分乘积乘法结果；由所述存储器裸片将所述部分乘积乘法结果发送到所述缓冲器；由所述缓冲器将所述部分乘积乘法结果发送到所述逻辑裸片上的调整器；由所述调整器将所述部分乘积乘法结果发送到所述逻辑裸片上的累加器；以及由所述累加器累加所述部分乘积乘法结果。4.根据权利要求1所述的方法，其中所述查找表方法学包括浮点张量运算方法，所述浮点张量运算方法包括：由所述存储器裸片使用张量浮点输入从所述查找表检索张量乘法结果，所述查找表包括多个张量乘法结果；由所述存储器裸片将所述张量乘法结果发送到所述缓冲器；以及由所述缓冲器将所述张量乘法结果发送到所述逻辑裸片上的张量后处理器。5.根据权利要求1所述的方法，其中所述查找表方法学包括浮点融合层运算方法，所述浮点融合层运算方法包括：由所述存储器裸片使用完整标量浮点从包括多个完整乘积乘法结果的所述查找表检索完整乘积乘法结果；由所述存储器裸片将所述完整乘积乘法结果发送到缓冲器裸片，所述缓冲器裸片包括与所述逻辑裸片的所述缓冲器分开的多个缓冲器；由所述缓冲器裸片将所述完整乘积乘法结果发送到所述逻辑裸片的所述缓冲器；以及由所述逻辑裸片的所述缓冲器将所述完整乘积乘法结果发送到所述逻辑裸片上的张量处理器。6.根据权利要求1所述的方法，其中还包括：在所述存储器裸片上存储与第一类型的运算相关联的所述查找表；以及在所述存储器裸片上存储与所述第一类型的运算不同的第二类型的运算相关联的所述查找表。7.根据权利要求1所述的方法，其中还包括：读取第一层输入特征图中的每一个可能位置；将所述第一层输入特征图与第一层内核进行卷积；以及基于所述卷积产生第二层输入特征图的结果。8.一种高带宽存储器查找机制系统，包括：逻辑裸片，包括处理器及缓冲器，其中所述处理器利用计算单元实施矩阵乘法运算；以及存储器裸片，包括查找表，其中所述查找表包括浮点运算结果。9.根据权利要求8所述的系统，其中所述存储器裸片执行包括以下的操作：存取所述查找表；利用查找表方...

【专利技术属性】
技术研发人员：谷芃，克里希纳·T·马拉迪，郑宏忠，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：韩国,KR