存储器系统及其操作方法技术方案

技术编号:33880047 阅读:18 留言:0更新日期:2022-06-22 17:09
本公开提供了一种存储器系统及其操作方法。该存储器系统包括:多个存储器装置,被配置为存储通过对嵌入表进行分区而获得的部分数据条,该嵌入表包括关于已经获取的学习模型的项的向量信息条;以及存储器控制器,被配置为响应于从主机接收的查询,从多个存储器装置中的每一个获得部分数据条之中与查询相对应的数据条,使用已经获得的数据条来执行用于生成嵌入数据的池化操作,并将嵌入数据提供到主机。机。机。

【技术实现步骤摘要】
存储器系统及其操作方法
[0001]相关申请的交叉引用
[0002]本申请要求于2020年12月18日向韩国知识产权局提交的、申请号为10

2020

0178442的韩国专利申请的优先权,该韩国专利申请通过引用整体并入本文。


[0003]本公开的各个实施例总体上涉及一种电子装置,并且更特别地,涉及一种存储器控制器及其操作方法。

技术介绍

[0004]存储器系统通常响应于诸如计算机或智能电话的主机装置的控制而存储数据。存储器系统包括存储数据的存储器装置以及控制存储器装置的存储器控制器。存储器装置通常被分类为易失性存储器装置或非易失性存储器装置。
[0005]易失性存储器装置仅在向其供电时才存储数据,并且在没有电力供应的情况下丢失所存储的数据。易失性存储器装置的示例包括静态随机存取存储器(SRAM)和动态随机存取存储器(DRAM)。
[0006]非易失性存储器装置即使在没有电力供应的情况下,也保留所存储的数据。非易失性存储器装置的示例包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)和闪速存储器。

技术实现思路

[0007]本公开的各个实施例涉及一种执行近数据处理(NDP)的多个改进的子存储器系统以及包括子存储器系统的池化存储器系统。
[0008]根据本公开的实施例,一种存储器系统可以包括:多个存储器装置,被配置为存储通过对嵌入(embedding)表进行分区而获得的部分数据条,该嵌入表包括关于已经获取的学习模型的项的向量信息条;以及存储器控制器,被配置为响应于从主机接收的查询,从多个存储器装置中的每一个获得部分数据条之中与查询相对应的数据条,使用已经获得的数据条来执行用于生成嵌入数据的池化操作,并将嵌入数据提供到主机,其中查询包括对池化操作的请求、主机存储器接收嵌入数据的地址以及与多个存储器装置之中的任意一个相对应的物理地址。
[0009]根据本公开的实施例,一种存储器系统可以包括:多个存储器装置,被配置为存储通过对嵌入表进行分区而获得的部分数据条,该嵌入表包括关于已经获取的学习模型的项的向量信息条;以及存储器控制器,被配置为响应于从主机接收的查询以及嵌入数据,使用嵌入数据来执行用于生成分区数据条的去池化(unpooling)操作,并控制多个存储器装置更新与多个存储器装置的每一个中存储的分区数据条相对应的部分数据。
[0010]根据本公开的实施例,一种池化存储器系统可以包括主机装置和多个子存储器系统,该多个子存储器系统被配置为存储通过对嵌入表进行分区而获得的部分数据条,该嵌
入表包括关于已经获取的学习模型的项的向量信息条,其中主机装置被配置为:向多个子存储器系统广播第一查询,并通过使用第一查询控制多个子存储器系统中的每一个获得部分数据条之中与第一查询相对应的数据条,使用已经获得的数据条来执行用于生成嵌入数据的池化操作,以及将嵌入数据提供到主机装置。
[0011]根据本公开的实施例,一种池化存储器系统可以包括多个子存储器系统,多个子存储器系统中的每一个包括:存储器装置,被配置为存储通过对嵌入表进行分区而获得的部分数据条,该嵌入表包括关于已经获取的学习模型的项的向量信息条;以及存储器控制器,被配置为执行用于生成嵌入数据条的池化操作以及用于对训练数据进行分区的去池化操作,池化存储器系统还包括主机装置,被配置为使用从多个子存储器系统接收的嵌入数据条来生成训练数据,并控制多个子存储器系统学习训练数据。
附图说明
[0012]图1是示出根据本公开的实施例的池化存储器系统的框图;
[0013]图2是示出根据本公开的实施例的子存储器系统的框图;
[0014]图3是示出根据本公开实施例的嵌入表的示图;
[0015]图4是示出根据本公开的实施例的存储部分数据条的方法的示图;
[0016]图5是示出根据本公开的实施例的存储部分数据条的方法的示图;
[0017]图6是示出根据本公开的实施例的存储部分数据条的方法的示图;
[0018]图7是示出根据本公开的实施例的查找操作和池化操作的示图;
[0019]图8是示出根据本公开的实施例的推理(inference)操作的示图;
[0020]图9是示出根据本公开的实施例的训练操作的示图;
[0021]图10是示出根据本公开的实施例的主机装置和子存储器系统的通信包的示图;
[0022]图11是示出根据本公开的实施例的推理操作和训练操作的示图;以及
[0023]图12是示出根据本公开的另一实施例的存储器控制器的配置的框图。
具体实施方式
[0024]例示了根据本说明书中公开的概念的实施例的具体结构或功能描述仅用于描述根据概念的实施例。根据概念的实施例可以通过各种形式来执行,但是描述不限于本说明书中描述的实施例。
[0025]可以根据概念对实施例应用各种修改和改变,使得将在附图中示出并在说明书中描述实施例。然而,根据本公开的概念的实施例不被解释为限于特定的公开,而是包括不脱离本公开的精神和技术范围的所有变化、等同形式或替代形式。在一些实施例中,将不再详细描述众所周知的进程、装置结构和技术,以避免模糊本公开。旨在通过省略不必要的描述来更清楚地公开本公开的要旨。
[0026]在下文中,将参照附图描述本公开的各个实施例以详细描述本公开。
[0027]图1是示出根据本公开的实施例的池化存储器系统10000的框图。
[0028]参照图1,池化存储器系统10000可以包括多个子存储器系统1000和主机装置2000。
[0029]池化存储器系统10000可以是提供推荐系统服务的装置。推荐系统服务可以是指
通过过滤信息为用户提供个性化信息的服务。池化存储器系统10000可以通过查询用户的个人信息、兴趣、偏好等来获得用户信息简况,并且可以基于所获得的用户信息简况来推荐或提供适合用户偏好信息的信息和项。
[0030]推荐系统服务可以被实施为用于高性能的训练和推理的基于深度学习的算法,以有效地使用或提供大量且不断增加的服务数据量。然而,由于基于深度学习的推荐系统主要基于主机装置来执行嵌入操作等,因此可能会导致带宽问题,并且可能会由于需要海量服务数据而导致存储器容量不足。
[0031]根据本公开的实施例,池化存储器系统10000可以提供具有足够存储器容量并且没有带宽问题的推荐系统服务,也就是说,池化存储器系统10000可以通过能够增加存储器容量的池化存储器结构来确保足够的存储器容量,并且可以被实施为执行近数据处理(NDP)以解决带宽问题。更具体地,池化存储器系统10000可以被实施为包括多个子存储器系统1000的池化存储器结构,在多个子存储器系统1000中,多个存储器装置彼此并联联接。另外,池化存储器系统10000可以控制多个子存储器系统1000执行与嵌入操作相关的简单操作。
[00本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种存储器系统,包括:多个存储器装置,存储通过对嵌入表进行分区而获得的部分数据条,所述嵌入表包括关于已经获取的学习模型的项的向量信息条;以及存储器控制器,响应于从主机接收的查询,从所述多个存储器装置中的每一个获得所述部分数据条之中与所述查询相对应的数据条,使用已经获得的数据条执行用于生成嵌入数据的池化操作,并将所述嵌入数据提供到所述主机,其中所述查询包括对所述池化操作的请求、主机存储器接收所述嵌入数据的地址以及与所述多个存储器装置之中的任意一个相对应的物理地址。2.根据权利要求1所述的存储器系统,其中所述存储器控制器包括:读取操作控制组件,识别与所述查询相对应的物理地址,并控制所述多个存储器装置中的每一个读取与所述物理地址相对应的数据条;以及操作组件,通过压缩已经获得的数据条来执行用于生成所述嵌入数据的所述池化操作。3.根据权利要求2所述的存储器系统,其中所述操作组件对已经获得的数据条的向量信息执行逐元素求和运算以生成所述嵌入数据。4.根据权利要求1所述的存储器系统,其中所述嵌入数据是包括已经获得的数据条的向量信息的嵌入向量。5.根据权利要求1所述的存储器系统,其中所述嵌入表根据类别对所述项进行分类,并且包括基于已经分类的项之间的相似性而被数字化的向量信息条。6.根据权利要求1所述的存储器系统,其中所述部分数据条中的每一个是通过以所述向量信息条的维度为单位对所述嵌入表进行分区而获得的数据,并且其中所述多个存储器装置中的每一个存储与从所述嵌入表分区的至少一个维度相对应的部分数据。7.一种存储器系统,包括:多个存储器装置,存储通过对嵌入表进行分区而获得的部分数据条,所述嵌入表包括关于已经获取的学习模型的项的向量信息条;以及存储器控制器,响应于从主机接收的查询和嵌入数据,使用所述嵌入数据来执行用于生成分区数据条的去池化操作,并控制所述多个存储器装置更新与所述多个存储器装置的每一个中存储的分区数据条相对应的部分数据。8.根据权利要求7所述的存储器系统,其中所述存储器控制器包括:操作组件,执行用于将所述嵌入数据分区为分区数据条的所述去池化操作;以及权重更新组件,控制所述多个存储器装置更新与所述多个存储器装置的每一个中存储的分区数据条相对应的部分数据的权重。9.根据权利要求8所述的存储器系统,其中所述操作组件对所述嵌入数据的向量信息执行逐元素求和运算。10.根据权利要求7所述的存储器系统,其中所述查询包括对所述去池化操作的请求、与所述嵌入数据相对应的主机存储器的地址以及与所述多个存储器装置之中的任意一个相对应的物理地址。
11.根据权利要求7所述的存储器系统,其中所述嵌入表根据类别对所述项进行分类,并且包括基于已经分类的项之间的相似性而被数字化的向量信息条。12.根据权利要求7所述的存储器系统,其中所述部分数据条中的每一个是通过以所述向量信息条的维度为单位对所述嵌入表进行分区而获得的数据,并且其中所述多个存储器装置中的每一个存储与从所述嵌入表分区的至少一个维度相对应的部分数据。13.一种池化存储器系统,包括:主机装置;以及多个子存储器系统,存储通过对嵌入表进行分区而获得的部分数据条,所述嵌入表包括关于已经获取的学习模型的项的向量信息条,其中所述主机装置:...

【专利技术属性】
技术研发人员:李明贤
申请(专利权)人:爱思开海力士有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1