存储器中的辅助AI处理制造技术

设备和方法可涉及存储器中的辅助AI处理。加速器和/或主机可执行AI处理。包含所述AI处理的一些操作可由存储器装置而不是加速器和/或主机来执行。所述存储器装置可与所述主机和/或加速器共同执行AI处理，以增加所述主机和/或加速器的效率。和/或加速器的效率。和/或加速器的效率。

【技术实现步骤摘要】
【国外来华专利技术】存储器中的辅助AI处理


[0001]本公开大体上涉及存储器，且更具体地说，涉及与存储器中的辅助人工智能(AI)处理相关联的设备和方法。

技术介绍

[0002]存储器装置通常提供为计算机或其它电子装置中的内部电路、半导体电路、集成电路。存在许多不同类型的存储器，包含易失性和非易失性存储器。易失性存储器可需要电力来维持其数据，且包含随机存取存储器(RAM)、动态随机存取存储器(DRAM)和同步动态随机存取存储器(SDRAM)等。非易失性存储器可通过在未被供电时保持所存储数据来提供永久性数据，且可包含NAND快闪存储器、NOR快闪存储器、只读存储器(ROM)、电可擦除可编程ROM(EEPROM)、可擦除可编程ROM(EPROM)和电阻可变存储器，所述电阻可变存储器例如相变随机存取存储器(PCRAM)、电阻性随机存取存储器(RRAM)和磁阻随机存取存储器(MRAM)等。
[0003]存储器还用作易失性和非易失性数据存储装置以用于广泛范围的电子应用，包含但不限于，个人计算机、便携式记忆棒、数码相机、蜂窝电话、例如MP3播放器的便携式音乐播放器、影片播放器和其它电子装置。存储器单元可布置成阵列，其中所述阵列用于存储器装置中。
[0004]各种计算系统包含耦合到存储器(例如，存储器系统)的数个处理资源，所述存储器与执行指令集(例如，程序、应用程序等)相关联地被存取。处理资源可以执行指令以执行人工智能(AI)。处理资源可以专用于执行AI。AI可以包含学习和/或解决问题。举例来说，AI的特点可在于其具有解决问题和学习的能力，从而使解决问题的成功率随着时间和/或所识别的实例的增加而增加。AI还可包含感知对应于正在解决的问题的环境的能力。举例来说，AI可用以识别图像的特征，其中图像是所述环境，且利用识别的若干次成功和失败来改进特征识别的成功率。
附图说明
[0005]图1为根据本公开的数个实施例的呈包含存储器装置的计算系统形式的设备的框图。
[0006]图2为根据本公开的数个实施例的呈包含存储器装置和处理资源的计算机系统形式的设备的框图。
[0007]图3是根据本公开的数个实施例的包含多个层的实例存储器装置的框图。
[0008]图4是根据本公开的数个实施例的存储器装置和在存储器装置外部的多个处理资源的框图。
[0009]图5示出根据本公开的数个实施例的用于存储器中的辅助AI处理的方法的实例流程图。
[0010]图6示出可在其内执行用于使机器执行本文所论述的各种方法的指令集的计算机系统的实例机器。
具体实施方式
[0011]本公开包含涉及存储器中的辅助人工智能(AI)处理的设备和方法。AI可以包含机器学习。机器学习可以包含不使用显式指令，而是依赖于从数据集导出的模式和/或推理来执行任务。如本文中所使用，提到的AI还可包含提到的机器学习。机器学习可以包含训练神经网络，或使用训练好的神经网络进行推理，或两者兼而有之。
[0012]处理资源可被配置成执行与AI相吻合的操作。举例来说，处理资源可以执行用于电子邮件筛选、计算机视觉、数据挖掘和/或自然语言以及其它可以实施AI的领域的指令。处理资源可以是通用的，例如作为主机一部分的处理资源。在各种情况下，处理资源可以专用于AI。举例来说，处理资源可以包含AI芯片，所述AI芯片还可被称作AI加速器和/或AI处理资源。AI芯片也可被称作加速器。
[0013]AI芯片可以是用于AI应用程序的处理资源，所述AI应用程序包含神经网络(例如，人工神经网络)、机器视觉和/或机器学习。AI芯片可用于移动装置、物联网(IOT)装置和其它执行数据密集型或传感器驱动任务的装置。
[0014]在一些情况下，AI芯片可以执行可以被转移到一不同处理资源的操作。将任务转移到不同处理资源可以增加AI芯片的效率，和/或可以降低AI芯片的复杂度。在处理资源与供AI芯片使用的数据共同位于一个存储器装置中的实例中，AI芯片的效率可以增加，这是由于将数据从存储器装置移动到处理资源会存在对应的时延。
[0015]从用于AI应用程序的处理资源中转移走任务可被称为存储器中的辅助AI处理。在一些实例中，协助AI芯片也可被视为辅助AI处理。举例来说，存储器装置可以通过准备供AI芯片使用的数据和/或通过准备由AI芯片产生的数据以存储在存储器装置中来辅助AI处理。存储器装置也可以通过处理由AI芯片产生和指定传递给AI芯片和/或例如主机等不同处理资源的数据来辅助AI处理。
[0016]在一些实例中，AI处理可以通过执行除准备数据以外可由AI芯片执行的操作来辅助。举例来说，存储器装置可以利用由存储器装置实施的神经网络来执行机器学习。供神经网络使用的数据可以由AI芯片产生，且神经网络的结果可以由AI芯片用来进行AI处理。如本文中所使用，AI处理可以包含执行用于AI的操作。机器学习操作可以包含用于机器学习的操作。
[0017]如本文中所使用，“数个”某物可指一或多个此类事物。举例来说，数个存储器装置可指一或多个存储器装置。“多个”某物意指两个或多于两个。另外，如本文中所使用的例如“N”的指定符，尤其是关于图式中的附图标记指示如此指定的数个特定特征可与本公开的数个实施例一起包含。
[0018]本文中的图式遵循编号规定，其中第一一或多个数字对应于图式编号，且剩余的数字标识图式中的元件或组件。可通过使用类似数字来标识不同图式之间的类似元件或组件。如将了解，可添加、交换和/或去除本文中的各种实施例中展示的元件，以提供本公开的数个额外实施例。另外，图式中提供的元件的比例和/或相对尺寸意图说明本公开的某些实施例，且并不在限制意义上使用。
[0019]图1为根据本公开的数个实施例的呈包含存储器装置103的计算系统100形式的设备的框图。如本文中所使用，存储器装置103、存储器阵列110和/或主机102例如还可被单独视为“设备”。
[0020]在此实例中，系统100包含经由接口104耦合到存储器装置103的主机102。计算系统100可以是个人膝上型计算机、台式计算机、数码相机、移动电话、存储卡读卡器，或支持物联网(IoT)的装置以及各种其它类型的系统。主机102可包含能够存取存储器120的数个处理资源(例如，一或多个处理器、微处理器或某一其它类型的控制电路)。系统100可包含单独的集成电路，或主机102与存储器装置103两者可在同一集成电路上。举例来说，主机102可以是包括多个存储器装置103的存储器系统的系统控制器，其中系统控制器102提供通过例如中央处理单元(CPU)的另一处理资源对相应存储器装置103进行存取。主机102还可为被配置成进行AI处理的AI芯片。
[0021]在图1所示的实例中，主机102负责执行可以加载在其中(例如，经由控制电路105从存储器装置103加载)的操作系统(OS)和/或各种应用程序(例如，AI过程)。可通过将用以存取包括OS和/或各种应用程序的数据的存取命令从主机102提供到存储器装置103来从存储器装置103加本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种设备，其包括：存储器阵列；输入/输出电路；处理资源；耦合于所述存储器阵列与所述输入/输出电路之间和所述处理资源与所述输入/输出电路之间的数据线；以及耦合到所述存储器阵列和所述处理资源的控制电路，其中所述控制电路被配置成：响应于不带有预处理未经处理的数据的请求的第一存取命令，使所述数据从所述存储器阵列传递到所述输入/输出电路；响应于带有预处理从所述存储器阵列存取的数据的请求的第二存取命令，使所述处理资源对所述数据执行操作；以及使所述经预处理的数据从所述处理资源传递到所述输入/输出电路。2.根据权利要求1所述的设备，其中所述处理资源包含在所述存储器阵列下方的被配置成多个逻辑块的互补金属氧化物半导体。3.根据权利要求1所述的设备，其中所述处理资源包含与所述存储器阵列分离的在所述设备上的芯片。4.根据权利要求1所述的设备，其中所述存储器阵列包含动态随机存取存储器阵列。5.根据权利要求1所述的设备，其中被配置成使所述处理资源执行所述操作的所述控制电路被另外配置成使所述数据从一格式转换成一不同格式。6.根据权利要求5所述的设备，其中被配置成使所述数据进行转换的所述控制电路被另外配置成使所述数据从YCC格式解压成RGB格式。7.根据权利要求1到6中任一权利要求所述的设备，其中所述存取命令包含主机装置或加速器所请求的执行所述操作的请求。8.根据权利要求7所述的设备，其中所述操作包含在将所述数据提供到所述主机装置或加速器之前对所述数据的预处理。9.根据权利要求1到6中任一权利要求所述的设备，其中所述数据的大小包含总线宽度。10.根据权利要求1到6中任一权利要求所述的设备，其中所述数据的大小包含多个总线宽度。11.一种方法，其包括：从主机装置或加速器接收存取命令和处理数据的请求；响应于接收到所述存取命令和处理所述数据的所述请求，激活具有对应于所述存取命令的地址的存储器...

【专利技术属性】
技术研发人员：H，
申请(专利权)人：美光科技公司，
类型：发明
国别省市：