存储装置及其操作方法制造方法及图纸

公开了一种操作包括神经网络处理器的存储装置的方法和一种存储器装置，该方法包括：由控制器装置响应于主机装置的命令输出指示神经网络处理器执行神经网络操作的触发器信号；由神经网络处理器响应于触发器信号向存储目标模型数据和指令数据的存储器装置请求关于目标模型的参数的目标模型数据和用于指示神经网络操作的指令数据；由神经网络处理器从存储器装置接收目标模型数据和指令数据；以及由神经网络处理器基于目标模型数据和指令数据输出推断数据。据输出推断数据。据输出推断数据。

【技术实现步骤摘要】
存储装置及其操作方法
[0001]相关申请的交叉引用
[0002]本申请基于并且要求于2020年9月11日在韩国知识产权局提交的韩国专利申请No.10
‑
2020
‑
0117046的优先权，该申请的公开以引用方式全文并入本文中。


[0003]本专利技术构思涉及一种存储装置，并且更具体地说，涉及一种包括神经网络处理器的存储装置以及操作该存储装置的方法。

技术介绍

[0004]存储装置被配置为基于需要许多用于学习和推断的操作的深度学习模式执行神经网络操作。当移动装置难以提供深度学习所需的计算功率时，移动装置可以将数据发送至云服务器，云服务器可以执行用于深度学习的操作，移动装置可以接收操作的结果并且将深度学习推断数据提供给用户。然而，在该处理中，可能出现以下问题，诸如，持续带来使用云服务的成本，以及不能离线从云服务器接收推断数据。
[0005]因此，专用于神经网络操作的神经处理单元(NPU)内置于移动装置中，因此，移动装置自身可以执行神经网络操作。

技术实现思路

[0006]本专利技术构思提供了一种能够通过改进存储装置的控制器与神经网络处理器之间的命令来有效地执行神经网络操作的存储装置。例如，根据本专利技术构思的一方面，可以通过消除存储装置的控制器与神经网络处理器之间的不必要的命令来执行神经网络操作。
[0007]根据本公开的一方面，提供了一种操作包括神经网络处理器的存储装置的方法，所述方法包括：由控制器装置基于主机装置的命令输出指示神经网络处理器执行神经网络操作的信号；由神经网络处理器基于信号从存储目标模型数据和指令数据的存储器装置请求目标模型数据和指令数据，目标模型数据与目标模型的参数相对应，指令数据用于基于目标模型执行神经网络操作；由神经网络处理器从存储器装置接收目标模型数据和指令数据；以及由神经网络处理器基于目标模型数据和指令数据输出推断数据。
[0008]根据本公开的另一方面，提供了一种存储装置，该存储装置包括：控制器装置，其被配置为基于来自主机装置的命令输出指示神经网络操作的第一信号；存储器装置，其被配置为，在存储器装置中的页的第一页区域中存储与目标模型的参数相对应的目标模型数据，以及在存储器装置中的该页的第二页区域中存储用于指示神经网络操作的指令数据；以及神经网络处理器，其被配置为：基于第一信号将第二信号输出至存储器装置，第二信号包括从存储器装置对目标模型数据和指令数据的请求，从存储器装置接收目标模型数据和指令数据，以及基于目标模型数据和指令数据输出推断数据。
[0009]根据本公开的另一方面，提供了一种存储器装置，该存储器装置包括：包括多个页的存储器单元阵列；以及存储器控制器装置，其被配置为：基于针对目标页的读取命令对多
个页中的目标页执行读取操作，以及输出目标页，其中，多个页中的每一个包括：第一页区域，其被配置为存储与将在其上执行神经网络操作的目标模型相对应的目标模型数据；以及第二页区域，其被配置为存储用于指示目标模型上的神经网络操作的指令数据。
[0010]根据本公开的另一方面，提供了一种由神经网络处理器执行的方法，所述方法包括：接收命令以执行神经网络的命令；基于命令从存储目标模型数据和指令数据的存储器装置请求目标模型数据和指令数据，目标模型数据与目标模型的参数相对应，指令数据用于基于目标模型执行神经网络操作；从存储器装置接收目标模型数据和指令数据；基于目标模型数据和指令数据生成推断数据；以及输出推断数据。
[0011]根据本公开的另一方面，提供了一种存储装置，该存储装置包括：存储一个或多个指令的存储器；以及处理器，其被配置为执行一个或多个指令，从而：接收命令以执行神经网络；基于命令输出从存储目标模型数据和指令数据的存储器装置对目标模型数据和指令数据的请求，目标模型数据与目标模型的参数相对应，指令数据用于基于目标模型执行神经网络操作；从存储器装置接收目标模型数据和指令数据；基于目标模型数据和指令数据生成推断数据；以及输出推断数据。
附图说明
[0012]将根据以下结合附图的详细描述更清楚地理解本专利技术构思的实施例，其中：
[0013]图1是根据示例实施例的神经网络系统的示意性框图；
[0014]图2是示出根据比较实施例的存储装置和应用处理器(AP)的组件以及存储装置与AP之间的控制信号的框图；
[0015]图3是根据示例实施例的操作存储装置的方法的流程图；
[0016]图4是根据示例实施例的神经网络层的示图；
[0017]图5是根据示例实施例的通过对多个层执行神经网络操作生成推断数据的方法的流程图；
[0018]图6是根据示例实施例的神经网络处理器的示图；
[0019]图7是包括第一页区域和第二页区域的多个页的示图；
[0020]图8是页组PG被分别映射至多个层的示例的示图；
[0021]图9是当针对每层指定多个页时从存储器接收与每层相对应的数据的示例的示图；
[0022]图10是根据每层的运算强度确定将存储层数据的存储器装置的示例的流程图；
[0023]图11是示出根据图10的示例实施例的映射针对每层确定的存储位置的表的示图；以及
[0024]图12是根据将存储在存储器装置中的数据的大小确定是否划分数据以及是否存储数据的示例的流程图。
具体实施方式
[0025]现在将参照附图更充分地描述实施例。
[0026]图1是根据示例实施例的神经网络系统的示意性框图。
[0027]神经网络系统可以训练神经网络。根据示例实施例，神经网络系统可以通过使用
神经网络分析输入数据并推断输入数据中包括的信息。例如，神经网络系统可以通过使用神经网络和训练数据进行学习。神经网络系统可以基于推断的信息确定安装有神经网络系统的电子装置的组件的情况或者控制该电子装置的组件。例如，神经网络系统可以应用于智能电话、平板装置、智能电视(TV)、增强现实(AR)装置、物联网(IoT)装置、自动车辆、机器人、医疗装置、无人机、高级驾驶员辅助系统(ADAS)、图像显示装置和测量装置，这些装置使用神经网络执行语音识别操作、图像识别操作、图像分类操作以及图像处理操作。另外，神经网络系统可以安装在各种类型的电子装置中的一种中。
[0028]参照图1，神经网络系统可包括存储装置10、应用处理器(AP)20和随机存取存储器(RAM)30。神经网络系统还可包括输入/输出(I/O)模块、安全模块和功率控制装置，并且还包括各种处理器。在一些示例实施例种，神经网络系统的组件中的一些或全部可形成在单个半导体芯片上。例如，神经网络系统可以实施为片上系统(SoC)。然而，本公开不限于此，这样，根据另一示例实施例，神经网络系统可形成在多个半导体芯片上。
[0029]AP 20可包括中央处理单元(CPU)21和神经处理单元(NPU)22。CPU 21可以控制AP 20的全部操作。CPU 21可包括单核或者多个处理器核(或多核)。C本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种操作包括神经网络处理器的存储装置的方法，所述方法包括：由控制器装置基于来自主机装置的命令输出指示所述神经网络处理器执行神经网络操作的信号；由所述神经网络处理器基于所述信号从存储目标模型数据和指令数据的存储器装置请求所述目标模型数据和所述指令数据，所述目标模型数据与目标模型的参数相对应，并且所述指令数据用于基于所述目标模型执行所述神经网络操作；由所述神经网络处理器从所述存储器装置接收所述目标模型数据和所述指令数据；以及由所述神经网络处理器基于所述目标模型数据和所述指令数据输出推断数据。2.根据权利要求1所述的方法，其中，请求所述目标模型数据和所述指令数据的步骤包括：指定所述存储器装置的页地址，以及请求在所述页地址中一起写入的目标模型数据和指令数据。3.根据权利要求2所述的方法，其中，请求所述目标模型数据和所述指令数据的步骤包括：当在指定的页地址中写入的指令数据包括与下一页地址相对应的信息时，从所述下一页地址请求所述目标模型数据和所述指令数据。4.根据权利要求1所述的方法，其中，输出所述推断数据的步骤包括：通过基于所述指令数据对输入数据执行一系列操作，输出与所述目标模型的每层相对应的结果数据。5.根据权利要求4所述的方法，其中，请求所述目标模型数据和所述指令数据的步骤包括：基于所述信号从所述存储器装置请求与所述目标模型的第一层相对应的第一层数据和所述指令数据。6.根据权利要求5所述的方法，其中，输出所述推断数据的步骤包括：从所述存储器装置接收所述第一层数据和所述指令数据，并且通过在所述第一层上执行所述神经网络操作来生成第一结果数据；以及由所述神经网络处理器基于所述第一结果数据从所述存储器装置请求第二层数据。7.根据权利要求6所述的方法，其中，输出所述推断数据的步骤包括：通过使用所述第一结果数据作为输入数据在第二层上执行所述神经网络操作来生成第二结果数据；以及基于确定所述第二层为所述目标模型的最后一层来生成所述第二结果数据作为所述推断数据。8.根据权利要求1所述的方法，其中，输出所述推断数据的步骤包括：划分所述目标模型数据和所述指令数据；以及将所述目标模型数据和所述指令数据分别存储在分离的缓冲器存储器中。9.根据权利要求1所述的方法，还包括：将所述目标模型数据和所述指令数据一起存储在所述存储器装置的每一页中。10.根据权利要求9所述的方法，其中，存储所述目标模型数据和所述指令数据的步骤包括：将与所述目标模型的每层相对应的层数据和所述指令数据存储在每个页组中。11.根据权利要求9所述的方法，其中，存储所述目标模型数据和所述指令数据的步骤
包括：基于用于在所述目标模型的每层上执行所述神经网络操作的运算强度来识别将存储与所述目标模型的每...

【专利技术属性】
技术研发人员：尹晟老，崔赫埈，朴成植，金世埈，
申请(专利权)人：首尔大学校产学协力团，
类型：发明
国别省市：