半导体装置、操作半导体装置的方法以及半导体系统制造方法及图纸

描述技术提供了用于促进人工智能操作的高效的半导体装置配置和改进处理。在示例中，半导体装置可以被配置有在人工智能操作之前存储数据的第一存储器以及在人工智能操作之后存储数据的第二存储器。使用第一存储器和第二存储器分别在人工智能操作之前和之后存储数据可以支持对半导体装置的简化布局，以利用最低的硬件配置和有限的软件促进人工智能操作。此外，使用第一存储器和第二存储器分别在人工智能操作之前和之后存储数据可以允许当输入数据和输出数据的域不同时进行处理。输入数据和输出数据的域不同时进行处理。输入数据和输出数据的域不同时进行处理。

【技术实现步骤摘要】
半导体装置、操作半导体装置的方法以及半导体系统
[0001]相关申请的交叉引用
[0002]本申请要求于2021年11月15日在韩国知识产权局提交的韩国专利申请No.10
‑
2021
‑
0157109和2022年5月11日在韩国知识产权局提交的韩国专利申请No.10
‑
2022
‑
0058034的优先权和权益，该申请的全部内容以引用方式全文并入本文中。


[0003]本公开涉及一种半导体装置、操作该半导体装置的方法、以及半导体系统。

技术介绍

[0004]神经网络(例如，人工神经网络)可以指从例如生物神经网络处理的生物学和认知科学中的处理受到启发的计算机模型(例如，统计学习算法)。人工神经网络可包括通过不同节点对之间的加权连接形成网络的多个节点(例如，人工神经元)。例如，加权连接可以类似于生物神经网络中的突触接合，不同的突触可以有不同的接合强度。人工神经网络的加权连接可以通过学习而调整，以产生期望的输出和解决各种问题(例如，可用于机器学习的各种应用)。
[0005]使用人工神经网络的算法可以通过使用例如图形处理单元(GPU)或神经处理单元(NPU)的通用处理器来执行。NPU可包括(例如，或指)专门用于机器学习算法的加速的微处理器。例如，NPU可以在例如人工网络或随机森林(RFs)的预测模型上操作。
[0006]在一些情况下，NPU可能按照使NPU对通用计算而言(例如，与中央处理单元(CPU)相比)效率低下(例如，不适合)的方式来设计。额外地或可替换地，用于NPU的软件支持可能并非为了通用计算而开发。
[0007]因此，可能需要高效利用神经网络技术的改进的处理和存储技术。

技术实现思路

[0008]本公开的一个或多个方面描述了一种半导体装置、操作该半导体装置的方法、以及半导体系统，其可以利用专门用于人工智能计算的硬件，甚至可以在资源有限的环境中操作。
[0009]根据本公开的一个或多个方面，半导体装置可包括：执行人工智能操作的操作器；各自被配置为存储人工智能操作中使用的特征图数据的第一存储器和第二存储器；以及被配置为存储人工智能操作中使用的训练参数的第三存储器，其中，操作器可以针对神经网络层分别使用第一存储器和第二存储器作为在人工智能操作前存储数据的第一空间和在人工智能操作后存储数据的第二空间。
[0010]在一些实施例中，操作器可以读取针对第一神经网络层的存储在第一存储器的特征图数据以执行人工智能操作；并且可以在第二存储器中存储人工智能操作的操作结果。
[0011]在一些实施例中，操作器可以读取针对在第一神经网络层之后的第二神经网络层的存储在第二存储器的特征图数据以执行人工智能操作；并且可以在第一存储器中存储人
工智能操作的操作结果。
[0012]在一些实施例中，操作器可以将人工智能操作划分为数据获取步骤、乘法步骤、累加步骤、和写入存储器步骤；并且可以使用流水线执行数据获取步骤、乘法步骤、累加步骤、和写入存储器步骤。
[0013]在一些实施例中，当特征图数据包括N行和M列时，并且当神经网络层对应于列层时，操作器可以每当执行数据获取步骤、乘法步骤和累加步骤N次时执行一次写入存储器步骤，其中N为大于或等于2的整数，M为大于或等于2的整数。
[0014]在一些实施例中，当特征图数据包括N行和M列时，并且当神经网络层对应于行层时，操作器可以每当执行数据获取步骤、乘法步骤和累加步骤M次时执行一次写入存储器步骤，其中N为大于或等于2的整数，M为大于或等于2的整数。
[0015]在一些实施例中，半导体装置还可包括预处理器，其被配置为对来自于一个或多个域的输入数据执行预处理用于人工智能操作，并将预处理后的数据提供给第一存储器或第二存储器。
[0016]在一些实施例中，半导体装置还可包括后处理器，其被配置为对来自于人工智能操作的输出数据执行后处理，并将后处理后的数据提供给一个或多个域。
[0017]在一些实施例中，操作器还可包括执行第一人工智能操作的第一操作器和执行与第一人工智能操作不同的第二人工智能操作的第二操作器，并且，第一操作器可以针对神经网络层分别使用第一存储器的部分区域和第二存储器的部分区域作为在第一人工智能操作之前存储数据的第三空间和在第一人工智能操作之后存储数据的第四空间。
[0018]在一些实施例中，第二操作器可以针对神经网络层分别使用第一存储器的另一部分区域和第二存储器的另一部分区域作为在第二人工智能操作之前存储数据的第五空间和在第二人工智能操作之后存储数据的第六空间。
[0019]本公开的一个或多个方面提供了操作半导体装置的方法，其包括步骤：将包括N行和M列的特征图数据提供给第一存储器，其中N为大于或等于2的整数，M为大于或等于2的整数；读取存储在第一存储器中的特征图数据，并对特征图数据的第一列至第M列执行第一人工智能操作；将第一人工智能操作的结果写入至第二存储器；读取存储在第二存储器中的特征图数据，并对特征图数据的第一行至第N行执行第二人工智能操作；以及将第二人工智能操作的结果写入至第一存储器。
[0020]在一些实施例中，执行第一人工智能操作的步骤可包括：使用流水线执行数据获取步骤、乘法步骤、累加步骤、和写入存储器步骤，并且在这种情况下，每当针对第一列至第M列中的一列执行数据获取步骤、乘法步骤和累加步骤N次时，执行一次写入存储器步骤。
[0021]在一些实施例中，执行第二人工智能操作的步骤可包括：使用流水线执行数据获取步骤、乘法步骤、累加步骤、和写入存储器步骤，并且在这种情况下，每当针对第一行至第N行中的一行而执行数据获取步骤、乘法步骤和累加步骤M次时，执行一次写入存储器步骤。
[0022]在一些实施例中，操作第二半导体装置的方法还可包括步骤：对来自于一个或多个域的输入数据执行预处理用于第一人工智能操作；并将预处理后的数据提供给第一存储器或第二存储器。
[0023]在一些实施例中，操作半导体装置的方法还可包括步骤：对来自于第二人工智能操作的输出数据执行后处理；并将后处理后的数据提供给一个或多个域。
[0024]本公开的一个或多个方面提供了半导体系统，其包括：显示器驱动器，其被配置为基于输入图像数据驱动显示面板；触摸控制器，其被配置为将从触摸传感器接收到的触摸感测信号转换为触摸感测数据；主机处理器，其被配置为将输入图像数据提供给显示器驱动器并从触摸控制器接收触摸感测数据；以及人工智能单元，其被配置为执行生成与输入图像数据相对应的预测噪声数据的人工智能操作，其中，人工智能单元包括：操作器，其被配置为执行人工智能操作；第一存储器和第二存储器，其各自被配置为存储人工智能操作中使用的特征图数据；以及第三存储器，其被配置为存储人工智能操作中使用的训练参数，并且操作器针对神经网络层分别使用第一存储器和第二存储器作为在人工智能操作前存储数据的第一空间和在人工智能操作后存储数据的第二空间。
[0本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种半导体装置，包括：操作器，其被配置为执行人工智能操作；第一存储器和第二存储器，其各自被配置为存储所述人工智能操作中使用的特征图数据；以及第三存储器，其被配置为存储所述人工智能操作中使用的训练参数，其中，所述操作器针对神经网络层分别使用所述第一存储器和所述第二存储器作为在所述人工智能操作前存储数据的第一空间和在所述人工智能操作后存储数据的第二空间。2.根据权利要求1所述的半导体装置，其中，所述操作器：读取针对第一神经网络层的存储在所述第一存储器中的特征图数据以执行所述人工智能操作；以及在所述第二存储器中存储所述人工智能操作的操作结果。3.根据权利要求2所述的半导体装置，其中，所述操作器：读取针对所述第一神经网络层之后的第二神经网络层的存储在所述第二存储器中的特征图数据以执行所述人工智能操作；以及在所述第一存储器中存储所述人工智能操作的操作结果。4.根据权利要求1所述的半导体装置，其中，所述操作器：将所述人工智能操作划分为数据获取步骤、乘法步骤、累加步骤、和写入存储器步骤；以及使用流水线执行所述数据获取步骤、所述乘法步骤、所述累加步骤、和所述写入存储器步骤。5.根据权利要求4所述的半导装置，其中，当所述特征图数据包括N行和M列时，并且当所述神经网络层对应于列层时，所述操作器每当执行所述数据获取步骤、所述乘法步骤和所述累加步骤N次时执行一次所述写入存储器步骤，其中N为大于或等于2的整数，M为大于或等于2的整数。6.根据权利要求4所述的半导体装置，其中，当所述特征图数据包括N行和M列时，并且当所述神经网络层对应于行层时，所述操作器每当执行所述数据获取步骤、所述乘法步骤和所述累加步骤M次时执行一次所述写入存储器步骤，其中N为大于或等于2的整数，M为大于或等于2的整数。7.根据权利要求1所述的半导体装置，还包括预处理器，其被配置为对来自于一个或多个域的输入数据执行预处理用于所述人工智能操作，并将所述预处理后的数据提供给所述第一存储器或所述第二存储器。8.根据权利要求1所述的半导体装置，还包括后处理器，其被配置为对来自于所述人工智能操作的输出数据执行后处理，并将所述后处理后的数据提供给一个或多个域。9.根据权利要求1所述的半导体装置，其中，所述操作器包括执行第一人工智能操作的第一操作器和执行与所述第一人工智能操作不同的第二人工智能操作的第二操作器，并且所述第一操作器针对所述神经网络层分别使用所述第一存储器的部分区域和所述第二存储器的部分区域作为在所述第一人工智能操作之前存储数据的第三空间和在所述第
一人工智能操作之后存储数据的第四空间。10.根据权利要求9所述的半导体装置，其中，所述第二操作器针对所述神经网络层分别使用所述第一存储器的另一部分区域和所述第二存储器的另一部分区域作为在所述第二人工智能操作之前存储数据的第五空间和在所述第二人工智能操作之后存储数据的第六空间。11.一种半导体系统，包括：显示器驱动器，其被配置为基于输入图像数据驱动显示面板；触摸控制器，其被配置为将从触摸传感器接收到的触摸感测信号转换为触摸感测数据；主机处理器，其被配置为将所述输入图像数据提供给所述显示器驱动器并从所述触摸控制器接收所述触摸感测数据；以及人工智能单元，其被配置为执行生成对应于所述输入图像数据的预测噪声数据的人工智能操作，其中，所述人工智能单元包括：操作器，其被配置为执行所述...

【专利技术属性】
技术研发人员：罗世焕，朴运基，玉知宪，安珠永，林炫旭，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：