用于固态驱动器的可划分神经网络制造技术

本发明专利技术公开了一种方法，该方法包括：存储具有独立分类核心部分(ICCP)的多核心神经网络推断(MCNNI)模型的配置文件。每个ICCP对应于针对每个参数的多个类别中的一个类别。该MCNNI模型的加权矩阵的每行上的第一多个加权值具有非零值，并且每行上的第二多个加权值具有零值。该配置文件被加载到神经网络引擎中。监测集成电路设备的操作以识别对应于参数中的每个参数的使用值。使用该使用值作为输入来执行单个神经网络操作，以在每个ICCP的输出神经元处生成指示对一个或多个变量的估计的输出值。识别对应于输入使用值的该ICCP的该输出值并将其作为输出进行发送。值并将其作为输出进行发送。值并将其作为输出进行发送。

【技术实现步骤摘要】
【国外来华专利技术】用于固态驱动器的可划分神经网络
[0001]相关申请的交叉引用
[0002]本申请要求于2020年8月20日提交的美国临时专利申请No.63/068,349以及2021年1月13日提交的美国非临时专利申请No.17/148,200的优先权，该专利申请中的每个专利申请的内容全文以引用方式并入本文。

技术介绍

[0003]神经网络对于识别与复杂系统相关的问题的解决方案是有效的。然而，当复杂系统包括影响查询结果的大量因素和/或训练数据集的复杂性需要显著数量的隐藏神经元以实现准确结果时，网络的规模变得很大，使得在独立系统诸如专用集成电路设备中实现其以用于执行特定功能是不切实际的。具体地，由于所需的半导体表面积、功率要求、冷却要求、成本、推断延迟、配置文件空间等，该显著数量的神经网络的隐藏神经元决定使用具有如此多门的神经引擎其在单个集成电路设备上的具体实施变得不切实际。
[0004]用于解决这个问题的一种方法是对每个因素进行分类，并针对每个类别生成不同的推断模型。虽然这种类型的解决方案允许在单个集成电路设备上处理神经网络操作，但是这种解决方案需要显著数量的本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于生成神经网络推断模型的方法，所述方法包括：接收指示神经网络推断模型的架构的输入，所述架构包括多个参数；接收指示针对每个参数的多个不同类别的输入；生成具有多个独立分类核心部分(ICCP)的初始神经网络推断模型，每个ICCP对应于每个参数的类别中的一个类别并且包括输入神经元、输出神经元和耦接到所述输入神经元和所述输出神经元的隐藏神经元，所述初始神经网络推断模型具有包括加权值的行和列的加权矩阵，每行上的第一多个加权值具有非零值，并且每行上的第二多个加权值具有零值，每个ICCP具有与其他ICCP相同的结构，并且响应于所述零值，特定ICCP的所述输入神经元、所述输出神经元或所述隐藏神经元都没有被有效地耦接到任何所述其他ICCP的所述输入神经元、所述输出神经元或所述隐藏神经元中的任一者；接收多个数据记录，每个数据记录包括一个或多个参数值；通过划分所接收的数据记录来创建训练数据集、验证数据集和测试数据集；通过以下方式训练所述初始神经网络推断模型：选择类别；从所述训练数据集中选择具有对应于所选择的类别的参数值的数据记录；使用所选择的训练数据记录在对应于所选择的类别的神经元上执行反向传播算法；重复所述选择数据记录和所述执行反向传播算法，直到所述训练数据集中对应于所述选择的类别的所有数据记录已经被处理；继续所述选择类别、所述选择数据记录、所述执行反向传播算法和所述重复，直到所有类别已经被处理；以及存储所述神经网络推断模型的配置文件。2.根据权利要求1所述的方法，进一步包括：使用所述验证数据集执行验证并使用所述测试数据集执行测试，所述存储包括存储经训练、经验证和测试的神经网络推断模型。3.根据权利要求2所述的方法，进一步包括：在所述执行验证和测试之后，执行浮点转换以生成所述配置文件。4.根据权利要求2所述的方法，进一步其中所述存储进一步包括：将所述配置文件存储在集成电路设备上，其中所述参数与所述集成电路设备的操作相关，并且每个输出神经元生成与所述集成电路设备的所述操作相关的变量的估计值。5.根据权利要求2所述的方法，进一步包括：其中每个ICCP对应于单个类别的字线值、单个类别的块值、单个类别的保留时间值、单个类别的读取干扰值和指示闪存存储器设备的寿命中的时段的单个值，并且其中每个ICCP的第一输入神经元被配置为接收字线值，每个ICCP的第二输入神经元被配置为接收块值，每个ICCP的第三输入神经元被配置为接收保留时间值，每个ICCP的第四输入神经元被配置为接收读取干扰值，并且每个ICCP的第五输入神经元被配置为接收编程/擦除值。6.根据权利要求2所述的方法，其中所述训练数据集、所述验证数据集和所述测试数据集中的每一者包括闪存存储器设备表征测试结果，所述闪存存储器设备表征测试结果指示在不同阈值电压漂移偏移值处执行的读取中的错误的数量。7.根据权利要求1所述的方法，其中每个ICCP的所述输出神经元被配置为生成输出值，
所述输出值指示阈值电压漂移读取错误曲线的系数。8.根据权利要求1所述的方法，其中每个ICCP的所述输出神经元被配置为生成输出值，所述输出值指示在特定阈值电压漂移偏移(TVSO)值处的阈值电压漂移读取错误(TVS
‑
RE)曲线的错误的数量。9.根据权利要求1所述的方法，其中所述执行反向传播算法进一步包括：将所述第一多个加权值中的不对应于所述选择的类别的所有加权值暂时存储在数据存储器中；将所述第一多个加权值中的不对应于所述选择的类别的所有加权值设置为零；执行所述反向传播算法；以及将所述第一多个加权值中的不对应于所述选择的类别的加权值中的每个加权值恢复为其对应的暂时存储值。10.根据权利要求1所述的方法，其中在ICCP的每个输出神经元处生成的所述输出能够由数学方程表示，所述数学方程包括对应于所述ICCP的每个输入神经元的变量、加权值和偏差值，并且其中每个特定ICCP的所述输出神经元与所述其他ICCP的所述输出神经元求解相同的方程，使得不同核心部分的所述输出之间的唯一差异是所述特定核心部分的不同加权值和偏差值的结果。11.一种用于执行推断操作的方法，包括：将神经网络推断模型的配置文件存储在集成电路设备上，所述神经网络推断模型包括多个独立分类核心部分(ICCP)，每个ICCP对应于针对所述神经网络推断模型的每个参数的多个类别中的一个类别并且包括输入神经元、输出神经元和耦接到所述输入神经元和所述输出神经元的隐藏神经元，所述神经网络推断模型具有包括加权值的行和列的加权矩阵，每行上的第一多个加权值具有非零值，并且每行上的第二多个加权值具有零值，每个ICCP具有与其他ICCP相同数量的输入神经元、相同数量的隐藏神经元、相同数量的输出神经元以及输入神经元、隐藏神经元和输出神经元之间的相同连接，并且响应于所述加权矩阵的零值，特定ICCP的所述输入神经元、所述输出神经元或所述隐藏神经元都没有被有效地耦接到任何其他ICCP的所述输入神经元、所述输出神经元或所述隐藏神经元中的任一者；将所述神经网络推断模型的所述配置文件加载到所述集成电路设备的神经网络引擎中以形成神经网络推断核心；监测所述集成电路设备的所述操作以识别对应于所述参数中的每个参数的使用值；使用所述使用值作为到所述ICCP中的每个ICCP的输入在所述神经网络推断模型核心上执行单个神经网络操作，以在每个ICCP的所述输出神经元处生成指示对一个或多个变量的估计的输出值；识别对应于输入使用值的所述ICCP的所述输出值；发送所识别到的输出值作为输出。12.根据权利要求11所述的方法，进一步包括通过以下方式生成所述神经网络推断模型...

【专利技术属性】
技术研发人员：L，
申请(专利权)人：微芯片技术股份有限公司，
类型：发明
国别省市：