基于记忆分值的神经网络训练方法、装置及存储介质制造方法及图纸

本公开涉及了一种基于记忆分值的神经网络训练方法、装置及存储介质。所述方法包括：根据样本库中多个第一样本图像的训练序列号、训练标志位以及预设的折旧率，确定多个第一样本图像的记忆分值；根据多个第一样本图像的记忆分值及第一预设数量，从所述样本库中，确定出多个第二样本图像，建立第一训练集；根据所述第一训练集，对所述神经网络进行训练，其中，所述神经网络用于缺陷检测。本公开实施例的神经网络训练方法可缩小神经网络训练集的大小，缩短神经网络的训练收敛时间，从而可提高神经网络的训练效率。

【技术实现步骤摘要】
基于记忆分值的神经网络训练方法、装置及存储介质
本公开涉及计算机
，尤其涉及一种基于记忆分值的神经网络训练方法、装置及存储介质。
技术介绍
随着深度学习的发展，用于缺陷检测的神经网络得到了广泛应用。对于在生产线上进行缺陷检测的神经网络来说，新的缺陷是持续产生的，例如第一个月只有“划痕”，第二个月出现“裂纹”，而随着新缺陷的持续产生，训练集也在持续累积，越来越大，相应地，神经网络的训练时间也随之不断增加，给快速迭代造成了困难。而且，标记人员对新缺陷的认知也是有延迟的，例如，标记人员一次性标记完1000张样本图像，并输入神经网络进行训练后，才发现某些标记数据存在问题，这时，标记人员需要返工，对存在问题的标记数据进行修改，会耗费大量时间。此外，训练集中也可能存在大量冗余样本，导致训练集庞大，管理难度增加。
技术实现思路
有鉴于此，本公开提出了一种基于记忆分值的神经网络训练技术方案。根据本公开的一方面，提供了一种基于记忆分值的神经网络训练方法，所述方法包括：根据样本库中多个第一样本图像的训练序列号、训练标志位以及预设的折旧率，确定多个第一样本图像的记忆分值，其中，所述多个第一样本图像为检测对象的图像，所述多个第一样本图像中至少包括一个新增图像，所述训练标志位用于表示第一样本图像是否加入神经网络各个训练轮次的训练集，所述训练序列号用于表示第一样本图像加入所述样本库后所述神经网络的训练次数，所述记忆分值用于表示第一样本图像的训练参与度；根据所述多个第一样本图像的记忆分值及第一预设数量，从所述样本库中，确定出多个第二样本图像，建立第一训练集；根据所述第一训练集，对所述神经网络进行训练，其中，所述神经网络用于缺陷检测。在一种可能的实现方式中，所述方法还包括：根据所述多个第一样本图像的记忆分值、训练序列号及第二预设数量，从所述样本库中，确定出多个第三样本图像，建立第二训练集；根据所述第二训练集，对所述神经网络进行训练。在一种可能的实现方式中，所述根据样本库中多个第一样本图像的训练序列号、训练标志位以及预设的折旧率，确定多个第一样本图像的记忆分值，包括：对于任一第一样本图像，根据所述第一样本图像在神经网络第i次训练时的训练标志位及预设的折旧率，确定所述第一样本图像在神经网络第i次训练时的折旧分值，其中，所述神经网络第i次训练为从本次训练开始依次往前的第i次训练，神经网络本次训练对应的i为0，i为整数且0≤i≤N，N为所述第一样本图像的训练序列号，N为整数且N≥0；将所述第一样本图像的N个折旧分值之和，确定为所述第一样本图像的记忆分值。在一种可能的实现方式中，在所述第一样本图像加入神经网络第i次训练时的训练集时，所述第一样本图像在神经网络第i次训练时的训练标志位为1，在所述第一样本图像未加入神经网络第i次训练时的训练集时，所述第一样本图像在神经网络第i次训练时的训练标志位为0。在一种可能的实现方式中，所述根据所述第一样本图像在神经网络第i次训练时的训练标志位及预设的折旧率，确定所述第一样本图像在神经网络第i次训练时的折旧分值，包括：将所述第一样本图像在神经网络第i次训练时的训练标志位与预设的折旧率的i次方的乘积，确定为所述第一样本图像在神经网络第i次训练时的折旧分值。在一种可能的实现方式中，所述根据所述多个第一样本图像的记忆分值及第一预设数量，从所述样本库中，确定出多个第二样本图像，建立第一训练集，包括：根据所述多个第一样本图像的记忆分值及第一预设数量，从所述样本库中，确定出记忆分值最低的多个第二样本图像；根据所述多个第二样本图像，建立第一训练集。在一种可能的实现方式中，所述根据所述多个第一样本图像的记忆分值、训练序列号及第二预设数量，从所述样本库中，确定出多个第三样本图像，建立第二训练集，包括：根据所述多个第一样本图像的记忆分值，从所述样本库中，确定出记忆分值最低的多个第四样本图像；根据所述多个第一样本图像的训练序列号，从所述样本库中，确定出训练序列号最小的多个第五样本图像，其中，第四样本图像与第五样本图像的数量之和为所述第二预设数量；将所述多个第四样本图像及所述多个第五样本图像，确定为多个第三样本图像；根据所述多个第三样本图像，建立第二训练集。在一种可能的实现方式中，在确定多个第一样本图像的记忆分值之前，所述方法还包括：将标记图像输入神经网络中进行缺陷检测，得到所述标记图像的检测结果，所述标记图像为新增的、未加入样本库的图像；在所述标记图像的检测结果与预设的预期结果不一致的情况下，修改所述标记图像的标记信息，得到所述标记图像的修改后的标记信息；将所述标记图像及所述标记图像的修改后的标记信息加入所述样本库。在一种可能的实现方式中，所述方法还包括：在所述标记图像的检测结果与所述预期结果一致的情况下，丢弃所述标记图像。根据本公开的另一方面，提供了一种基于记忆分值的神经网络训练装置，所述装置包括：记忆分值确定模块，用于根据样本库中多个第一样本图像的训练序列号、训练标志位以及预设的折旧率，确定多个第一样本图像的记忆分值，其中，所述多个第一样本图像为检测对象的图像，所述多个第一样本图像中至少包括一个新增图像，所述训练标志位用于表示第一样本图像是否加入神经网络各个训练轮次的训练集，所述训练序列号用于表示第一样本图像加入所述样本库后所述神经网络的训练次数，所述记忆分值用于表示第一样本图像的训练参与度；第一训练集建立模块，用于根据所述多个第一样本图像的记忆分值及第一预设数量，从所述样本库中，确定出多个第二样本图像，建立第一训练集；第一训练模块，用于根据所述第一训练集，对所述神经网络进行训练，其中，所述神经网络用于缺陷检测。在一种可能的实现方式中，所述装置还包括：第二训练集建立模块，用于根据所述多个第一样本图像的记忆分值、训练序列号及第二预设数量，从所述样本库中，确定出多个第三样本图像，建立第二训练集；第二训练模块，用于根据所述第二训练集，对所述神经网络进行训练。在一种可能的实现方式中，所述记忆分值确定模块，包括：折旧分值确定子模块，根据所述第一样本图像在神经网络第i次训练时的训练标志位及预设的折旧率，确定所述第一样本图像在神经网络第i次训练时的折旧分值，其中，所述神经网络第i次训练为从本次训练开始依次往前的第i次训练，神经网络本次训练对应的i为0，i为整数且0≤i≤N，N为所述第一样本图像的训练序列号，N为整数且N≥0；记忆分值确定子模块，将所述第一样本图像的N个折旧分值之和，确定为所述第一样本图像的记忆分值。在一种可能的实现方式中，在所述第一样本图像加入神经网络第i次训练时的训练集时，所述第一样本图像在神经网络第i次训练时的训练标志位为1，在所述第一样本图像未加入神经网络第i次训练时的训练集时，所述第一样本图像在神经网本文档来自技高网...

【技术保护点】
1.一种基于记忆分值的神经网络训练方法，其特征在于，所述方法包括：/n根据样本库中多个第一样本图像的训练序列号、训练标志位以及预设的折旧率，确定多个第一样本图像的记忆分值，其中，所述多个第一样本图像为检测对象的图像，所述多个第一样本图像中至少包括一个新增图像，所述训练标志位用于表示第一样本图像是否加入神经网络各个训练轮次的训练集，所述训练序列号用于表示第一样本图像加入所述样本库后所述神经网络的训练次数，所述记忆分值用于表示第一样本图像的训练参与度；/n根据所述多个第一样本图像的记忆分值及第一预设数量，从所述样本库中，确定出多个第二样本图像，建立第一训练集；/n根据所述第一训练集，对所述神经网络进行训练，/n其中，所述神经网络用于缺陷检测。/n

【技术特征摘要】
1.一种基于记忆分值的神经网络训练方法，其特征在于，所述方法包括：
根据样本库中多个第一样本图像的训练序列号、训练标志位以及预设的折旧率，确定多个第一样本图像的记忆分值，其中，所述多个第一样本图像为检测对象的图像，所述多个第一样本图像中至少包括一个新增图像，所述训练标志位用于表示第一样本图像是否加入神经网络各个训练轮次的训练集，所述训练序列号用于表示第一样本图像加入所述样本库后所述神经网络的训练次数，所述记忆分值用于表示第一样本图像的训练参与度；
根据所述多个第一样本图像的记忆分值及第一预设数量，从所述样本库中，确定出多个第二样本图像，建立第一训练集；
根据所述第一训练集，对所述神经网络进行训练，
其中，所述神经网络用于缺陷检测。


2.根据权利要求1所述的方法，其特征在于，所述方法还包括：
根据所述多个第一样本图像的记忆分值、训练序列号及第二预设数量，从所述样本库中，确定出多个第三样本图像，建立第二训练集；
根据所述第二训练集，对所述神经网络进行训练。


3.根据权利要求1所述的方法，其特征在于，所述根据样本库中多个第一样本图像的训练序列号、训练标志位以及预设的折旧率，确定多个第一样本图像的记忆分值，包括：
对于任一第一样本图像，根据所述第一样本图像在神经网络第i次训练时的训练标志位及预设的折旧率，确定所述第一样本图像在神经网络第i次训练时的折旧分值，其中，所述神经网络第i次训练为从本次训练开始依次往前的第i次训练，神经网络本次训练对应的i为0，i为整数且0≤i≤N，N为所述第一样本图像的训练序列号，N为整数且N≥0；
将所述第一样本图像的N个折旧分值之和，确定为所述第一样本图像的记忆分值。


4.根据权利要求3所述的方法，其特征在于，在所述第一样本图像加入神经网络第i次训练时的训练集时，所述第一样本图像在神经网络第i次训练时的训练标志位为1，
在所述第一样本图像未加入神经网络第i次训练时的训练集时，所述第一样本图像在神经网络第i次训练时的训练标志位为0。


5.根据权利要求3所述的方法，其特征在于，所述根据所述第一样本图像在神经网络第i次训练时的训练标志位及预设的折旧率，确定所述第一样本图像在神经网络第i次训练时的折旧分值，包括：
将所述第一样本图像在神经网络第i次训练时的训练标志位与预设的折旧率的i次方的乘积，确定为所述第一样本图像在神经网络第i次训练时的折旧分值。


6.根据权利要求1所述的方法，其特征在于，所述根据所述多个第一样本图像的记忆分值及第一预设数量，从所述样本库中，确定出多个第二样本图像，建立第一训练集，包括：
根据所述多个第一样本图像的记忆分值及第一预设数量，从所述样本库中，确定出记忆分值最低的多个第二样本图像；

【专利技术属性】
技术研发人员：汪科道，
申请(专利权)人：汪科道，
类型：发明
国别省市：上海;31