本申请涉及一种模型优化方法、装置、计算机设备、存储介质和计算机程序产品，涉及人工智能技术领域、信息安全领域。该方法包括：根据测试样本集，确定包含测试模型中各神经元的覆盖信息的神经元覆盖模式序列；基于神经元覆盖模式序列，确定测试模型的网络模型层级价值以及测试模型中每一神经元的神经元价值特征和神经元关联价值特征；根据神经元价值特征和神经元关联价值特征，对冗余神经元进行删除；根据网络模型层级价值，对测试模型中的冗余网络结构进行删除，得到优化后的测试模型。采用本方法，实现对测试模型进行优化，提高模型优化的精度。的精度。的精度。
【技术实现步骤摘要】
模型优化方法、装置、计算机设备和存储介质
[0001]本申请涉及人工智能
，特别是涉及一种模型优化方法、装置、计算机设备、存储介质和计算机程序产品。
技术介绍
[0002]随着机器学习技术的发展，出现了多模态机器学习技术，多模态机器学习技术中的多模态神经网络一般具有多个神经层，每个神经层中具有多个神经元，在多模态神经网络执行分类或预测任务的过程中，神经元与神经层负责不同维度的数据处理。目前多模态神经网络的设计方法分为早期融合方法、晚期融合方法与混合融合方法，三种设计方向有不同的应用领域，并且有各自不同的长处和劣势。
[0003]传统技术中，通常基于设计人员的经验进行对多模态神经网络进行优化，设计人员根据经验对多模态神经网络模型的网络结构以及神经元的个数进行判断，并选择使用上述设计方法的其中一种进行多模态神经网络的设计。
[0004]然而，目前的多模态神经网络模型的设计方法，以设计人员的经验难以对模型进行精确的优化，导致模型优化的精度较低，不能满足模型部署应用的要求。
技术实现思路
[0005]基于此，有必要针对上述技术问题，提供一种模型优化方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
[0006]第一方面，本申请提供了一种模型优化方法。所述方法包括：
[0007]根据测试样本集，确定包含测试模型中各神经元的覆盖信息的神经元覆盖模式序列；
[0008]基于神经元覆盖模式序列，确定所述测试模型的网络模型层级价值以及所述测试模型中每一所述神经元的神经元价值特征和神经元关联价值特征；
[0009]根据所述神经元价值特征和所述神经元关联价值特征，对冗余神经元进行删除；
[0010]根据所述网络模型层级价值，对所述测试模型中的冗余网络结构进行删除，得到优化后的测试模型。
[0011]在其中一个实施例中，所述根据测试样本集，确定包含测试模型中各神经元的覆盖信息的神经元覆盖模式序列，包括：
[0012]在所述测试模型处理所述测试样本集中每一测试样本的过程中，将所述测试样本对各神经元的覆盖情况，作为各所述神经元的神经元覆盖结果；
[0013]将所述神经元覆盖结果为被覆盖结果的神经元确定为目标神经元；
[0014]根据所述目标神经元的神经元覆盖结果以及所述目标神经元的位置信息，确定所述目标神经元的神经元覆盖模式；
[0015]根据各所述目标神经元的神经元覆盖模式，构建神经元覆盖模式序列。
[0016]在其中一个实施例中，所述在所述测试模型处理所述测试样本集中每一测试样本
的过程中，将所述测试样本对各神经元的覆盖情况，作为各所述神经元的神经元覆盖结果，包括：
[0017]获取第一阈值与所述测试模型中针对当前测试样本的各所述神经元对应的输出值；
[0018]根据所述第一阈值与各所述神经元对应的输出值的对比结果，确定各所述神经元针对所述测试样本是否被覆盖，确定各所述神经元的神经元覆盖结果。
[0019]在其中一个实施例中，所述基于神经元覆盖模式序列，确定所述测试模型中每一所述神经元的神经元价值特征，包括：
[0020]根据各所述神经元针对所有所述测试样本的所述神经元覆盖模式与所述测试样本的总数的比值，确定所述神经元价值特征。
[0021]在其中一个实施例中，所述测试模型的每一网络结构包含多个神经元，所述基于神经元覆盖模式序列，确定所述测试模型中每一所述神经元的神经元关联价值特征，包括：
[0022]根据各所述神经元的输出值，计算各所述神经元中每两个所述神经元的皮尔森相关系数；
[0023]根据所述皮尔森相关系数与第二阈值的比对结果，确定每一所述神经元与其他神经元之间的神经元关联价值特征。
[0024]在其中一个实施例中，所述测试模型包含多层网络结构；所述基于神经元覆盖模式序列，确定所述测试模型的网络模型层级价值，包括：
[0025]将所述神经元价值特征高于第三阈值的神经元确定为高价值神经元；
[0026]根据每层所述网络结构中所述高价值神经元的占比，确定所述网络模型层级价值。
[0027]在其中一个实施例中，所述根据所述神经元价值特征和所述神经元关联价值特征，对冗余队列中的冗余神经元进行删除，包括：
[0028]将所述测试模型中所述神经元价值特征低于第三阈值的神经元确定为候选冗余神经元；
[0029]将与高价值神经元之间神经元关联价值特征为低关联价值的候选冗余神经元，确定为冗余神经元，构建冗余队列；
[0030]对所述冗余队列中的各冗余神经元进行删除。
[0031]在其中一个实施例中，所述根据网络模型层级价值，对所述测试模型中的冗余网络结构进行删除，得到优化后的测试模型，包括：
[0032]将所述网络模型层级价值小于第四阈值的网络结构确定为冗余网络结构；
[0033]将所述冗余网络结构进行删除，得到优化后的测试模型。
[0034]在其中一个实施例中，所述根据所述网络模型层级价值，对所述测试模型中的冗余网络结构进行删除，得到优化后的测试模型之后，所述方法还包括：
[0035]获取优化后的；所述测试模型包括早期融合模型、晚期融合模型与混合融合模型；
[0036]根据所述测试样本集，确定所述优化后的测试模型的准确性；
[0037]选取所述准确性高且模型规模小的测试模型为目标模型；所述目标模型用于模型应用部署。
[0038]第二方面，本申请还提供了一种模型优化装置。所述装置包括：
[0039]第一确定模块，用于根据测试样本集，确定包含测试模型中各神经元的覆盖信息的神经元覆盖模式序列；
[0040]第二确定模块，用于基于神经元覆盖模式序列，确定所述测试模型的网络模型层级价值以及所述测试模型中每一所述神经元的神经元价值特征和神经元关联价值特征；
[0041]第一删除模块，用于根据所述神经元价值特征和所述神经元关联价值特征，对冗余神经元进行删除；
[0042]第二删除模块，用于根据所述网络模型层级价值，对所述测试模型中的冗余网络结构进行删除，得到优化后的测试模型。
[0043]在其中一个实施例中，第一确定模块具体用于：
[0044]在所述测试模型处理所述测试样本集中每一测试样本的过程中，将所述测试样本对各神经元的覆盖情况，作为各所述神经元的神经元覆盖结果；
[0045]将所述神经元覆盖结果为被覆盖结果的神经元确定为目标神经元；
[0046]根据所述目标神经元的神经元覆盖结果以及所述目标神经元的位置信息，确定所述目标神经元的神经元覆盖模式；
[0047]根据各所述目标神经元的神经元覆盖模式，构建神经元覆盖模式序列。
[0048]在其中一个实施例中，第一确定模块具体用于：
[0049]获取第一阈值与所述测试模型中针对当前测试样本的各所述神经元对应的输出值；
[0050]根据所述本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种模型优化方法，其特征在于，所述方法包括：根据测试样本集，确定包含测试模型中各神经元的覆盖信息的神经元覆盖模式序列；基于神经元覆盖模式序列，确定所述测试模型的网络模型层级价值以及所述测试模型中每一所述神经元的神经元价值特征和神经元关联价值特征；根据所述神经元价值特征和所述神经元关联价值特征，对冗余神经元进行删除；根据所述网络模型层级价值，对所述测试模型中的冗余网络结构进行删除，得到优化后的测试模型。2.根据权利要求1所述的方法，其特征在于，所述根据测试样本集，确定包含测试模型中各神经元的覆盖信息的神经元覆盖模式序列，包括：在所述测试模型处理所述测试样本集中每一测试样本的过程中，将所述测试样本对各神经元的覆盖情况，作为各所述神经元的神经元覆盖结果；将所述神经元覆盖结果为被覆盖结果的神经元确定为目标神经元；根据所述目标神经元的神经元覆盖结果以及所述目标神经元的位置信息，确定所述目标神经元的神经元覆盖模式；根据各所述目标神经元的神经元覆盖模式，构建神经元覆盖模式序列。3.根据权利要求2所述的方法，其特征在于，所述在所述测试模型处理所述测试样本集中每一测试样本的过程中，将所述测试样本对各神经元的覆盖情况，作为各所述神经元的神经元覆盖结果，包括：获取第一阈值与所述测试模型中针对当前测试样本的各所述神经元对应的输出值；根据所述第一阈值与各所述神经元对应的输出值的对比结果，确定各所述神经元针对所述测试样本是否被覆盖，确定各所述神经元的神经元覆盖结果。4.根据权利要求1所述的方法，其特征在于，所述基于神经元覆盖模式序列，确定所述测试模型中每一所述神经元的神经元价值特征，包括：根据各所述神经元针对所有所述测试样本的所述神经元覆盖模式与所述测试样本的总数的比值，确定所述神经元价值特征。5.根据权利要求1所述的方法，其特征在于，所述测试模型的每一网络结构包含多个神经元，所述基于神经元覆盖模式序列，确定所述测试模型中每一所述神经元的神经元关联价值特征，包括：根据各所述神经元的输出值，计算各所述神经元中每两个所述神经元的皮尔森相关系数；根据所述皮尔森相关系数与第二阈值的比对结果，确定每一所述神经元与其他神经元之间的神经元关联价值特征。6.根据权利要求1所述的方法，其特征在于，所述测试模型包含多层网络结构；所述基于神经元覆盖模式序列，确定所述测试模型的网络模型层级价值，包括：将所述神经元价值...
【专利技术属性】
技术研发人员：许啸，王雪霏，旷亚和，
申请(专利权)人：中国工商银行股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。