一种神经网络蒸馏方法以及装置制造方法及图纸

技术编号：37849916 阅读：10 留言：0更新日期：2023-06-14 22:37

人工智能领域的一种神经网络蒸馏方法以及装置，用于提供输出偏置更低的神经网络，提高神经网络的输出精度，且可以根据不同的场景选择合适的蒸馏方式，泛化能力强。该方法包括：获取样本集，该样本集包括有偏数据集和无偏数据集(601)，有偏数据集中包括有偏置的样本，无偏数据集中包括无偏置的样本；根据样本集的数据特征确定第一蒸馏方式(602)，在第一蒸馏方式中使用无偏数据集训练老师模型，使用有偏数据集训练学生模型；基于有偏数据集和无偏数据集，按照第一蒸馏方式对第一神经网络进行训练，得到更新后的第一神经网络(603)。得到更新后的第一神经网络(603)。得到更新后的第一神经网络(603)。得到更新后的第一神经网络(603)。