一种用于数字识别的神经网络权值初始化和训练方法技术

本发明专利技术公开了一种用于数字识别的神经网络权值初始化和训练方法，包括：根据数字图像数据集划分训练集和测试集；计算信息熵增益；将计算得到的信息熵增益进行归一化处理；根据归一化后的信息熵增益初始化神经网络的权重；添加自定义学习率回调函数，在训练周期中，通过计算学习率的比例逐步增加学习率取值，在全部迭代次数终止后，选择并保存在模型准确率最高状态下的学习率取值与神经网络模型权重参数；将训练好的模型作为数字图像识别模型，通过数字图像识别模型实现数字图像识别。本发明专利技术将特征选择和信息增益技术与深度学习模型相结合，以解决数字图像识别问题并改进数字图像识别模型性能，提高了数字图像识别的准确率和识别速度。

【技术实现步骤摘要】

本专利技术属于数字图像识别领域，涉及深度学习技术，具体涉及一种用于数字识别的神经网络权值初始化和训练方法。

技术介绍

1、数字图像识别作为计算机视觉的一个核心领域，在安全监控、医疗诊断、自动驾驶等众多领域发挥着重要作用。随着技术的发展，有效地识别和处理图像数据变得至关重要，而这正是特征选择和信息增益以及深度学习这些现代机器学习技术的关键应用场景。

2、特征选择和信息增益以及深度学习是现代机器学习领域的关键技术。特征选择旨在从众多特征中挑选最相关和有用的，以提高模型性能和减少过拟合。信息增益作为特征选择的方法，通过比较特征的信息熵和特征与标签的组合后的信息熵来评估特征的贡献。

3、深度学习是一种模拟人类大脑神经元工作的方法，通过构建深层神经网络实现学习和预测任务。将特征选择与信息增益引入深度学习，意味着将传统特征选择的概念融合于深度学习的能力中，以更有效地学习和利用关键特征，提升模型性能和解释性。这种交叉应用为复杂数据任务带来了创新解决方案，强调了特征选择在优化深度学习模型中的重要作用。

4、尽管数字图像识别模型取得了巨大本文档来自技高网...

【技术保护点】

1.一种用于数字识别的神经网络权值初始化和训练方法，其特征在于，包括如下步骤：

2.根据权利要求1所述的一种用于数字识别的神经网络权值初始化和训练方法，其特征在于，所述步骤S1中使用MINIST手写数字图像数据集来划分训练集和测试集。

3.根据权利要求1所述的一种用于数字识别的神经网络权值初始化和训练方法，其特征在于，所述步骤S2中信息熵增益的计算方式为：特征与输出标签被视为两个随机变量，对标签数据进行独热编码预处理，调用Scikit-Learn工具库，并使用其内部的mutual_info_classif()函数来计算每个特征与输出之间的信息熵增益。

...

【技术特征摘要】

1.一种用于数字识别的神经网络权值初始化和训练方法，其特征在于，包括如下步骤：

2.根据权利要求1所述的一种用于数字识别的神经网络权值初始化和训练方法，其特征在于，所述步骤s1中使用minist手写数字图像数据集来划分训练集和测试集。

3.根据权利要求1所述的一种用于数字识别的神经网络权值初始化和训练方法，其特征在于，所述步骤s2中信息熵增益的计算方式为：特征与输出标签被视为两个随机变量，对标签数据进行独热编码预处理，调用scikit-learn工具库，并使用其内部的mutual_info_classif()函数来计算每个特征与输出之间的信息熵增益。

4.根据权利要求3所述的一种用于数字识别的神经网络权值初始化和训练方法，其特征在于，所述信息熵增益的计算公式为：

5.根据权利要求1所述的一种用于数字识别的神经网络权值初始化和训练方法，其特征在于，所述步骤s3中归一化处理的具体方式为：使用minmaxscaler工具对信息熵增益进行归一化处理，调整minmaxscaler中的feature_range...

【专利技术属性】
技术研发人员：李忠国，唐洪川，高庙伟，石周，车赛，赵全明，张天一，
申请(专利权)人：江苏科技大学，
类型：发明
国别省市：