基于量子自学习自训练网络的手写体图片分类方法技术

技术编号:27581444 阅读:16 留言:0更新日期:2021-03-09 22:36
本发明专利技术公开了一种基于量子自学习自训练网络的手写体图片分类方法,其步骤为:构建神经网络;生成训练集;计算量子染色体个体长度;建立量子染色体种群;对神经元的权重值与偏置值进行量子编码;利用量子进化策略获得最优神经网络;判断当前进化是否陷入局部最优,若是,进行全干扰交叉,否则,判断进化是否终止;进行全干扰交叉;判断当前的进化是否满足终止条件,若是,则输出分类结果,否则,继续进化迭代;输出分类结果。本发明专利技术有效的克服了现有技术中易于陷入局部最优,需要人为设置超参数过多的问题,具有分类精度高,保证分类结果稳定性和可靠性的优点。可靠性的优点。可靠性的优点。

【技术实现步骤摘要】
基于量子自学习自训练网络的手写体图片分类方法


[0001]本专利技术属于图像处理
,更进一步涉及图像分类
中的一种基于量子自学习自训练网络的手写体图片分类方法。本专利技术可用于对从来自不同人群的不同笔迹的手写体图片数据集中,实现不同类别的手写体图片的识别与分类。

技术介绍

[0002]对于手写体图像分类任务,一直是日常生活中非常需要的一项任务,它广泛应用于签字识别、财务支票处理、金融表格处理等。为了解决这项任务,其常常使用神经网络相关技术。对于其中的神经网络而言,其最重要的是训练各神经元节点的权重以及偏置,以得到在当前训练下分类效果最好的参数值获得可以解决针对当前手写体图片分类任务的神经网络模型。对于针对手写体图片分类的神经网络的训练而言,目前使用的大多数方式是使用反向传播的方法,根据人为设定的损失函数进行误差的反向传播来更新神经网络中各个神经元的模型参数。对于这种方式而言其缺点在于需要人为设置诸多超参数、易于陷入模型参数的局部最优以及对初始化参数要求较高、搜索空间较小等问题。针对这些问题,考虑使用一种方法在离散的搜索空间中对神经网络模型参数进行搜索是一种训练神经网络的新思路以构建量子自学习自训练网络模型完成手写体图片分类任务。
[0003]华东理工大学在其申请的专利文献“基于动态样本选择策略的BP神经网络手写体识别系统”(申请号:201610346450.5,公开号:CN106022273A)中提出了一种手写体图片分类的方法。该方法利用判断样本是否远离决策边界来根据梯度下降法动态调整网络参数并来优化网络权重的,初始化网络权重参数并结合BP反向传播算法训练多个二分类BP网络分类器实现了神经网络的训练并用于手写体图片分类任务。但该方法存在的不足之处是,该方法依赖于初始化的权重参数的梯度下降寻优方法搜索空间较小,不易找到更优良的模型参数,导致手写体图片分类的精度较低。
[0004]黄一格、张炎生等人在其发表的论文“基于BP神经网络的手写数字识别系统”(《机电工程技术》2020年第49卷第01期)中提出了一种手写体图片分类的方法。该方法先对手写体图片进行预处理和特征提取并人为设置训练超参数结合BP反向传播方式寻找模型参数来训练多层前馈神经网络以完成手写体图片分类任务。该方法存在的不足之处是,BP反向传播结合梯度下降的训练方式易于陷入局部最优且所需要人为设置的超参数较多,需要大量的人为专业知识和经验才能训练出最佳分类模型获得较为优良的手写体图片分类效果,因此导致训练较为繁琐且分类结果的可靠性和稳定性难以保证。

技术实现思路

[0005]本专利技术的目的在于针对上述已有技术的不足,提出一种量子自学习自训练网络的手写体图片分类方法,用于解决由于传统神经网络训练超参数需要人为设置、搜索范围较小、易于陷入局部最优而导致手写体图片分类模型精度较低、训练较为繁琐无法保证分类结果的可靠性和稳定性的问题。
[0006]实现本专利技术目的的基本思路是:将神经网络中神经元的权重值与偏置值进行量子化编码,量子染色体个体与实数空间建立映射关系,利用改进的量子进化策略对神经网络进行训练,获得最优的量子自学习自训练网络,从而实现对手写体图片的更准确的分类。
[0007]本专利技术的具体步骤包括如下:
[0008](1)构建神经网络:
[0009]搭建一个结构为一个输入层、一个输出层以及在输入层与输出层之间顺序连接的至少四个隐藏层多层全连接的神经网络,其中,输入层含有784个神经元节点,输出层含有10个神经元节点,每个隐藏层均含有5个神经元节点;
[0010](2)生成训练集:
[0011]选取包含10个类别的至少56000张手写体图片,将每张图片尺寸放缩至28
×
28个像素组成一个一维向量中,将所有的一维向量组成训练集;
[0012](3)按照下式,计算量子染色体个体的长度:
[0013][0014]其中,m表示量子染色体个体的长度,L
i
表示神经网络中第i层神经元节点的个数,q表示神经网络的总层数,p表示取值为28的神经网络中每个神经元节点的权重和偏置的最大值;
[0015](4)建立量子染色体种群Q=[Q1,Q2,Q3...Q
i
...Q
n
],每个量子染色体个体表示为:
[0016][0017]其中,Q
i
表示量子染色体种群中第i个量子染色体个体,n表示取值至少为10的量子染色体个体总数,m表示量子染色体个体的长度,α
ij
和β
ij
表示量子染色体个体Q
i
中第j个量子基因位的概率幅;
[0018](5)对神经元的权重值与偏置值进行量子编码:
[0019]将每个量子染色体个体中的量子基因位以18个基因位为一组,前9个量子基因位的所有状态值代表一个神经元的权重值,后9个量子基因位的所有状态值代表该神经元的偏置值,以此类推对所有的神经元的权重值与偏置值在量子染色体个体上进行编码;
[0020](6)利用量子进化策略获得最优神经网络:
[0021](6a)将编码后的量子染色体个体映射至实数空间,得到每个神经元的权重值和偏置值,填入到步骤(1)构建的神经网络中;
[0022](6b)将训练集输入到填入参数后的神经网络中,输出训练集中每一张图片的分类结果,将分类结果与该图片标签一致的判定为正确分类,否则为错误分类,将正确分类的图片总数与训练集的图片总数的比值作为当前进化轮数下当前迭代中的编码后的量子染色体个体的分类准确率;
[0023](6c)重复执行步骤(6a)、(6b),直到当前进化轮数下的量子种群中每个量子染色体个体都得到了该个体的分类准确率,将所有个体的分类准确率中最高分类准确率的个体作为当前进化迭代的最优量子染色体个体;
[0024](6d)利用量子旋转门,对除当前进化轮数下种群中的最优量子染色体个体外的其
余量子染色体个体进行进化更新;
[0025](6e)用当前进化轮数中的最优量子染色体个体所代表的每个神经元的权重值和偏置值更新步骤(6b)所述的填入参数后的神经网络中,得到当前进化轮数中的最优神经网络;
[0026](7)判断当前进化轮数中最优量子染色体个体的分类准确率是否与前5轮进化的最优个体的分类准确率相同,若是,判定当前进化陷入局部最优并执行步骤(8),否则,执行步骤(9);
[0027](8)对当前进化轮数中的量子种群中所有量子染色体个体执行全干扰交叉操作;
[0028](9)判断当前的进化是否满足终止条件,若是,则得到训练好的神经网络后执行步骤(10);否则,执行步骤(6);
[0029](10)将待分类的手写体图片输入到训练好的神经网络中,输出分类结果。
[0030]本专利技术与现有技术相比具有如下优点:
[0031]第一,由于本专利技术对神经元的权重值与偏置值进行量子编码,为搜索最优神经网络提供了更广阔的搜本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于量子自学习自训练网络的手写体图片分类方法,其特征在于,对构建的神经网络的模型参数进行量子编码将神经网络的模型参数编码至可并行操作的量子种群的量子染色体个体中,利用量子进化策略以及全干扰交叉操作对代表神经网络的模型参数的量子种群进行进化迭代搜索最优模型参数,以此得到训练好的量子自学习自训练网络,该方法步骤包括如下:(1)构建神经网络:搭建一个结构为一个输入层、一个输出层以及在输入层与输出层之间顺序连接的至少四个隐藏层多层全连接的神经网络,其中,输入层含有784个神经元节点,输出层含有10个神经元节点,每个隐藏层均含有5个神经元节点;(2)生成训练集:选取包含10个类别的至少56000张手写体图片,将每张图片尺寸放缩至28
×
28个像素组成一个一维向量中,将所有的一维向量组成训练集;(3)按照下式,计算量子染色体个体的长度:其中,m表示量子染色体个体的长度,L
i
表示神经网络中第i层神经元节点的个数,q表示神经网络的总层数,p表示取值为28的神经网络中每个神经元节点的权重和偏置的最大值;(4)建立量子染色体种群Q=[Q1,Q2,Q3...Q
i

Q
n
],每个量子染色体个体表示为:其中,Q
i
表示量子染色体种群中第i个量子染色体个体,n表示取值至少为10的量子染色体个体总数,m表示量子染色体个体的长度,α
ij
和β
ij
表示量子染色体个体Q
i
中第j个量子基因位的概率幅;(5)对神经元的权重值与偏置值进行量子编码:将每个量子染色体个体中的量子基因位以18个基因位为一组,前9个量子基因位的所有状态值代表一个神经元的权重值,后9个量子基因位的所有状态值代表该神经元的偏置值,以此类推对所有的神经元的权重值与偏置值在量子染色体个体上进行编码;(6)利用量子进化策略获得最优神经网络:(6a)将编码后的量子染色体个体映射至实数空间,得到每个神经元的权重值和偏置值,填入到步骤(1)构建的神经网络中;(6b)将训练集输入到填入参数后的...

【专利技术属性】
技术研发人员:李阳阳赵裴翔刘睿娇赵逸群毛鹤亭杨丹青焦李成李玲玲
申请(专利权)人:西安电子科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1