当前位置: 首页 > 专利查询>东南大学专利>正文

基于量子化生成模型和神经网络的对抗生成网络构建方法技术

技术编号:28476658 阅读:72 留言:0更新日期:2021-05-15 21:45
本发明专利技术公开一种基于量子化生成模型和神经网络的对抗生成网络构建方法,包括:(1)选定目标函数生成训练样本集,初始化生成和判别网络模型的参数向量;(2)根据目标函数选取量子比特纠缠对,构造量子生成网络模型的结构;(3)生成网络模型得到的生成样本集和训练样本集混合送入判别模型,由判别模型进行样本集判别;(4)根据对抗训练算法分别计算代价损失函数,通过梯度下降优化更新对应网络模型的参数向量;(5)若达到收敛标准则输出步骤(4)中得到的生成网络模型,否则返回步骤(3)。本发明专利技术在保留经典对抗生成网络算法优势的同时,结合了量子电路优越的并行计算能力降低了采样复杂度,是对于对抗生成网络模型的一个补充。是对于对抗生成网络模型的一个补充。是对于对抗生成网络模型的一个补充。

【技术实现步骤摘要】
基于量子化生成模型和神经网络的对抗生成网络构建方法


[0001]本专利技术涉及一种量子计算和机器学习技术,尤其涉及一种基于量子化生成模型和神经网络的对抗生成网络构建方法,属于量子机器学习


技术介绍

[0002]由于量子计算机展现出的卓越的计算性能,量子机器学习如今已经成为深度学习领域一个重要的研究方向。量子化的机器学习方法为传统的机器学习方法注入了强大的并行计算能力和数据存储能力。
[0003]对抗生成网络主要由生成模型和判别模型两个部分组成,为同时提高两个模型各自的能力,采用“对抗学习”的思想。生成模型根据判别模型给出的判定结果不断总结生成样本的特征,从而更新模型内参数以生成更加贴近目标函数的样本,而判别模型也不断总结输入样本的特征,进一步更新参数来提高网络本身的判别能力。
[0004]现在对于量子电路在生成网络方面以及神经网络方面的应用研究已经有一定的规模,2014年谷歌提出了一种通过两个模型进行交替训练生成样本并估计样本来自训练数据集的概率的新生成网络;2018年提出了一种构造深度较浅的量子生成网络且利用传统方法训练网络的理论;2018年,提出了一种全新的生成网络模型:玻恩机模型,该模型基于玻恩对于量子力学的统计学解释,将生成样本与训练集样本的最大均方误差作为损失函数通过多种不同的训练方法对网络进行训练。
[0005]上述研究从理论和实验上验证了构建量子对抗生成网络模型的可行性,为量子对抗生成网络提供了理论依据和实现方法。但是目前这些工作大部分基于经典的生成模型,主流工作中通常使用含有反卷积层或者上层采样层的网络来获取样本中的一些特征值,一般采用计算复杂度非常高的Markov过程实现平稳采样,而判别模型一般使用机器学习领域的经典Logistic回归模型、支持向量机等。目前对量子生成网络的研究不充分,一般集中于量子神经网络的领域,对于对抗生成模型的研究较少。

技术实现思路

[0006]技术问题:
[0007]为了克服现有技术中的不足,降低计算复杂度,将机器学习领域中的对抗生成网络与量子电路进行结合。本专利技术提出一种可以在量子计算机上实现的量子对抗生成网络模型,在生成模型部分采用量子电路的玻恩机模型,判别模型使用的是深度神经网络,采用“对抗学习”的思想,通过不断更新模型内参数,以生成更加贴近目标函数的样本。
[0008]技术方案
[0009]为了达到上述目的,本专利技术提出了一种基于量子化生成模型和深度神经网络的量子对抗生成网络的方法,包括步骤:
[0010](1)选定目标函数并生成相应的训练数据样本集,随机初始化生成网络模型G和判别网络模型D的参数向量和其中生成网络模型G为含有N个量子比特的L层量子电路构
成,判别网络模型D为ReLU激活函数和Sigmoid激活函数混合使用的深度神经网络结构;
[0011](2)根据目标函数的训练数据样本集选取合适的量子比特纠缠对,构造生成网络模型G中每一层的旋转结构和纠缠结构;
[0012](3)在生成的生成网络模型G输入端输入N比特量子纯态|0>,得到生成数据样本集,并和训练数据样本集混合生成混合数据样本集一起送入判别网络模型G中,由判别网络模型D估计样本来自训练数据样本集的概率D(x)∈[0,1],其中x为判别网络模型G输入端的混合数据样本集,当判别网络模型D判定输入样本来自训练数据样本集则D(x)=1,当判别网络模型D判定输入样本来自生成数据样本集则D(x)=0;
[0013](4)根据对抗训练算法分别计算生成网络模型G和判别网络模型D的代价损失函数,通过梯度下降优化代价损失函数,并更新生成网络模型G和判别网络模型D的参数向量和具体步骤如下:
[0014](4.1)固定生成网络模型G,判别网络模型D的代价损失函数为:
[0015][0016]其中P
data
代表真实分布的目标函数,代表由参数向量定义的生成网络模型所产生的数据样本集;在实际训练过程中,采用批量梯度下降的方式,将平均代价损失函数定义为:
[0017][0018]其中n
D
为每一次批量梯度下降时的样本数据量,x
(i)
代表训练数据样本集,z
(i)
代表生成网络模型G输入端的输入量子比特,G(z
(i)
)代表生成网络模型G生成的生成数据样本集,m为训练数据样本集中样本数量;
[0019](4.2)梯度下降优化判别网络模型D的代价损失函数,最大化代价损失函数,梯度更新的过程定义为:其中α
D
为训练判别网络的学习速率;
[0020](4.3)固定判别网络模型D,生成网络模型G的代价损失函数由如下公式计算:
[0021]在实际训练过程中,根据量子电路中估计梯度方法,使用由两批电路参数θ
+
、θ

分别产生的数据x
+
和x

来估计梯度:
[0022][0023]其中n
G
为每一次批量梯度下降时的样本数据量;
[0024](4.4)梯度下降优化生成网络模型G的代价损失函数,最小化代价损失函数,梯度更新的过程定义为:其中α
G
为训练生成网络的学习速率;
[0025](4.5)交替更新生成网络模型G和判别网络模型D的参数向量和
[0026](5)若判别模型D的输出值D(x)收敛于或损失函数收敛于最小值,则输出步骤(4)中最后得到的生成网络模型的参数向量得到所需的生成网络模型,若未达到标准则返回步骤(3)继续更新生成网络模型G和判别网络模型D的参数向量,直至达到收敛标准。
[0027]所述步骤(2)中构造纠缠结构的方法如下:
[0028]纠缠比特对的选取基于数据本身的概率特性,本专利技术中参考量子玻恩机模型的方式,采取树形的拓扑结构来选取纠缠比特对,通过计算目标分布的真实数据集中比特间的互信息并将此作为权重,把数据集中的每一比特作为树的节点构建比特间的最大生成树,从而选取纠缠比特对。
[0029]有益效果:
[0030]由上可知,本专利技术提供了一种基于量子化生成模型和深度神经网络的量子对抗生成网络构建方法,量子电路构建的生成模型所拟合的分布可以直接使用量子系统本身的波函数幅值平方进行模拟,可以直接在网络的输出端进行采样,避免了Markov过程而引入极高采样复杂度的问题。该方法简单明了且易于实现,在保留经典对抗生成网络算法“对抗训练”优势的同时,结合了量子电路优越的并行计算能力,该种模型可以看做是对于对抗生成网络模型的一个补充。
附图说明
[0031]图1为本专利技术的工作流程图;
[0032]图2为本专利技术中量子对抗生成网络训练算法的流程图;
[0033]图3为本专利技术实施例中量子生成网络模型每一层的构造;
[0034]图4为本专利技术实施例中不同网络层数的量子生成网络模型梯度下降结果。
具本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于量子化生成模型和神经网络的对抗生成网络构建方法,其特征在于:包括如下步骤:(1)选定目标函数生成训练数据样本集,随机初始化生成网络模型G和判别网络模型D的参数向量和所述生成网络模型由含有N个量子比特的L层量子电路构成;(2)根据目标函数的训练数据样本集选取量子比特纠缠对,构造生成网络模型G中每一层的旋转结构和纠缠结构;(3)在生成网络模型G输入端输入N比特量子,得到生成数据样本集,并和训练数据样本集混合为混合数据样本集一起送入判别网络模型D中,由判别网络模型D估计样本来自训练数据样本集的概率D(x),其中x为判别网络模型G输入端的混合数据样本集;(4)根据对抗训练算法计算生成网络模型G和判别网络模型D的代价损失函数,通过梯度下降优化代价损失函数,并更新生成网络模型G和判别网络模型D的参数向量和(5)若判别网络模型D的输出值D(x)收敛或代价损失函数值收敛于最小值,则输出步骤(4)中最后得到的生成网络模型的参数向量得到所需的量子生成网络模型,若未达到标准则返回步骤(3)直至达到收敛标准。2.根据权利要求1所述的基于量子化生成模型和神经网络的对抗生成网络构建方法,其特征在于,所述判别网络模型D为ReLU激活函数和Sigmoid激活函数混合使用的深度神经网络结构。3.根据权利要求1所述的基于量子化生成模型和神经网络的对抗生成网络构建方法,其特征在于,步骤(2)中构造纠缠结构的方法如下:采取树形的拓扑结构来选取纠缠比特对,通过计算目标分布的训练数据样本集中比特间的互信息并将此作为权重,把训练数据样本集中的每一比特作为树的节点构建比特间的最大生成树,从而选取纠缠比特对。4.根据权利要求1所述的基于量子化生成模...

【专利技术属性】
技术研发人员:余旭涛万之璠孟凡旭王霄峻张在琛
申请(专利权)人:东南大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1