【技术实现步骤摘要】
一种基于判别器共享的生成对抗网络组织结构及其训练方法
本专利技术涉及深度学习领域，具体为一种基于判别器共享的生成对抗网络组织结构及其训练方法，用于深度学习领域中的对抗样本生成与防御应用，也适用于其它判别器具有相同功能的深度学习数据生成应用的组合。
技术介绍
随着大数据的出现和计算能力的快速提高，以深度学习为代表的人工智能技术得到了快速发展，它使得机器具备了感知能力，能够识别图像，听懂人类的语言。然而，人工智能追求的不仅仅是机器的感知能力，更希望机器获得创造能力，因此学术界对于生成模型的研究迅速发展起来，它使机器具有了想象力，学会了创造。根据概率统计理论，生成模型是指能够在给定隐含参数的条件下，随机生成观测数据的模型，它给观测值和标注数据序列(x,y)指定一个联合概率分布。在深度学习领域，生成模型通过神经网络的形式实现，可以用来对观测数据建模，根据训练用的观测数据学习并掌握观测数据的特点，并根据学习到的特点生成特定分布(模仿观测数据)的输出数据。根据是否可以完全表示出数据的分布函数，可以将生成模型分为直接型和间接型两类，本专利...
【技术保护点】
1.一种基于判别器共享的生成对抗网络组织结构，其特征在于：包含一个判别器和多个生成器，每个生成器均与判别器组成一个生成对抗网络结构；/n对于每个生成器而言，其输入为随机潜在变量z，输出为生成数据G(z)，且G(z)与目标数据集x具有相同的数据结构；进行参数更新时，生成器接收判别器输出的反馈结果，求解得到生成器的更新参数；/n判别器的输入In包括目标数据集x和每个生成器的输出，判别器的输出为实数值，所述实数值表示数据In来自目标数据集x的可能性；进行参数更新时，判别器根据数据标签和自身输出的反馈结果，求解得到判别器的更新参数；所述数据标签表示数据来源为目标数据集x或生成器的输出数据。/n
【技术特征摘要】
1.一种基于判别器共享的生成对抗网络组织结构，其特征在于：包含一个判别器和多个生成器，每个生成器均与判别器组成一个生成对抗网络结构；
对于每个生成器而言，其输入为随机潜在变量z，输出为生成数据G(z)，且G(z)与目标数据集x具有相同的数据结构；进行参数更新时，生成器接收判别器输出的反馈结果，求解得到生成器的更新参数；
判别器的输入In包括目标数据集x和每个生成器的输出，判别器的输出为实数值，所述实数值表示数据In来自目标数据集x的可能性；进行参数更新时，判别器根据数据标签和自身输出的反馈结果，求解得到判别器的更新参数；所述数据标签表示数据来源为目标数据集x或生成器的输出数据。
2.根据权利要求1所述一种基于判别器共享的生成对抗网络组织结构，其特征在于：生成器进行参数更新时，采用的求解方法为随机梯度下降、基于动量的优化或均方根反向传播方法；判别器进行参数更新时，采用的求解方法为随机梯度下降、基于动量的优化或均方根反向传播方法。
3.根据权利要求1所述一种基于判别器共享的生成对抗网络组织结构，其特征在于：每个生成器均与判别器组成GAN结构、ACGAN结构或WGAN结构。
4.一种权利要求1所述基于判别器共享的生成对抗网络的训练方法，其特征在于：采用异步训练方法，包括以下步骤：
步骤1：初始化生成器编号i＝1，生成器编号i为[1,n]之间的正整数，表示当前选择的生成器编号，n为生成器的个数；
步骤2：初始化单步判别器训练次数j＝1；单步判别器训练次数j为[1,k]之间的整数，k表示在生成器和判别器交替训练过程中，生成器每更新一次参数，判别器需要更新k次参数；
步骤3：从生成器Gi的输入变量zi的分布中随机采样m个样本zi(1)，…，zi(m)；从目标数据集分布pdata中随机取出m个样本x(1)，…，x(m)；根据判别器代价函数公式
解算更新判别器参数θ(D)，其中为生成器Gi的参数，D(x(l))表示输入为x(l)时的判别器输出，表示输入为时的判别器输出，为生成器Gi的输出；
步骤4：判断单步判别器训练次数j是否小于k，若j<k，则j自加1，返回步骤3继续执行判别器单步训练，若j＝k，则进入步骤5；
步骤5：从生成器Gi的输入变量zi的分布中随机采样m个样本zi(1)，…，zi(m)；根据生成器代价函数公式
解算更新生成器Gi参数
步骤6：判断生成器编...
【专利技术属性】
技术研发人员：唐川，陶业荣，杜静，陈远征，陈延仓，麻曰亮，张民垒，
申请(专利权)人：中国人民解放军六三八八零部队，
类型：发明
国别省市：河南;41
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。