生成网络的训练方法和系统、以及图像生成方法及设备技术方案

技术编号:23934098 阅读:47 留言:0更新日期:2020-04-25 02:31
本申请公开一种生成网络的训练方法和系统、以及图像生成方法及设备。其中,生成网络的训练方法包括以下步骤:获取真实样本和生成样本,所述生成样本是由使用第一参数的生成网络所生成的;利用所述真实样本和所述生成样本对映射网络的第二参数进行训练,直至所训练的映射网络使得所述真实样本和所述生成样本之间的特征距离符合最大化条件;利用训练后的映射网络对所述生成网络的第一参数进行训练,直至训练后的第二参数的条件下的所述真实样本和训练后的生成网络输出的生成样本之间的特征距离符合最小化条件。本申请在大大降低了计算量和节约内存的同时提高了生成网络对高维数据的处理能力以及生成高维图像的性能。

Training method and system of generating network, image generation method and equipment

【技术实现步骤摘要】
生成网络的训练方法和系统、以及图像生成方法及设备
本申请涉及图像处理
,尤其涉及一种生成网络的训练方法和系统、以及图像生成方法及设备。
技术介绍
生成网络作为一种人工神经网络,可以根据具体任务通过模型训练而实现将输入的数据样本生成文字、图像、视频等。因此,生成网络被广泛的应用于图像的生成、修复、转换以及重构,文字与图片之间的转换,视频预测等多种场合。由于近些年来人工智能技术的愈发成熟,各种生成网络的学习/训练方法也不断涌现,这也使得训练出的生成网络在生成图像的质量方面参差不齐。例如,采用有监督式学习来训练生成网络,但这种方法的主要瓶颈之一是难以获得足够的标签样本来学习数据特征以使得生成网络能够捕获数据结构;再如,无监督式学习可以通过自己从错误中进行学习,并降低未来出错的概率以此达到降低对标签样本的需求,但是,这种学习方式往往准确率很低。是故,如何去训练生成网络以使得生成网络能够高效的输出以假乱真的图像是本领域从业者亟待解决的问题。
技术实现思路
鉴于以上所述相关技术的缺点,本申请的目的在于提供一种生成网络的训练方法和系统、以及图像生成方法及设备。为实现上述目的及其他相关目的,本申请第一方面公开一种生成网络的训练方法,其特征在于,包括以下步骤:获取真实样本和生成样本,所述生成样本是由使用第一参数的生成网络所生成的;利用所述真实样本和所述生成样本对映射网络的第二参数进行训练,直至所训练的映射网络使得所述真实样本和所述生成样本之间的特征距离符合最大化条件;利用训练后的映射网络对所述生成网络的第一参数进行训练,直至训练后的第二参数的条件下的所述真实样本和训练后的生成网络输出的生成样本之间的特征距离符合最小化条件;重复上述过程直至经训练得到的第一参数满足预设收敛条件。在本申请第一方面的某些实施例中,所述映射网络用于将所述真实样本和生成样本映射到特征表示空间内。在本申请第一方面的某些实施例中,所述映射网络的映射包括:降维操作。在本申请第一方面的某些实施例中,所述特征距离为经所述映射网络映射到特征表示空间内的真实样本的特征和生成样本的特征之间的最大均值差异。在本申请第一方面的某些实施例中,所述利用所述真实样本和所述生成样本对映射网络的第二参数进行训练包括:计算经所述映射网络得到的真实样本和生成样本之间的特征距离;基于所述特征距离确定所述第二参数的偏移量,以用于更新所述第二参数;利用更新后的第二参数重复上述步骤,直至所得到的所述特征距离符合所述最大化条件。在本申请第一方面的某些实施例中,所述第二参数的偏移量包括:基于所述特征距离在第二参数上的梯度而得到的偏移量。在本申请第一方面的某些实施例中,所述利用训练后的映射网络对所述生成网络的第一参数进行训练的步骤包括:在训练后的第二参数的条件下,基于所述真实样本和每次更新第一参数后生成网络输出的生成样本之间的特征距离而确定的所述第一参数的偏移量,更新所述生成网络的第一参数,直至所述真实样本和训练后的生成网络输出的生成样本之间的特征距离符合所述最小化条件。在本申请第一方面的某些实施例中,所述第一参数的的偏移量包括:每次更新第一参数后生成网络输出的生成样本和所述真实样本之间的特征距离在第一参数上的梯度而得到的偏移量。在本申请第一方面的某些实施例中,所述训练方法还包括获取一随机变量的步骤,所述生成样本即为所述生成网络基于所述随机变量生成的。在本申请第一方面的某些实施例中,所述随机变量遵循于一正态分布或一均匀分布。在本申请第一方面的某些实施例中,所述真实样本为参考图像,所述生成样本为生成网络输出的生成图像。本申请的第二方面公开一种生成网络的训练系统,其特征在于,包括:映射网络模块,具有第二参数,用于获取真实样本和生成样本,并基于第二参数输出映射后的真实样本和生成样本;生成网络模块,具有第一参数,用于基于第一参数输出生成样本;训练模块,用于基于第一参数对所述映射网络模块的第二参数训练,直至所训练的映射网络模块使得所述真实样本和使用第一参数的生成网络输出的生成样本之间的特征距离符合最大化条件,以及用于基于训练后的映射网络模块对所述生成网络模块的第一参数训练,直至训练后的第二参数的条件下的所述真实样本和训练后的生成网络输出的生成样本之间的特征距离符合最小化条件;所述训练模块还用于重复上述训练过程,直至经训练的第一参数满足预设收敛条件。在本申请第二方面的某些实施例中,所述映射网络模块包括:特征表示单元,用于将所述真实样本和生成样本映射到特征表示空间内。在本申请第二方面的某些实施例中,所述特征表示单元将所述真实样本和生成样本映射到特征表示空间内包括:对真实样本的特征和生成样本的特征进行降维处理。在本申请第二方面的某些实施例中,所述特征距离为经所述映射网络模块映射到特征表示空间内的真实样本的特征和生成样本的特征之间的最大均值差异。在本申请第二方面的某些实施例中,所述训练模块还包括用于计算所述特征距离的计算单元。在本申请第二方面的某些实施例中,所述训练模块还包括:第二更新单元,用于基于所述真实样本和所述生成样本之间的特征距离而确定的所述第二参数的偏移量,更新所述第二参数;第二判别单元,用于在判断利用更新后的第二参数所得到的特征距离符合最大化条件时停止第二更新单元的更新。在本申请第二方面的某些实施例中,所述第二参数的偏移量包括:基于所述真实样本和所述生成样本之间的特征距离在第二参数上的梯度变化而得到的偏移量。在本申请第二方面的某些实施例中,所述训练模块还包括:第一更新单元,用于在训练后的第二参数的条件下,基于所述真实样本和每次更新第一参数后生成网络输出的生成样本之间的特征距离而确定的所述第一参数的偏移量,更新所述生成网络的第一参数;第一判别单元,用于在判断基于每次更新后的第一参数而输出的生成样本与所述真实样本之间的特征距离符合最小化条件时停止第一更新单元的更新。在本申请第二方面的某些实施例中,所述第一参数的的偏移量包括:基于所述真实样本和每次更新第一参数后生成网络输出的生成样本之间的特征距离在第一参数上的梯度变化而得到的偏移量。在本申请第二方面的某些实施例中,所述生成网络模块还用于获取一随机变量,所述生成样本即为所述生成网络模块基于所述随机变量生成的。在本申请第二方面的某些实施例中,所述随机变量遵循于一正态分布或一均匀分布。在本申请第二方面的某些实施例中,所述真实样本为参考图像,所述生成样本为所述生成网络生成的图像。本申请的第三方面公开一种图像生成方法,包括以下步骤:获取一原始输入图像;利用本申请第一方面公开的任一实施例所述的生成网络训练方法获得的生成网络对所述原始输入图像进行处理以输出一生成图像。本申请的第四方面公开一种图像生成设备,包括:图像采集装置,用于获取待处理的原始输入图像;存储装置,用于存储计算机程序;处理装置,通信连接所述图像采集装置及存储装置,用于运行所述计算机程序来执行如本申请第三方面公开的本文档来自技高网...

【技术保护点】
1.一种生成网络的训练方法,其特征在于,包括以下步骤:/n获取真实样本和生成样本,所述生成样本是由使用第一参数的生成网络所生成的;/n利用所述真实样本和所述生成样本对映射网络的第二参数进行训练,直至所训练的映射网络使得所述真实样本和所述生成样本之间的特征距离符合最大化条件;/n利用训练后的映射网络对所述生成网络的第一参数进行训练,直至训练后的第二参数的条件下的所述真实样本和训练后的生成网络输出的生成样本之间的特征距离符合最小化条件;/n重复上述过程直至经训练得到的第一参数满足预设收敛条件。/n

【技术特征摘要】
1.一种生成网络的训练方法,其特征在于,包括以下步骤:
获取真实样本和生成样本,所述生成样本是由使用第一参数的生成网络所生成的;
利用所述真实样本和所述生成样本对映射网络的第二参数进行训练,直至所训练的映射网络使得所述真实样本和所述生成样本之间的特征距离符合最大化条件;
利用训练后的映射网络对所述生成网络的第一参数进行训练,直至训练后的第二参数的条件下的所述真实样本和训练后的生成网络输出的生成样本之间的特征距离符合最小化条件;
重复上述过程直至经训练得到的第一参数满足预设收敛条件。


2.根据权利要求1所述的生成网络的训练方法,其特征在于,所述映射网络用于将所述真实样本和生成样本映射到特征表示空间内。


3.根据权利要求2所述的生成网络的训练方法,其特征在于,所述映射网络的映射包括:降维操作。


4.根据权利要求2所述的生成网络的训练方法,其特征在于,所述特征距离为经所述映射网络映射到特征表示空间内的真实样本的特征和生成样本的特征之间的最大均值差异。


5.根据权利要求1所述的生成网络的训练方法,其特征在于,所述利用所述真实样本和所述生成样本对映射网络的第二参数进行训练包括:
计算经所述映射网络得到的真实样本和生成样本之间的特征距离;
基于所述特征距离确定所述第二参数的偏移量,以用于更新所述第二参数;
利用更新后的第二参数重复上述步骤,直至所得到的所述特征距离符合所述最大化条件。


6.根据权利要求5所述的生成网络的训练方法,其特征在于,所述第二参数的偏移量包括:基于所述特征距离在第二参数上的梯度而得到的偏移量。


7.根据权利要求1所述的生成网络的训练方法,其特征在于,所述利用训练后的映射网络对所述生成网络的第一参数进行训练的步骤包括:
在训练后的第二参数的条件下,基于所述真实样本和每次更新第一参数后生成网络输出的生成样本之间的特征距离而确定的所述第一参数的偏移量,更新所述生成网络的第一参数,直至所述真实样本和训练后的生成网络输出的生成样本之间的特征距离符合所述最小化条件。


8.根据根据权利要求7所述的生成网络的训练方法,其特征在于,所述第一参数的偏移量包括:每次更新第一参数后生成网络输出的生成样本和所述真实样本之间的特征距离在第一参数上的梯度而得到的偏移量。


9.根据权利要求1所述的生成网络的训练方法,其特征在于,所述训练方法还包括获取一随机变量的步骤,所述生成样本即为所述生成网络基于所述随机变量生成的。


10.根据权利要求9所述的生成网络的训练方法,其特征在于,所述随机变量遵循于一正态分布或一均匀分布。


11.根据权利要求1所述的生成网络的训练方法,其特征在于,所述真实样本为参考图像,所述生成样本为生成网络输出的生成图像。


12.一种生成网络的训练系统,其特征在于,包括:
映射网络模块,具有第二参数,用于获取真实样本和生成样本,并基于第二参数输出映射后的真实样本和生成样本;
生成网络模块,具有第一参数,用于基于第一参数输出生成样本;
训练模块,用于基于第一参数对所述映射网络模块的第二参数训练,直至所训练的映射网络模块使得所述真实样本和使用第一参数的生成网络模块输出的生成样本之间的特征距离符合最大化条件,以及用于基于训练后的映射网络模块对所述生成网络模块的第一参数训练,直至训练后的第二参数的条件下的所述真实样本和训练后的生成网络模块输出的生成样本之间的特征距离符合最小化条件;
所述训练模块还用于重复上述训练过程,直至经训练的第一参数满足预设收敛条件。


13.根据权利要求12所述的生成网络的训练系统,其特征在于,所述映射网络模块包括...

【专利技术属性】
技术研发人员:李建郭建波
申请(专利权)人:图灵人工智能研究院南京有限公司
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1