【技术实现步骤摘要】
具有噪声对比先验的潜在变量生成性模型
[0001]相关申请的交叉引用
[0002]本申请要求于2020年9月25日提交的、序列号为63/083,635的题为“具有噪声对比先验的变分自动编码器(VARIATIONAL AUTOENCODERS WITH NOISE CONTRASTIVE PRIORS)”的美国临时专利申请的优先权权益。该相关申请的主题在此通过引用并入本文中。
[0003]本公开的实施例总地涉及机器学习和计算机科学，更具体地，涉及具有噪声对比先验的潜在变量生成性模型。
技术介绍
[0004]在在机器学习中，生成性模型通常包括深度神经网络和/或其他类型的机器学习模型，这些模型经过训练以生成新的数据实例。例如，可以在包括大量猫的图像的训练数据集上训练生成性模型。在训练期间，生成性模型“学习”图像中描绘的各种猫的视觉属性。然后，生成性模型可以使用这些学习到的视觉属性来产生训练数据集中未找到的猫的新图像。
[0005]变分自动编码器(VAE)是一种生成性模型。VAE通常包括编码器网络，该编码器网...
【技术保护点】
【技术特征摘要】
1.一种用于使用变分自动编码器生成图像的计算机实现的方法，所述方法包括：确定包括在多个训练图像中的视觉属性集合的一个或更多个第一值，其中所述视觉属性集合已经经由先验网络编码；将重新加权因子应用于所述一个或更多个第一值，以便为所述视觉属性集合生成一个或更多个第二值，其中所述一个或更多个第二值表示向所述视觉属性集合的一个或更多个第三值移位的一个或更多个第一值，其中所述一个或更多个第三值已经经由编码器网络生成；以及经由解码器网络对所述一个或更多个第二值执行一个或更多个解码操作，以生成不包括在所述多个训练图像中的新图像。2.根据权利要求1所述的计算机实现的方法，其中将所述重新加权因子应用于所述一个或更多个第一值包括：基于分类器生成所述重新加权因子，所述分类器区分从所述视觉属性集合中采样的值和由所述编码器网络从所述多个训练图像生成的值。3.根据权利要求1所述的计算机实现的方法，其中所述新图像包括至少一个面部。4.一种用于使用生成性模型生成数据的计算机实现的方法，所述方法包括：从由包括在所述生成性模型中的先验网络学习的潜在变量的分布中采样一个或更多个第一值；将重新加权因子应用于所述一个或更多个第一值，以便为所述潜在变量生成一个或更多个第二值，其中所述重新加权因子基于一个或更多个分类器而生成，所述分类器用于区分从所述分布中采样的值和经由包括在所述生成性模型中的编码器网络生成的所述潜在变量的值；以及经由包括在所述生成性模型中的解码器网络对所述一个或更多个第二值执行一个或更多个解码操作以产生生成性输出。5.根据权利要求4所述的计算机实现的方法，还包括：基于二进制交叉熵损失训练所述一个或更多个分类器。6.根据权利要求4所述的计算机实现的方法，其中在训练所述一个或更多个分类器之前，使用训练数据集训练所述先验网络、所述编码器网络和所述解码器网络。7.根据权利要求4所述的计算机实现的方法，其中由所述先验网络学习的潜在变量的分布包括潜在变量的层次，并且采样所述一个或更多个第一值包括：从包括在所述潜在变量的层次中的第一组潜在变量中采样第一值；以及基于所述第一值和特征映射，从包括在所述潜在变量的层次中的第二组潜在变量中采样第二值。8.根据权利要求7所述的计算机实现的方法，其中所述一个或更多个分类器包括第一分类器和第二分类器，所述第一分类器区分使用所述先验网络从所述第一组潜在变量中采样的第三值和由所述编码器网络生成的所述第一组潜在变量的第四值，所述第二分类器区分使用所述先验网络从所述第二组潜在变量中采样的第五值和由所述编码器网络生成的所述第二组潜在变量的第六值。9.根据权利要求4所述的计算机实现的方法，其中将所述重新加权因子应用于所述一个或更多个第一值包括：基于与所述重新加权因子成比例的重要性权重对所述一个或更多个第一值重新采样。
10.根据权利要求4所述的计算机实现的方法，其中将所述重新加权因子应用于所述一个或更多个第一值包括：基于与所述分布和所述重新加权因子相关联的能量函数的梯度迭代地更新所述一个或更多个第一值。11.根据权利要求10所述的计算机实现的方法，其中所述能量函数包括所述分布和所述重新加权因子之间的差。12....
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。