对抗域自适应模型训练方法及对抗域自适应模型技术

本发明专利技术公开一种对抗域自适应模型训练方法，所述对抗域自适应模型包括源域嵌入提取器、说话者判别器、目标域嵌入提取器和域判别器，所述方法包括：S10、配置所述源域嵌入提取器和所述目标域嵌入提取器之间共享部分层的参数；S20、将有标注的源域训练数据输入至所述源域嵌入提取器，所述源域嵌入提取器的输出输入至所述说话者判别器，得到说话者损失；S30、将无标注的目标域训练数据输入至所述目标域嵌入提取器，所述目标域提取器的输出和所述源域嵌入提取器的输出输入至所述域判别器，得到Wasserstein损失。在本发明专利技术提出的方法中，源域和目标域的特征提取器并不是完全相同的。这样特征提取器不同的参数部分可以解决主任务和域对抗训练任务之间的冲突问题。

【技术实现步骤摘要】
对抗域自适应模型训练方法及对抗域自适应模型
本专利技术涉及人工智能
，尤其涉及一种对抗域自适应模型训练方法及对抗域自适应模型。
技术介绍
自从提出基于深度神经网络(DNN)的说话人嵌入以来，旨在验证用户在其语音段中所声称的身份的说话人验证任务已获得了显着改进。研究人员已经研究了不同的DNN架构和不同的损失函数，以增强基于DNN的说话人嵌入的辨别力。尽管用于说话人验证的DNN嵌入成功，但DNN训练通常需要大量带有说话人标签的经过标注的数据。另一方面，我们知道从一个域训练的模型的性能在应用于数据分布不相同的不同域时会急剧下降。针对每种应用场景训练特定于域的模型是一种幼稚的解决方案，为每个域收集和标记数据既耗时又非常昂贵。因此，有必要找到一种有效的方法，以将经过良好标记的源域数据集训练的现有模型快速调整到新的目标域，在该目标域中，只有弱标记或者甚至未标记的数据可用。已经提出了不同的方法来解决用于说话者验证的域自适应问题，其中最常用的一种方法是利用对抗学习使表示域不变，并减少源域数据和目标域数据之间的不匹配。失配可能来自不同的通道，噪声类型和语言等。现有技术提出使用通道对抗训练来使说话人嵌入更具通道不变性。但是，在当前的大多数工作中，来自源域和目标域的数据共享相同的特征提取器。源域数据和目标域数据一般都有着很大的差别，对源域和目标域数据使用完全相同的特征提取器提取特征，然后在使用对抗训练使得两者提取的特征分布一致，这会损害主任务的性能。
技术实现思路
本专利技术实施例提供一种对抗域自适应模型训练方法及对抗域自适应模型，用于至少解决上述技术问题之一。第一方面，本专利技术实施例提供一种对抗域自适应模型训练方法，所述对抗域自适应模型包括源域嵌入提取器、说话者判别器、目标域嵌入提取器和域判别器，所述方法包括：S10、配置所述源域嵌入提取器和所述目标域嵌入提取器之间共享部分层的参数；S20、将有标注的源域训练数据输入至所述源域嵌入提取器，所述源域嵌入提取器的输出输入至所述说话者判别器，得到说话者损失；S30、将无标注的目标域训练数据输入至所述目标域嵌入提取器，所述目标域提取器的输出和所述源域嵌入提取器的输出输入至所述域判别器，得到Wasserstein损失。第二方面，本专利技术实施例提供一种对抗域自适应模型，包括：源域嵌入提取器、说话者判别器、目标域嵌入提取器和域判别器，其中，所述源域嵌入提取器和所述目标域嵌入提取器之间共享部分层的参数；所述源域嵌入提取器用于输入有标注的源域训练数据，并与所述说话者判别器的输入端连接，得到说话者损失；所述目标域嵌入提取器用于无标注的目标域训练数据输入；所述域判别器用于接收所述目标域提取器的输出和所述源域嵌入提取器的输出，以得到Wasserstein损失。第三方面，提供一种电子设备，该电子设备配置有本专利技术任一实施例所述的对抗域自适应模型。第四方面，本专利技术实施例提供一种存储介质，所述存储介质中存储有一个或多个包括执行指令的程序，所述执行指令能够被电子设备(包括但不限于计算机，服务器，或者网络设备等)读取并执行，以用于执行本专利技术上述任一项对抗域自适应模型训练方法。第五方面，提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术上述任一项对抗域自适应模型训练方法。第六方面，本专利技术实施例还提供一种计算机程序产品，所述计算机程序产品包括存储在存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使所述计算机执行上述任一项对抗域自适应模型训练方法。本专利技术实施例的有益效果在于：在本专利技术提出的方法中，源域和目标域的特征提取器并不是完全相同的。这样特征提取器不同的参数部分可以解决主任务和域对抗训练任务之间的冲突问题。附图说明为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1为本专利技术的对抗域自适应模型训练方法的一实施例的流程图；图2为本专利技术的对抗域自适应模型训练方法的另一实施例的流程图；图3为本专利技术的对抗域自适应模型的一实施例的原理框图；图4a为现有技术中具有对抗性训练标准的完全共享网络的对抗域自适应模型的结构示意图；图4b为本专利技术中具有对抗训练标准的部分共享网络的对抗域自适应模型的结构示意图；图5为联合训练源提取器和目标提取器的不同权重分配策略的结果对比图；图6为本专利技术中源域嵌入提取器的参数固定情况下不同模型配置的结果比较示意图。具体实施方式为使本专利技术实施例的目的、技术方案和优点更加清楚，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。本专利技术可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、元件、数据结构等等。也可以在分布式计算环境中实践本专利技术，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。在本专利技术中，“模块”、“装置”、“系统”等指应用于计算机的相关实体，如硬件、硬件和软件的组合、软件或执行中的软件等。详细地说，例如，元件可以、但不限于是运行于处理器的过程、处理器、对象、可执行元件、执行线程、程序和/或计算机。还有，运行于服务器上的应用程序或脚本程序、服务器都可以是元件。一个或多个元件可在执行的过程和/或线程中，并且元件可以在一台计算机上本地化和/或分布在两台或多台计算机之间，并可以由各种计算机可读介质运行。元件还可以根据具有一个或多个数据包的信号，例如，来自一个与本地系统、分布式系统中另一元件交互的，和/或在因特网的网络通过信号与其它系统交互的数据的信号通过本地和/或远程过程来进行通信。最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”，不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括……”限定的要素，并不排本文档来自技高网...

【技术保护点】
1.一种对抗域自适应模型训练方法，所述对抗域自适应模型包括源域嵌入提取器、说话者判别器、目标域嵌入提取器和域判别器，所述方法包括：/n配置所述源域嵌入提取器和所述目标域嵌入提取器之间共享部分层的参数；/n将有标注的源域训练数据输入至所述源域嵌入提取器，所述源域嵌入提取器的输出输入至所述说话者判别器，得到说话者损失；/n将无标注的目标域训练数据输入至所述目标域嵌入提取器，所述目标域嵌入提取器的输出和所述源域嵌入提取器的输出输入至所述域判别器，得到Wasserstein损失。/n

【技术特征摘要】
1.一种对抗域自适应模型训练方法，所述对抗域自适应模型包括源域嵌入提取器、说话者判别器、目标域嵌入提取器和域判别器，所述方法包括：
配置所述源域嵌入提取器和所述目标域嵌入提取器之间共享部分层的参数；
将有标注的源域训练数据输入至所述源域嵌入提取器，所述源域嵌入提取器的输出输入至所述说话者判别器，得到说话者损失；
将无标注的目标域训练数据输入至所述目标域嵌入提取器，所述目标域嵌入提取器的输出和所述源域嵌入提取器的输出输入至所述域判别器，得到Wasserstein损失。


2.根据权利要求1所述的方法，其中，还包括预先对所述域判别器进行多次迭代训练。


3.根据权利要求1所述的方法，其中，所述源域嵌入提取器和所述目标域嵌入提取器分别包括多个TDNN层、一个池化层和一个密集层。


4.根据权利要求3所述的方法，其中，所述配置所述源域嵌入提取器和所述目标域嵌入提取器之间共享部分层的参数包括：
通过权重正则化损失配置所述源域嵌入提取器和所述目标域嵌入提取器之间的多个层共享参数，所述多个层为所述多个TDNN层和所述密集层中的部分层。


5.根据权利要求4所述的方法，其中，所述多个层包括最靠近所述源域嵌入提取器和所述目标域嵌入提取器的输出...

【专利技术属性】
技术研发人员：钱彦旻，陈正阳，王帅，
申请(专利权)人：苏州思必驰信息科技有限公司，
类型：发明
国别省市：江苏;32