本公开提供了一种用于文本处理神经网络的训练方法、装置和介质，涉及人工智能领域，具体涉及自然语言处理、深度学习技术。该方法包括：获取神经网络的样本输入，样本输入包括多个分词；获取神经网络中的门控矩阵，门控矩阵用于计算多个分词中的每一个分词与神经网络中的多个专家网络中的每一个专家网络的相关性，多个专家网络用于对多个分词进行强化；基于门控矩阵和门控矩阵的转置矩阵的乘积，确定中间矩阵；基于中间矩阵和单位矩阵，确定第一损失值；以及基于第一损失值，调整门控矩阵的参数，以得到训练后的神经网络。以得到训练后的神经网络。以得到训练后的神经网络。
【技术实现步骤摘要】
用于文本处理神经网络的训练方法、装置和介质
[0001]本公开涉及人工智能领域，具体涉及自然语言处理、深度学习技术，特别涉及一种用于文本处理神经网络的训练方法、用于文本处理神经网络的训练装置、电子设备、计算机可读存储介质和计算机程序产品。
技术介绍
[0002]人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
[0003]预训练语言模型是近年来自然语言处理领域发展比较迅速的技术，通过增大预训练模型规模，一般来说可以使得模型取得更好的效果。
[0004]在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明，否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地，除非另有指明，否则此部分中提及的问题不应认为在任何现有技术中已被公认。
技术实现思路
[0005]本公开提供了一种用于文本处理神经网络的训练方法、用于文本处理神经网络的训练装置、电子设备、计算机可读存储介质和计算机程序产品。
[0006]根据本公开的一方面，提供了一种用于文本处理神经网络的训练方法，包括：获取神经网络的样本输入，样本输入包括多个分词；获取神经网络中的门控矩阵，门控矩阵用于计算多个分词中的每一个分词与神经网络中的多个专家网络中的每一个专家网络的相关性，多个专家网络用于对多个分词进行强化；基于门控矩阵和门控矩阵的转置矩阵的乘积，确定中间矩阵；基于中间矩阵和单位矩阵，确定第一损失值；以及基于第一损失值，调整门控矩阵的参数，以得到训练后的神经网络。
[0007]根据本公开的一方面，提供了一种用于文本处理神经网络的训练装置，包括：第一获取单元，被配置为获取神经网络的样本输入，样本输入包括多个分词；第二获取单元，被配置为获取神经网络中的门控矩阵，门控矩阵用于计算多个分词中的每一个分词与神经网络中的多个专家网络中的每一个专家网络的相关性，多个专家网络用于对多个分词进行强化；第一确定单元，被配置为基于门控矩阵和门控矩阵的转置矩阵的乘积，确定中间矩阵；第二确定单元，被配置为基于中间矩阵和单位矩阵，确定第一损失值；以及第一调参单元，被配置为基于第一损失值，调整门控矩阵的参数，以得到训练后的神经网络。
[0008]根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中存储器存储有可被至少一个处理器执行的指令，这些指令被至少一个处理器执行，以使至少一个处理器能够执行上述方法。
[0009]根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行上述方法。
[0010]根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，其中，计算机程序在被处理器执行时实现上述方法。
[0011]根据本公开的一个或多个实施例，通过基于门控矩阵及其转置矩阵的乘积确定中间矩阵，进而基于中间矩阵和单位矩阵确定第一损失值，并利用第一损失值调整门控矩阵的参数，能够使门控矩阵正交化，并使得训练后得到的不同的专家网络能够用于处理不同类型的分词，从而具有相应的物理意义。
[0012]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0013]附图示例性地示出了实施例并且构成说明书的一部分，与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的，并不限制权利要求的范围。在所有附图中，相同的附图标记指代类似但不一定相同的要素。
[0014]图1示出了根据本公开的实施例的可以在其中实施本文描述的各种方法的示例性系统的示意图；
[0015]图2示出了根据本公开示例性实施例的用于文本处理神经网络的训练方法的流程图；
[0016]图3示出了根据本公开示例性实施例的神经网络的示意图；
[0017]图4示出了根据本公开示例性实施例的用于文本处理神经网络的训练方法的流程图；
[0018]图5示出了根据本公开示例性实施例的用于文本处理神经网络的训练装置的结构框图；以及
[0019]图6示出了能够用于实现本公开的实施例的示例性电子设备的结构框图。
具体实施方式
[0020]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0021]在本公开中，除非另有说明，否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系，这种术语只是用于将一个元件与另一元件区分开。在一些示例中，第一要素和第二要素可以指向该要素的同一实例，而在某些情况下，基于上下文的描述，它们也可以指代不同实例。
[0022]在本公开中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的，而并非旨在进行限制。除非上下文另外明确地表明，如果不特意限定要素的数量，则该要素可以是一个也可以是多个。此外，本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。
[0023]相关技术中，在对混合专家网络进行训练时，通常利用基于模型最终输出的结果和真实结果(ground truth)的损失值调整模型的参数，但没有对混合专家网络中的部分模块进行特别优化，因此模型的预测能力还有进一步提升的可能性。
[0024]为解决上述问题，本公开通过基于门控矩阵及其转置矩阵的乘积确定中间矩阵，进而基于中间矩阵和单位矩阵确定第一损失值，并利用第一损失值调整门控矩阵的参数，能够使门控矩阵正交化，并使得训练后得到的不同的专家网络能够用于处理不同类型的分词，从而具有相应的物理意义。
[0025]下面将结合附图详细描述本公开的实施例。
[0026]图1示出了根据本公开的实施例可以将本文描述的各种方法和装置在其中实施的示例性系统100的示意图。参考图1，该系统100包括一个或多个客户端设备101、102、103、104、105和106、服务器120以及将一个或多个客户端设备耦接到服务器120的一个或多个通信网络110。客户端设备101、102、103、104、105和106可以被配置为执行一个或多个应用程序。
[0027]在本公开的实施例中，服务器120可以运行使得能够执行神经网络的训练方法的一个或多个服务或软件应用。...
【技术保护点】
【技术特征摘要】
1.一种用于文本处理神经网络的训练方法，包括：获取所述神经网络的样本输入，所述样本输入包括多个分词；获取所述神经网络中的门控矩阵，所述门控矩阵用于计算所述多个分词中的每一个分词与所述神经网络中的多个专家网络中的每一个专家网络的相关性，所述多个专家网络用于对所述多个分词进行强化；基于所述门控矩阵和所述门控矩阵的转置矩阵的乘积，确定中间矩阵；基于所述中间矩阵和单位矩阵，确定第一损失值；以及基于所述第一损失值，调整所述门控矩阵的参数，以得到训练后的神经网络。2.根据权利要求1所述的方法，还包括：获取与所述样本输入对应的真实处理结果；基于所述门控矩阵，将所述多个专家网络与所述多个分词进行匹配；针对所述多个分词中的每一个分词，响应于确定所述多个专家网络中具有与该分词匹配的至少一个专家网络，利用所述至少一个专家网络对该分词进行强化，以得到与该分词对应的中间结果；以及响应于确定所述多个专家网络中不具有与该分词匹配的专家网络，直接将该分词确定为与该分词对应的中间结果；对所述多个分词各自的中间结果进行处理，以得到样本处理结果；基于所述真实处理结果和所述样本处理结果，确定第二损失值；以及基于所述第二损失值，调整所述神经网络的参数，以得到训练后的神经网络。3.根据权利要求2所述的方法，其中，基于所述门控矩阵，将所述多个专家网络与所述多个分词进行匹配包括：基于所述样本输入与所述门控矩阵的乘积，确定所述多个专家网络中的每一个专家网络与所述多个分词中的每一个分词的相关性；以及基于所述多个专家网络中的每一个专家网络与所述多个分词中的每一个分词的相关性，将所述多个专家网络与所述多个分词进行匹配。4.根据权利要求3所述的方法，其中，基于所述多个专家网络中的每一个专家网络与所述多个分词中的每一个分词的相关性，将所述多个专家网络与所述多个分词进行匹配包括：针对所述多个分词中的每一个分词，利用该分词与所述多个专家网络中的每一个专家网络的相关性，在所述多个专家网络中确定与该分词匹配的专家网络。5.根据权利要求3所述的方法，其中，基于所述多个专家网络中的每一个专家网络与所述多个分词中的每一个分词的相关性，将所述多个专家网络与所述多个分词进行匹配包括：针对所述多个专家网络中的每一个专家网络，利用该专家网络与所述多个分词中的每一个分词的相关性，在所述多个分词中确定与该专家网络匹配的分词。6.根据权利要求1所述的方法，其中，所述中间矩阵的维度与所述多个专家网络的数量相同。7.根据权利要求1所述的方法，其中，所述第一损失值为所述中间矩阵和所述单位矩阵的均方损失。
8.一种用于文本处理神经网络的训练装置，包括：第一获取单元，被配置为获取所述神经网络的样本输入，所述样本输入包括多个分词；第二获取单元，被配置为获取所述神经网络中的门控矩阵，所述门控矩阵用于计算所述多个分词中的每一个分词与所述神经网络中的多个专家网络中的每一个专家网络的相关性，所述多个专家网络用于对所述多个分词进行强化；第一确定单元...
【专利技术属性】
技术研发人员：卢宇翔，陈徐屹，刘佳祥，冯仕堃，黄世维，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。