一种基于深度学习模型的多任务实现方法、装置制造方法及图纸

本申请公开了一种基于深度学习模型的多任务实现方法，包括：用于待处理任务数据经深度学习模型中的第一特征提取单元进行特征提取，得到第一特征提取结果，以此类推，将第i

【技术实现步骤摘要】
一种基于深度学习模型的多任务实现方法、装置


[0001]本专利技术涉及人工智能领域，特别地，涉及一种基于深度学习模型的多任务实现方法。

技术介绍

[0002]深度学习被引入机器学习使其更接近于最初的目标
‑‑‑‑
人工智能（AI，Artificial Intelligence）。深度学习是学习样本数据的内在规律和表示层次，这些学习过程中获得的信息对诸如文字、图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力，能够识别文字、图像和声音等数据。
[0003]深度学习模型是由多个单层非线性网络叠加而成的，其打破了传统神经网络对层数的限制，可根据设计需要选择网络层数。
[0004]现有的基于深度学习模型的多任务实现方法，通常是为每个任务分别设计独立的网络结构，各网络结构集成到应用设备上，独立进行处理以实现对应的任务，这导致功耗较大。

技术实现思路

[0005]本专利技术提供了一种基于深度学习模型的多任务实现方法，以降低多任务实现的功耗。
[0006]本专利技术提供的一种基于深度学习模型的多任务实现方法，包括：用于将待处理任务数据经深度学习模型中的第一特征提取单元进行特征提取，得到第一特征提取结果，将第一特征提取结果经所述深度学习模型中的第二特征提取单元进行特征提取，得到第二特征提取结果，以此类推，将第i
‑
1特征提取结果经所述深度学习模型中的第i特征提取单元进行特征提取，得到第i特征提取结果；分别基于来自至少两个特征提取单元输出的特征结果，进行任务处理，其中，第一特征提取单元为：至少两个以上待处理任务所共有的特征提取单元，第二特征提取单元为：第一特征提取单元处理后的当前剩余任务所共有的特征提取单元中，除去第一特征提取单元之外剩余的特征提取单元，以此类推，第i特征提取单元为：除去i
‑
1个特征提取单元所处理任务之后剩余任务所共有的特征提取单元中，除去第一特征提取单元、第二特征提取单元、直至第i
‑
1单元之外剩余的特征提取单元，i为大于1的自然数。
[0007]较佳地，每个所述特征提取单元至少包括具有设定网络层数的特征提取器，
其中，网络层数按照如下方式设定：将各个任务所需特征提取器的网络层数进行排序，将相同网络层数保留为一个网络层数，得到排序结果，该排序结果中包括不等的网络层数，设置第一特征提取单元中的第一特征提取器的网络层数为：排序结果中具有最小值的第一网络层数，设置第二特征提取单元中的第二特征提取器的网络层数为：排序结果中与所述第一网络层数相邻、且大于所述第一网络层数的第二网络层数，与所述第一网络层数之间的差值，以此类推，设置第i特征提取单元中的第i特征提取器的网络层数为：排序结果中与所述第i
‑
1网络层数相邻、且大于所述第i
‑
1网络层数的第i网络层数，与所述第i
‑
1网络层数的之间的差值。
[0008]较佳地，所述多任务包括：语音关键词识别任务，语音识别任务，音色转换任务；所述第一特征提取单元对待处理的语音数据进行特征提取，得到第一特征提取结果，第一特征提取结果经第一分类器处理，得到关键词预测结果，所述第二特征提取单元对第一特征提取结果进行特征提取，得到第二特征提取结果，第二特征提取结果依次经上采样特征提取器、生成器处理，得到音色转换结果，所述第三特征提取单元对第二特征提取结果进行特征提取，得到第三特征提取结果，第三特征提取结果经第二分类器处理，得到字预测结果。
[0009]较佳地，所述第一特征提取单元包括下采样特征提取器以及第一特征提取器，所述第二特征提取单元包括第二特征提取器，所述第三特征提取单元包括第三特征提取器，所述第一分类器包括用于进行关键词分类的第二全连接层，所述第二分类器包括用于进行字分类的第三全连接层，所述上采样特征提取器包括用于上采样特征提取的反卷积层，所述生成器包括用于生成转换语音的第四全连接层。
[0010]较佳地，所述下采样特征提取器包括以下依次相连的卷积下采样层、第一全连接层，所述第一特征提取器包括依次连接的第一特征提取层和第二特征提取层，所述第一全连接层的输出送至所述第一特征提取层；所述第二特征提取器包括依次连接的第三特征提取层和第四特征提取层，第二特征提取层的输出送至第三特征提取层、以及第二全连接层，所述第三特征提取器包括依次连接的第五特征提取层、第六特征提取层、第七特征提取层、第八特征提取层、第九特征提取层、第十特征提取层，第四特征提取层的输出送至第五特征提取层、以及反卷积层，第十特征提取层的输出送至第三全连接层，所述反卷积层的输出送至第四全连接层。
[0011]较佳地，每个所述特征提取层依次进行第一前馈处理、多头注意力处理、卷积处
理、第二前馈处理、归一化处理；所述深度学习模型按照如下方式进行训练：将样本任务数据输入至所述深度学习模型，根据深度学习模型输出的各样本任务结果，确定各样本任务的损失函数值，融合各样本任务的损失函数值，得到融合损失函数值，根据融合损失函数值，调整深度学习模型的模型参数；其中，融合损失函数值为各样本任务损失函数值的加权之和。
[0012]本专利技术还提供一种基于深度学习模型的多任务实现装置，该装置包括：深度学习模型中的第一特征提取单元，用于对待处理任务数据进行特征提取，得到第一特征提取结果，深度学习模型中的第二特征提取单元，用于将第一特征提取结果进行特征提取，得到第二特征提取结果，以此类推，深度学习模型中的第i特征提取单元，用于将第i
‑
1特征提取结果进行特征提取，得到第i特征提取结果；深度学习模型中的任务处理单元，用于分别基于来自至少两个以上特征提取单元输出的特征结果进行任务处理，其中，第一特征提取单元为：至少两个待处理任务所共有的特征提取单元，第二特征提取单元为：第一特征提取单元处理后的当前剩余任务所共有的特征提取单元中，除去第一特征提取单元之外剩余的特征提取单元，以此类推，第i特征提取单元为：除去i
‑
1个特征提取单元所处理任务之后剩余任务所共有的特征提取单元中，除去第一特征提取单元、第二特征提取单元、直至第i
‑
1单元之外剩余的特征提取单元，i为大于1的自然数。
[0013]较佳地，每个所述特征提取单元至少包括具有设定网络层数的特征提取器，所述网络层数按照如下方式设定：将各个任务所需特征提取器的网络层数进行排序，将相同网络层数保留为一个网络层数，得到排序结果，该排序结果中包括不等的网络层数，设置第一特征提取单元中的第一特征提取器的网络层数为：排序结果中具有最小值的第一网络层数，设置第二特征提取单元中的第二特征提取器的网络层数为：排序结果中与所述第一网络层数相邻、且大于所述第一网络层数的第二网络层数与所述第一网络层数之间的差值，以此类推，设置第i特征提取单元中的第i特征提取器的网络层数为：排序结果中与所述第i
‑
1网络层数相邻、且大于所述第i
‑
1网本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于深度学习模型的多任务实现方法，其特征在于，包括：用于将待处理任务数据经深度学习模型中的第一特征提取单元进行特征提取，得到第一特征提取结果，将第一特征提取结果经所述深度学习模型中的第二特征提取单元进行特征提取，得到第二特征提取结果，以此类推，将第i
‑
1特征提取结果经所述深度学习模型中的第i特征提取单元进行特征提取，得到第i特征提取结果；分别基于来自至少两个特征提取单元输出的特征结果，进行任务处理，其中，第一特征提取单元为：至少两个以上待处理任务所共有的特征提取单元，第二特征提取单元为：第一特征提取单元处理后的当前剩余任务所共有的特征提取单元中，除去第一特征提取单元之外剩余的特征提取单元，以此类推，第i特征提取单元为：除去i
‑
1个特征提取单元所处理任务之后剩余任务所共有的特征提取单元中，除去第一特征提取单元、第二特征提取单元、直至第i
‑
1单元之外剩余的特征提取单元，i为大于1的自然数。2.如权利要求1所述的多任务实现方法，其特征在于，每个所述特征提取单元至少包括具有设定网络层数的特征提取器，其中，网络层数按照如下方式设定：将各个任务所需特征提取器的网络层数进行排序，将相同网络层数保留为一个网络层数，得到排序结果，该排序结果中包括不等的网络层数，设置第一特征提取单元中的第一特征提取器的网络层数为：排序结果中具有最小值的第一网络层数，设置第二特征提取单元中的第二特征提取器的网络层数为：排序结果中与所述第一网络层数相邻、且大于所述第一网络层数的第二网络层数，与所述第一网络层数之间的差值，以此类推，设置第i特征提取单元中的第i特征提取器的网络层数为：排序结果中与所述第i
‑
1网络层数相邻、且大于所述第i
‑
1网络层数的第i网络层数，与所述第i
‑
1网络层数的之间的差值。3.如权利要求1或2所述的多任务实现方法，其特征在于，所述多任务包括：语音关键词识别任务，语音识别任务，音色转换任务；所述第一特征提取单元对待处理的语音数据进行特征提取，得到第一特征提取结果，第一特征提取结果经第一分类器处理，得到关键词预测结果，所述第二特征提取单元对第一特征提取结果进行特征提取，得到第二特征提取结果，第二特征提取结果依次经上采样特征提取器、生成器处理，得到音色转换结果，所述第三特征提取单元对第二特征提取结果进行特征提取，得到第三特征提取结果，第三特征提取结果经第二分类器处理，得到字预测结果。4.如权利要求3所述的多任务实现方法，其特征在于，所述第一特征提取单元包括下采
样特征提取器以及第一特征提取器，所述第二特征提取单元包括第二特征提取器，所述第三特征提取单元包括第三特征提取器，所述第一分类器包括用于进行关键词分类的第二全连接层，所述第二分类器包括用于进行字分类的第三全连接层，所述上采样特征提取器包括用于上采样特征提取的反卷积层，所述生成器包括用于生成转换语音的第四全连接层。5.如权利要求4所述的多任务实现方法，其特征在于，所述下采样特征提取器包括以下依次相连的卷积下采样层、第一全连接层，所述第一特征提取器包括依次连接的第一特征提取层和第二特征提取层，所述第一全连接层的输出送至所述第一特征提取层；所述第二特征提取器包括依次连接的第三特征提取层和第四特征提取层，第二特征提取层的输出送至第三特征提取层、以及第二全连接层，所述第三特征提取器包括依次连接的第五特征提取层、第六特征提取层、第七特征提取层、第八特征提取层、第九特征提取层、第十特征提取层，第四特征提取层的输出送至第五特征提取层、以及反卷积层，第十特征提取层的输出送至第三全连接层，所述反卷积层的输出送至第四全连接层。6.如权利要求4所述的多任务实现方法，其特征在于，每个所述特征提取层依次进行第一前馈处理、多头注意力处理、卷积处理、第二前馈处理、归一化处理；所述深度学习模型按照如下方式进行训练：将样本任务数据输入至所述深度学习模型，根据深度学习模型输出的各样本任务结果，确定各样本任务的损失函数值，融合各样本任务的损失函数值，得到融合损失函数值，根据融合损失函数值，调整深度学习模型的模型参数；其中，融合损失函数值为各样本任务损失函数值的加权之和。7.一种基于深度学习模型的多任务实现装置，其特征在于...

【专利技术属性】
技术研发人员：钟雨崎，凌明，杨作兴，艾国，
申请(专利权)人：深圳比特微电子科技有限公司，
类型：发明
国别省市：