自然语言处理方法及装置、电子设备和存储介质制造方法及图纸

技术编号:35780748 阅读:22 留言:0更新日期:2022-12-01 14:26
一种自然语言处理方法及装置、电子设备和存储介质。该自然语言处理方法包括:获取待进行自然语言处理的任务文本,其中,任务文本包括多个字符;利用共享神经网络对任务文本进行特征提取,得到任务文本的共享特征,其中,共享特征包含多个字符的字符特征以及多个字符之间的全局联系;将共享特征输入多个功能神经网络,得到多个功能神经网络分别输出的多个处理结果,其中,多个功能神经网络用于分别执行多个不同的自然语言处理任务。该自然语言处理方法采用具有共享神经网络的用于自然语言处理的多个神经网络来执行多个不同的自然语言处理任务,减少了多任务神经网络的参数规模,从而节省了计算资源,节约了计算成本。节约了计算成本。节约了计算成本。

【技术实现步骤摘要】
自然语言处理方法及装置、电子设备和存储介质


[0001]本公开的实施例涉及一种自然语言处理方法及装置、电子设备和存储介质。

技术介绍

[0002]自然语言处理(Natural Language Processing,NLP)是计算机科学领域与人工智能领域中的一个重要方向,用于研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。随着人工智能技术的不断发展,自然语言处理开始广泛地应用在诸如客服系统等的多种应用场景中,替代了大量的人工操作。
[0003]深度学习是机器学习的一大分支,在自然语言处理中应用深度学习模型,如卷积神经网络、循环神经网络等,通过将词或句子的向量化,不断学习语言特征,以完成自然语言分类、理解的过程,满足大量特征工程的自然语言处理要求。

技术实现思路

[0004]本公开至少一实施例提供一种自然语言处理方法。该自然语言处理方法包括:获取待进行所述自然语言处理的任务文本,其中,所述任务文本包括多个字符;利用共享神经网络对所述任务文本进行特征提取,得到所述任务文本的共享特征,其中,所述共享特征包含所述本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种自然语言处理方法,包括:获取待进行所述自然语言处理的任务文本,其中,所述任务文本包括多个字符;利用共享神经网络对所述任务文本进行特征提取,得到所述任务文本的共享特征,其中,所述共享特征包含所述多个字符的字符特征以及所述多个字符之间的全局联系;将所述共享特征输入多个功能神经网络,得到所述多个功能神经网络分别输出的多个处理结果,其中,所述多个功能神经网络用于分别执行多个不同的自然语言处理任务。2.根据权利要求1所述的自然语言处理方法,其中,所述共享神经网络包括输入子网络、字嵌入子网络和特征提取子网络,所述利用所述共享神经网络对所述任务文本进行特征提取,得到所述任务文本的所述共享特征,包括:利用所述输入子网络将所述任务文本转换为字索引数组,其中,所述字索引数组包括的多个索引值与所述多个字符一一对应;利用所述字嵌入子网络将所述字索引数组编码为多个字向量,其中,所述多个字向量与所述多个字符一一对应,所述多个字向量中的每个字向量包括对应字符的字符特征;基于所述多个字向量,利用所述特征提取子网络提取所述多个字符之间的所述全局联系,得到所述共享特征。3.根据权利要求2所述的自然语言处理方法,其中,所述特征提取子网络包括卷积神经网络和长短期记忆网络。4.根据权利要求1所述的自然语言处理方法,其中,所述自然语言处理任务包括问答型功能任务,所述问答型功能任务用于解析所述任务文本中的问题,给出所述问题对应的答案,所述多个功能神经网络包括第一功能神经网络,所述第一功能神经网络用于执行所述问答型功能任务,所述将所述共享特征输入所述多个功能神经网络,得到所述多个功能神经网络分别输出的所述多个处理结果,包括:利用所述第一功能神经网络对所述共享特征进行第一处理,得到句向量,其中,所述句向量包括所述任务文本中所述问题的类别信息;将所述句向量与数据库中预存的多个知识信息向量进行比较,以将所述多个知识信息向量中的与所述句向量的向量距离最小的知识信息向量对应的答案作为对应于所述第一功能神经网络的处理结果。5.根据权利要求4所述的自然语言处理方法,其中,所述第一处理包括卷积处理、池化处理、特征融合处理和全连接处理。6.根据权利要求1所述的自然语言处理方法,其中,所述自然语言处理任务包括闲聊型功能任务,所述闲聊型功能任务用于解析所述任务文本中的无目的性对话信息,给出所述无目的性对话信息对应的系统回答,所述多个功能神经网络包括第二功能神经网络,所述第二功能神经网络用于执行所述闲聊型功能任务,所述将所述共享特征输入所述多个功能神经网络,得到所述多个功能神经网络分别输出的所述多个处理结果,包括:
利用所述第二功能神经网络对所述共享特征进行第二处理,得到输出句子以作为对应于所述第二功能神经网络的处理结果,并将对应于所述第二功能神经网络的处理结果作为所述任务文本对应的系统回答。7.根据权利要求6所述的自然语言处理方法,其中,所述第二功能神经网络包括编码子网络和解码子网络,所述利用所述第二功能神经网络对所述共享特征进行所述第二处理,得到所述输出句子以作为对应于所述第二功能神经网络的处理结果,包括:利用所述编码子网络对所述共享特征进行编码处理得到中间索引数组;利用所述解码子网络对所述中间索引数组进行解码处理得到所述输出句子,以作为对应于所述第二功能神经网络的处理结果。8.根据权利要求1所述的自然语言处理方法,其中,所述自然语言处理任务包括任务型功能任务,所述任务型功能任务用于解析所述任务文本中的任务目的信息和任务关键词信息,根据所述任务目的信息和所述任务关键词信息得到系统追问或问答结果,所述多个功能神经网络包括第三功能神经网络,所述第三功能神经网络用于执行所述任务型功能任务,所述将所述共享特征输入所述多个功能神经网络,得到所述多个功能神经网络分别输出的所述多个处理结果,包括:利用所述第三功能神经网络对所述共享特征进行第三处理,得到对应于所述任务文本的意图特征和至少一个命名实体,其中,所述意图特征包含所述任务文本中的所述任务目的信息,所述至少一个命名实体包含所述任务关键词信息;对所述意图特征和所述至少一个命名实体进行对话管理,得到所述系统追问或所述问答结果以作为对应于所述第三功能神经网络的处理结果。9.根据权利要求8所述的自然语言处理方法,其中,所述第三功能神经网络包括意图识别子网络和命名实体识别子网络,所述利用所述第三功能神经网络对所述共享特征进行所述第三处理,得到对应于所述任务文本的所述意图特征和所述至少一个命名实体,包括:利用所述意图识别子网络,基于所述共享特征进行意图识别,得到对应于所述任务文本的所述意图特征;利用所述命名实体识别子网络,基于所述共享特征执行命名实体识别,得到对应于所述任务文本的所述至少一个命名实体。10.根据权利要求1所述的自然语言处理方法,其中,所述获取所述待进行所述自然语言处理的所述任务文本,包括:获取所述待进行所述自然语言处理的语音片段;将所述语音片段转换为文字形式,以得到所述任务文本。11.根据权利要求1

10任一项所述的自然语言处理方法,还包括:通过仲裁选择从所述多个处理结果中选择一个处理结果作为所述自然语言处理的输出结果。12.根据权利要求1所述的自然语言处理方法,在获取所述自然语言对应的所述任务文本之前,还包括:
获取训练文本;基于所述训练文本,对待训练的多个功能神经网络进行训练,以得到训练好的所述多个功能神经网络,其中,所述多个功能神经网络的数量为N...

【专利技术属性】
技术研发人员:李林峰
申请(专利权)人:湖北星纪时代科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1