基于语句前后关系预测的用户意图识别方法及装置制造方法及图纸

技术编号:25346052 阅读:34 留言:0更新日期:2020-08-21 17:05
本发明专利技术公开了一种基于语句前后关系预测的用户意图识别方法、装置、计算机设备和存储介质,通过设置多个样本数据,将各个样本数据输入预训练语言模型进行预训练,并在预训练语言模型针对样本数据的识别准确率达到第一设定准确率时,根据预训练语言模型当前的运行参数确定初始模型,向初始模型输入测试语句,以预测测试语句的下一条语句作为唯一目标对初始模型进行微调,在初始模型的预测准确率达到第二设定准确率时,根据初始模型当前的运行参数确定意图识别模型,采用意图识别模型确定用户输入的语句的后一句语句,根据所确定的后一句语句确定用户意图,所确定的用户意图具有较高的准确性。

【技术实现步骤摘要】
基于语句前后关系预测的用户意图识别方法及装置
本专利技术涉及语音信号处理
,尤其涉及一种基于语句前后关系预测的用户意图识别方法、装置、计算机设备和存储介质。
技术介绍
随着人工智能的发展,智能对话机器人已进入人们的日常生活。这些对话机器人需要与用户自然对话,理解用户说话的语义,准确识别用户的意图,从而更高效、真实地与用户交互。在智能对话机器人系统中,用户意图识别是否准确决定对话系统是否能够生成合理的回复,是对话系统是否智能最重要的体现。目前用户语义意图识别有基于关键字、基于正则表达式、基于规则模板、基于传统机器学习如支持向量机以及基于当前蓬勃发展的深度学习等方法。例如,有方案提出一种基于文本相似度的意图识别方法,解决通过语音转为文本存在错误而导致的意图识别错误的问题,其用到的文本相似度的计算方法包括基于字符编辑距离的算法和基于深度学习得到的词向量相似性的算法;还有方案提出通过组合字和拼音的特征向量训练意图识别深度学习模型,将所有领域的数据集转为字序列和相应的拼音序列,输入第一深度学习网络训练得到语言模型,然后将该语言模型的编码层参本文档来自技高网...

【技术保护点】
1.一种基于语句前后关系预测的用户意图识别方法,其特征在于,包括如下步骤:/nS10,设置多个样本数据;所述样本数据包括第一条语句,第二条语句,以及第一条语句和第二条语句的语句属性特征和位置关系;/nS20,将各个样本数据输入预训练语言模型进行预训练,并在预训练语言模型针对样本数据的识别准确率达到第一设定准确率时,根据预训练语言模型当前的运行参数确定初始模型;/nS30,向所述初始模型输入测试语句,以预测测试语句的下一条语句作为唯一目标对所述初始模型进行微调,在初始模型的预测准确率达到第二设定准确率时,根据初始模型当前的运行参数确定意图识别模型;/nS40,采用所述意图识别模型确定用户输入的语...

【技术特征摘要】
1.一种基于语句前后关系预测的用户意图识别方法,其特征在于,包括如下步骤:
S10,设置多个样本数据;所述样本数据包括第一条语句,第二条语句,以及第一条语句和第二条语句的语句属性特征和位置关系;
S20,将各个样本数据输入预训练语言模型进行预训练,并在预训练语言模型针对样本数据的识别准确率达到第一设定准确率时,根据预训练语言模型当前的运行参数确定初始模型;
S30,向所述初始模型输入测试语句,以预测测试语句的下一条语句作为唯一目标对所述初始模型进行微调,在初始模型的预测准确率达到第二设定准确率时,根据初始模型当前的运行参数确定意图识别模型;
S40,采用所述意图识别模型确定用户输入的语句的后一句语句,根据所确定的后一句语句确定用户意图。


2.根据权利要求1所述的基于语句前后关系预测的用户意图识别方法,其特征在于,设置多个样本数据包括:
获取多组语句,设置各组语句中各个词的单词嵌入向量、标识嵌入向量和位置嵌入向量,根据各组语句以及各自语句分别对应的单词嵌入向量、标识嵌入向量和位置嵌入向量确定样本数据;其中各组语句均包括第一语句和第二语句;所述单词嵌入向量表征相应单词的内容;所述标识嵌入向量表征相应单词属于第一语句或者第二语句;所述位置嵌入向量表征相应单词在所在语句中的位置。


3.根据权利要求1所述的基于语句前后关系预测的用户意图识别方法,其特征在于,采用所述意图识别模型确定用户输入的语句的后一句语句包括:
读取用户输入的语句,将用户输入的语句输入所述意图识别模型,所述意图识别模型输入多个待选语句以及各个待选语句的概率值,将概率值最大的待选语句确定为用户输入的语句的后一句语句。


4.一种基于语句前后关系预测的用户意图识别装置,其特征在于,包括:
设置模块,用于设置多个样本数据;所述样本数据包括第一条语句,第二条语句,以及第一条...

【专利技术属性】
技术研发人员:高洋洋
申请(专利权)人:升智信息科技南京有限公司
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1