一种基于条件随机场结构化注意力网络的对话行为识别方法及系统技术方案

本发明专利技术公开了一种基于条件随机场结构化注意力网络的对话行为识别方法及系统，其中识别方法包括以下步骤：(1)结合记忆网络，将对话语义信息按照单词层、句子层、对话层进行分层推理，语义建模；(2)应用结构化注意力网络，根据对话内容之间的相关性，对对话内容进行结构小节划分；(3)将得到的结构化信息应用于线性条件随机场算法上，根据上下文语境预测当前对话行为。通过本发明专利技术，可以深度捕捉对话交互过程中的上下文信息，并能够做到动态划分对话内容的片段，通过将结构化注意力网络与条件随机场算法相结合，可以进一步提高对话行为识别准确度。

【技术实现步骤摘要】
一种基于条件随机场结构化注意力网络的对话行为识别方法及系统
本专利技术涉及自然语言处理对话系统领域，具体涉及一种基于条件随机场结构化注意力网络的对话行为识别方法及系统。
技术介绍
近年来，随着人机交互技术的逐渐成熟，大量搭载着人机交互系统的产品走进千家万户。例如智能手机助手Siri，Cortana，智能音响小爱同学，天猫精灵等，此类产品的出现，让人们深切地感受到技术给人类带来的方便与享受。与此同时，人机交互对话系统也受到了广泛来自工业界和学术界研究者的关注。本专利技术的主要研究领域，是对话系统中不可或缺的技术之一——对话行为识别。对话行为识别的目的，是针对一段对话内容，在给定上下文对话内容前提下，预测当前对话的行为，从而可以识别说话者的意图。一个高效准确的对话行为识别模型，需要能够明确捕捉上下文语境信息，同时能够对对话内容进行状态追踪，从而明确当前对话说话者的意图，进行行为识别。对于机器来说，能够准确识别说话者的行为意图，即可相应生产准确的对话回复，这在人机交互对话系统中是一个重要的技术难点。目前，主流的对话行为识别技术，主要从两方面进行研究。一种是将对话行为识别问题定义成一个文本多本文档来自技高网...

【技术保护点】
1.一种基于条件随机场结构化注意力网络的对话行为识别方法，其特征在于，包括以下步骤：(1)结合记忆网络，将对话语义信息按照单词层、句子层、对话层进行分层推理，语义建模；(2)应用结构化注意力网络，根据对话内容之间的相关性，对对话内容进行结构小节划分；(3)将得到的结构化信息应用于线性条件随机场算法上，根据上下文语境预测当前对话行为。

【技术特征摘要】
1.一种基于条件随机场结构化注意力网络的对话行为识别方法，其特征在于，包括以下步骤：(1)结合记忆网络，将对话语义信息按照单词层、句子层、对话层进行分层推理，语义建模；(2)应用结构化注意力网络，根据对话内容之间的相关性，对对话内容进行结构小节划分；(3)将得到的结构化信息应用于线性条件随机场算法上，根据上下文语境预测当前对话行为。2.根据权利要求1所述的基于条件随机场结构化注意力网络的对话行为识别方法，其特征在于，步骤(1)中，所述对话语义信息的单词层推理公式如下：E＝fconcat(Ew,Ea,Epos,Ener)其中，E为单词最终的完整向量表示，由四种不同维度单词信息拼接而成，fconcat是拼接的函数表示，Ew表示单词从谷歌预训练好的英文词向量模型得到的Word2vec向量；Ea表示由字母组合信息通过循环神经网络学习到的单词表示向量；表示该单词组成的各个字母；Epos表示nltk工具包处理后的单词词性信息；Ener表示nltk工具包处理后的单词实体类别信息。3.根据权利要求1所述的基于条件随机场结构化注意力网络的对话行为识别方法，其特征在于，步骤(1)中，所述对话语义信息的对话层推理具体步骤如下：(1-1)采用双向门控循环单元，将每个单词的前向隐含表示和后向隐含表示拼接，得到整个句子的空间语义向量表示，公式为：U＝fbiGRU(E1,…,En)其中，U表示整个句子的空间语义向量表示，Ei表示句子中第i个单词；(1-2)获得当前句子在上下文语境中的语义表示，公式为：Ct＝tanh(Wm-1Ct-1+Wm+1Ct+1+bm)其中，Ct表示为第t句话在上下文语境中的语义表示，Ct-1和Ct+1为前句话和后句话隐含表示，Wm-1，Wm+1，bm是训练得到的参数，Tanh是激活函数；(1-3)采用记忆神经网络，结合注意力机制对两种对话表示进行整合，得到最终融合的对话语义信息。4.根据权利要求3所述的基于条件随机场结构化注意力网络的对话行为识别方法，其特征在于，步骤(1-3)的具体步骤如下：(1-3-1)通过softmax归一化得到原始句子表示Ut和上下文语境中的语义表示Ct之间的相关性：其中，表示为句子原始...

【专利技术属性】
技术研发人员：陈哲乾，蔡登，杨荣钦，赵洲，何晓飞，
申请(专利权)人：浙江大学，
类型：发明
国别省市：浙江,33