一种向人工客服推荐回复内容的对话机器人的实现方法技术

本发明专利技术提供一种向人工客服推荐回复内容的对话机器人的实现方法，包括以下步骤：步骤1、通过第一个LSTM神经网络张量模型对问题进行特征抽取，得到客户问题分词的结果，并用第一个LSTM神经网络张量模型将客户问题分词的结果编码为向量c；步骤2、通过第二个LSTM神经网络张量模型对客服答复进行特征抽取，得到客服答复分词的结果并用第二个LSTM神经网络张量模型将客服答复分词的结果编码为向量r；步骤3、获取问题所在商店的个性化特征，并编码为商家的特征向量s；步骤4、通过神经张量网络层将所述向量c、向量r与向量s通过张量进行直接交互计算；步骤5、输出客户问题对应的相似答复的筛选推荐功能选项。本发明专利技术能够智能地向人工客服推荐回复内容。

【技术实现步骤摘要】
一种向人工客服推荐回复内容的对话机器人的实现方法
本专利技术涉及计算机网络领域，尤其涉及一种向人工客服推荐回复内容的客服对话机器人的实现方法。
技术介绍
客服对话系统是一种特定领域的对话系统，目前该领域是一项比较前沿的研究内容，主要目标是实现客服自动的内容回复，同时提高解决客户问题的效率。社区问答系统(CQA)是一种用户可以给提问者分享自己专业知识的平台，这种问答数据与客服系统有些类似，通常可以借鉴CQA中的一些解决方法。但是，客服对话系统中的答案往往是视情况而定的回答，而且不同商家销售商品的属性不同，所以客服对话系统还需要解决针对不同商家同种问题的自动回复。另外，现有技术中的卷积神经张量网络(CNTN)模型，该模型是分别将问题和答案使用卷积网络进行特征提取，然后将问答对的特征通过一个张量层计算相似度分数，通过排序分数较高的问答对实现问题和答案的匹配。现有卷积神经张量网络(CNTN)模型采用卷积神经网络提取句子的特征，卷积神经网络通过滤波器提取的主要是空间特征，记忆句子的整体信息，而问题中有一种递进序列关系，前面的文本描述为问题背景，而最后一个问题是核心问题，所以卷积神经网络不适合处理长依赖关系和时间序列的问题。因此，本领域迫切需要开发一种适用性广并且能够针对所有商家的情况提供一种较准确的智能答复服务。
技术实现思路
本专利技术之目的是提供一种向人工客服推荐回复内容的对话机器人的实现方法，能够解决句子中的长短期依赖关系的记忆和时间序列输入的问题，并且能够智能地向人工客服推荐回复内容。本专利技术提供一种向人工客服推荐回复内容的对话机器人的实现方法，包括以下步骤：步骤1、通过第一个LSTM神经网络张量模型(LNTN)对问题进行特征抽取，得到客户问题分词的结果q1、q2、…、qm，并用第一个LSTM神经网络张量模型将客户问题分词的结果q1、q2、…、qm编码为向量c；其中，qm表示客户问题的第m个词对应的向量；步骤2、通过第二个LSTM神经网络张量模型对客服答复进行特征抽取，得到客服答复分词的结果a1、a2、…、an，并用第二个LSTM神经网络张量模型将客服答复分词的结果a1、a2、…、an编码为向量r；其中，an表示客服答复的第n个词对应的向量；步骤3、获取问题所在商店的个性化特征，并编码为商家的特征向量s；步骤4、通过神经张量网络层(NTN)将所述向量c、向量r与向量s通过张量进行直接交互计算，实现特征表示与相似度匹配；步骤5、输出客户问题对应的相似答复的筛选推荐功能选项。优选地，所述步骤3包括：将所有商店的数据同时用来训练神经网络张量模型进行答复内容的协同推荐，进而得出训练出的商店个性化特征，并将其编码为向量s。优选地，所述步骤4包括：1)、将所述qm或an作为LSTM神经网络张量模型的输入，经过LSTM神经网络张量模型的记忆单元运算，输出客户问题或客服答复的句向量，即向量c与向量r；2)、将步骤1)中输出的向量c与向量r结合训练好的商店个性化特征向量s，通过张量进行直接交互计算问题与答复的相似性。优选地，所述记忆单元包括输入门、遗忘门、输出门与cell单元，所述cell单元用于将当前状态与之后状态产生关联，即将cell单元信息返回至所述输入门、遗忘门与输出门中进行下一步的计算；所述记忆单元的运算公式为：输入门：it＝f(Wxixt+Whiht-1+Wcict-1+bi)；遗忘门：ft＝f(Wxfxt+Whfht-1+Wcfct-1+bf)；Cell状态：输出门：ot＝f(Wxoxt+Whoht-1+Wcoct+bo)；隐层状态输出：ht＝ot⊙g(ct)；其中，xt，ht-1，ct-1是神经元的输入，即是来自前级神经元的轴突的信息A，Wxf，Whf，Wcf分别是神经元对xt，ht-1，ct-1的权系数，也即突触的传递效率；it，ft，ct，ot是神经元的输出；f()是激发函数，它决定神经元受到输入xt，ht-1，ct-1的共同刺激达到阀值时以何种方式输出。优选地，所述隐形状态的输出为LSTM神经网络张量模型的映射输出，所述LSTM神经网络张量模型的映射输出为问题或答复的句向量表示。优选地，所述步骤3中的个性化特征包括商家的类别、商家的星级或商家的服务质量。优选地，所述LSTM模型能用GRU模型代替。优选地，所述步骤1中的第一个LSTM神经网络张量模型和步骤2中的第二个LSTM神经网络张量模型为相同的网络结构。优选地，所述步骤1中的第一个LSTM神经网络张量模型为一层300个神经元的网络结构。优选地，所述步骤2中的第二个LSTM神经网络张量模型为一层300个神经元的网络结构。本专利技术的一种向人工客服推荐回复内容的对话机器人的实现方法具有如下有益效果：1、本专利技术将所有商店的数据同时用来训练神经网络模型进行回复内容的协同推荐，解决了每家商店数据不足的问题。2、本专利技术采用LSTM神经网络提取问题和回复的特征，解决了句子中的长短期依赖关系的记忆和时间序列输入的问题。3、本专利技术的方法中没有人工制定规则和先验知识的干预，完全是自动特征提取和相似度匹配，是一个通用模型，因此形成的模型具有适用性广、通用性强的特点。4、本专利技术中的将特征提取部分的LSTM模型还可以用其他的循环神经网络模型替代，例如GRU模型，也同样可以达到该模型的目标。附图说明下面将简要说明本申请所使用的附图，显而易见地，这些附图仅用于解释本专利技术的构思。图1是本专利技术的一种向人工客服推荐回复内容的对话机器人的实现方法的应用场景图；图2是本专利技术的一种向人工客服推荐回复内容的对话机器人的实现方法的原理示意图；图3是本专利技术的一种向人工客服推荐回复内容的对话机器人的实现方法的模型示意图。具体实施方式在下文中，将参照附图描述本专利技术的一种向人工客服推荐回复内容的对话机器人的实现方法的实施例。在此记载的实施例为本专利技术的特定的具体实施方式，用于说明本专利技术的构思，均是解释性和示例性的，不应解释为对本专利技术实施方式及本专利技术范围的限制。除在此记载的实施例外，本领域技术人员还能够基于本申请权利要求书和说明书所公开的内容采用显而易见的其它技术方案，这些技术方案包括对在此记载的实施例做出任何显而易见的替换和修改的技术方案。本说明书的附图为示意图，辅助说明本专利技术的构思，示意性地表示各部分的相互关系。图1是本专利技术的一种向人工客服推荐回复内容的对话机器人的实现方法的应用场景图，图2是本专利技术的一种向人工客服推荐回复内容的对话机器人的实现方法的原理示意图，图3是本专利技术的一种向人工客服推荐回复内容的对话机器人的实现方法的模型示意图。如图2所示，本专利技术提供一种向人工客服推荐回复内容的对话机器人的实现方法，其中，包括以下步骤：步骤1、通过第一个LSTM神经网络张量模型(LNTN)对问题进行特征抽取，得到客户问题分词的结果q1、q2、…、qm，并用第一个LSTM神经网络张量模型将客户问题分词的结果q1、q2、…、qm编码为向量c；其中，qm表示客户问题的第m个词对应的向量；步骤2、通过第二个LSTM神经网络张量模型对答案进行特征抽取，得到客服答复分词的结果a1、a2、…、an，并用第二个LSTM神经网络张量模型将客服答复分词的结果a1、a2、…、an编码为向量r；其中，an表示客服答复的第n个词对应的向量本文档来自技高网...

【技术保护点】
一种向人工客服推荐回复内容的对话机器人的实现方法，其特征在于，包括以下步骤：步骤1、通过第一个LSTM神经网络张量模型(LNTN)对问题进行特征抽取，得到客户问题分词的结果q1、q2、…、qm，并用第一个LSTM神经网络张量模型将客户问题分词的结果q1、q2、…、qm编码为向量c；其中，qm表示客户问题的第m个词对应的向量；步骤2、通过第二个LSTM神经网络张量模型对客服答复进行特征抽取，得到客服答复分词的结果a1、a2、…、an，并用第二个LSTM神经网络张量模型将客服答复分词的结果a1、a2、…、an编码为向量r；其中，an表示客服答复的第n个词对应的向量；步骤3、获取问题所在商店的个性化特征，并编码为商家的特征向量s；步骤4、通过神经张量网络层(NTN)将所述向量c、向量r与向量s通过张量进行直接交互计算，实现特征表示与相似度匹配；步骤5、输出客户问题对应的相似答复的筛选推荐功能选项。

【技术特征摘要】
1.一种向人工客服推荐回复内容的对话机器人的实现方法，其特征在于，包括以下步骤：步骤1、通过第一个LSTM神经网络张量模型(LNTN)对问题进行特征抽取，得到客户问题分词的结果q1、q2、…、qm，并用第一个LSTM神经网络张量模型将客户问题分词的结果q1、q2、…、qm编码为向量c；其中，qm表示客户问题的第m个词对应的向量；步骤2、通过第二个LSTM神经网络张量模型对客服答复进行特征抽取，得到客服答复分词的结果a1、a2、…、an，并用第二个LSTM神经网络张量模型将客服答复分词的结果a1、a2、…、an编码为向量r；其中，an表示客服答复的第n个词对应的向量；步骤3、获取问题所在商店的个性化特征，并编码为商家的特征向量s；步骤4、通过神经张量网络层(NTN)将所述向量c、向量r与向量s通过张量进行直接交互计算，实现特征表示与相似度匹配；步骤5、输出客户问题对应的相似答复的筛选推荐功能选项。2.根据权利要求1所述的一种向人工客服推荐回复内容的对话机器人的实现方法，其特征在于，所述步骤3包括：将所有商店的数据同时用来训练神经网络张量模型进行答复内容的协同推荐，进而得出训练出的商店个性化特征，并将其编码为向量s。3.根据权利要求2所述的一种向人工客服推荐回复内容的对话机器人的实现方法，其特征在于，所述步骤4包括：1)、将所述qm或an作为LSTM神经网络张量模型的输入，经过LSTM神经网络张量模型的记忆单元运算，输出客户问题或客服答复的句向量，即向量c与向量r；2)、将步骤1)中输出的向量c与向量r结合训练好的商店个性化特征向量s，通过张量进行直接交互计算问题与答复的相似性。4.根据权利要求3所述的一种向人工客服推荐回复内容的对话机器人的实现方法，其特征在于，所述记忆单元包括输入门、遗忘门、输出门与cell单元，所述cell单元用于将当前状态与之后状态产生关联，即将cell单元信息返回至所述输入门...

【专利技术属性】
技术研发人员：马晓宇，辛欣，李理，
申请(专利权)人：北京易掌云峰科技有限公司，
类型：发明
国别省市：北京,11