一种基于意图识别的智能推送方法及系统技术方案

本发明专利技术公开一种基于意图识别的智能推送方法及系统，涉及数据处理技术领域，其实现内容包括：S10、收集用户的语言信息、文本信息以及历史信息，将收集的信息映射到高维空间；S20、使用LightGBM算法学习信息的高维特征，随后按照特征重要度，剔除不重要的特征，降低数据维度；S30、基于BiGRU

【技术实现步骤摘要】
一种基于意图识别的智能推送方法及系统


[0001]本专利技术涉及数据处理
，具体的说是一种基于意图识别的智能推送方法及系统。

技术介绍

[0002]随着移动互联网的不断发展与普及,客户的需求越来越多样化，传统的推送系统中,用户的问题具有咨询意图复杂、上下文相关性弱、问题多样、指代缺失、口语化严重等问题，常常造成智能客服在计算问句相似度的准确率不高，容易出现答非所问的情况。
[0003]为了满足当前的业务需求,精准的向客户推送符合客户需求方案，设计一种基于意图识别的智能推送方法及系统，以根据根据用户当前语言信息和历史咨询信息构建关键信息，识别用户意图，进而向用户推送与之匹配的需求方案。

技术实现思路

[0004]本专利技术针对目前技术发展的需求和不足之处，提供一种基于意图识别的智能推送方法及系统。
[0005]首先，本专利技术的一种基于意图识别的智能推送方法，解决上述技术问题采用的技术方案如下：
[0006]一种基于意图识别的智能推送方法，包括如下步骤：
[0007]S10、收集用户的语言信息、文本信息以及历史信息，将收集的信息映射到高维空间；
[0008]S20、使用LightGBM算法学习信息的高维特征，随后按照特征重要度，剔除不重要的特征，降低数据维度；
[0009]S30、基于BiGRU
‑
Attention模型，处理步骤S20的输出数据，输出体现用户意图的关键信息；
[0010]S40、从数据库中查找与关键信息相似的需求方案，并将相似度最高的需求方案智能推送至用户。
[0011]可选的，所涉及BiGRU
‑
Attention模型包括输入层、隐含层和输出层，隐含层包括BiGRU层和attention机制层，其中，
[0012]BiGRU层是由一个前向GRU和一个后向GRU上下叠加在一起组成的，前向GRU和后向GRU之间没有信息流通，
[0013]attention机制层包括全连接层和Tanh层，前向GRU和后向GRU同时连接全连接层，Tanh层引入前向GRU和后向GRU的权重参数，并通过激活函数对全连接层的输出结果进行计算。
[0014]进一步可选的，所涉及隐含层的计算过程如下：
[0015]步骤1)、假设时间步t的输入为x
t
，Tanh层的激活函数为θ，在BiGRU层中，t时刻前向GRU状态为后向GRU状态为如公式(1)和公式(2)所示，
[0016][0017][0018]其中，W
fx
、W
fh
、W
bx
、W
bh
为权重参数，b
fh
、b
bh
为对应偏置；
[0019]步骤2)、在Tanh层引入前向GRU和后向GRU的权重参数α和β，利用公式(3)计算隐含层的输出结果GRU_O
t
，
[0020][0021]其中，W
q
为输出层权重参数，b
q
为输出层偏置，α和β分别表示前向输出和后向输出的权重，组合得到最终GRU_O
t
。
[0022]优选的，所涉及α和β的取值可以相同，也可以不同。
[0023]进一步可选的，所涉及BiGRU
‑
Attention模型处理步骤S20的输出数据，具体处理过程如下：
[0024]S31、所述BiGRU
‑
Attention模型的输入层对步骤S20的输出数据进行预处理，以把输出数据处理成BiGRU层能够直接接收并能处理的序列向量形式；
[0025]S32、所述BiGRU
‑
Attention模型的隐含层处理步骤S31输出的序列向量，并输出序列向量加权后的结果；
[0026]S33、所述BiGRU
‑
Attention模型的输出层利用softmax函数对步骤S32的输出结果进行计算，输出体现用户意图的关键信息。
[0027]其次，本专利技术的一种基于意图识别的智能推送系统，解决上述技术问题采用的技术方案如下：
[0028]一种基于意图识别的智能推送系统，其包括：
[0029]信息收集模块，用于收集用户的语言信息、文本信息以及历史信息，将收集的信息映射到高维空间；
[0030]LightGBM模块，用于使用LightGBM算法学习信息的高维特征，随后按照特征重要度，剔除不重要的特征，降低数据维度；
[0031]BiGRU
‑
Attention模型，用于处理LightGBM模块的输出数据，输出体现用户意图的关键信息；
[0032]查找推送模块，用于从数据库中查找与关键信息相似的需求方案，并将相似度最高的需求方案智能推送至用户。
[0033]可选的，所涉及BiGRU
‑
Attention模型包括输入层、隐含层和输出层，隐含层包括BiGRU层和attention机制层，其中，
[0034]BiGRU层是由一个前向GRU和一个后向GRU上下叠加在一起组成的，前向GRU和后向GRU之间没有信息流通，
[0035]attention机制层包括全连接层和Tanh层，前向GRU和后向GRU同时连接全连接层，Tanh层引入前向GRU和后向GRU的权重参数，并通过激活函数对全连接层的输出结果进行计算。
[0036]进一步可选的，所涉及隐含层的计算过程如下：
[0037]步骤1)、假设时间步t的输入为x
t
，Tanh层的激活函数为θ，在BiGRU层中，t时刻前
向GRU状态为后向GRU状态为如公式(1)和公式(2)所示，
[0038][0039][0040]其中，W
fx
、W
fh
、W
bx
、W
bh
为权重参数，b
fh
、b
bh
为对应偏置；
[0041]步骤2)、在Tanh层引入前向GRU和后向GRU的权重参数α和β，利用公式(3)计算隐含层的输出结果GRU_O
t
，
[0042][0043]其中，W
q
为输出层权重参数，b
q
为输出层偏置，α和β分别表示前向输出和后向输出的权重，组合得到最终GRU_O
t
。
[0044]优选的，所涉及α和β的取值可以相同，也可以不同。
[0045]进一步可选的，所涉及BiGRU
‑
Attention模型处理LightGBM模块的输出数据，具体处理过程如下：
[0046]所述BiGRU
‑
Attention模型的输入层对LightGBM模块的输出数据进行预处理，以把输出数据处理成BiGRU层能够直接接收并能处理的序列向量形式；<本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于意图识别的智能推送方法，其特征在于,包括如下步骤：S10、收集用户的语言信息、文本信息以及历史信息，将收集的信息映射到高维空间；S20、使用LightGBM算法学习信息的高维特征，随后按照特征重要度，剔除不重要的特征，降低数据维度；S30、基于BiGRU
‑
Attention模型，处理步骤S20的输出数据，输出体现用户意图的关键信息；S40、从数据库中查找与关键信息相似的需求方案，并将相似度最高的需求方案智能推送至用户。2.根据权利要求1所述的一种基于意图识别的智能推送方法，其特征在于，所述BiGRU
‑
Attention模型包括输入层、隐含层和输出层，隐含层包括BiGRU层和attention机制层，其中，BiGRU层是由一个前向GRU和一个后向GRU上下叠加在一起组成的，前向GRU和后向GRU之间没有信息流通，attention机制层包括全连接层和Tanh层，前向GRU和后向GRU同时连接全连接层，Tanh层引入前向GRU和后向GRU的权重参数，并通过激活函数对全连接层的输出结果进行计算。3.根据权利要求2所述的一种基于意图识别的智能推送方法，其特征在于，所述隐含层的计算过程如下：步骤1)、假设时间步t的输入为x
t
，Tanh层的激活函数为θ，在BiGRU层中，t时刻前向GRU状态为后向GRU状态为如公式(1)和公式(2)所示，如公式(1)和公式(2)所示，其中，W
fx
、W
fh
、W
bx
、W
bh
为权重参数，b
fh
、b
bh
为对应偏置；步骤2)、在Tanh层引入前向GRU和后向GRU的权重参数α和β，利用公式(3)计算隐含层的输出结果GRU_O
t
，其中，W
q
为输出层权重参数，b
q
为输出层偏置，α和β分别表示前向输出和后向输出的权重，组合得到最终GRU_O
t
。4.根据权利要求3所述的一种基于意图识别的智能推送方法，其特征在于，所述α和β的取值可以相同，也可以不同。5.根据权利要求3所述的一种基于意图识别的智能推送方法，其特征在于，所述BiGRU
‑
Attention模型处理步骤S20的输出数据，具体处理过程如下：S31、所述BiGRU
‑
Attention模型的输入层对步骤S20的输出数据进行预处理，以把输出数据处理成BiGRU层能够直接接收并能处理的序列向量形式；S32、所述BiGRU
‑
Attention模型的隐含层处理步骤S31输出的序列向量，并输出序列向量加权后的结果；S33、所述BiGRU
‑
Attention模型的输出层利用softmax函数对步骤S32的输出结果进行计算，输出体现用户意图的关键信息。
...

【专利技术属性】
技术研发人员：肖傲文，
申请(专利权)人：浪潮通信信息系统有限公司，
类型：发明
国别省市：