一种基于意图识别的智能推送方法及系统技术方案

技术编号:36907064 阅读:55 留言:0更新日期:2023-03-18 09:26
本发明专利技术公开一种基于意图识别的智能推送方法及系统,涉及数据处理技术领域,其实现内容包括:S10、收集用户的语言信息、文本信息以及历史信息,将收集的信息映射到高维空间;S20、使用LightGBM算法学习信息的高维特征,随后按照特征重要度,剔除不重要的特征,降低数据维度;S30、基于BiGRU

【技术实现步骤摘要】
一种基于意图识别的智能推送方法及系统


[0001]本专利技术涉及数据处理
,具体的说是一种基于意图识别的智能推送方法及系统。

技术介绍

[0002]随着移动互联网的不断发展与普及,客户的需求越来越多样化,传统的推送系统中,用户的问题具有咨询意图复杂、上下文相关性弱、问题多样、指代缺失、口语化严重等问题,常常造成智能客服在计算问句相似度的准确率不高,容易出现答非所问的情况。
[0003]为了满足当前的业务需求,精准的向客户推送符合客户需求方案,设计一种基于意图识别的智能推送方法及系统,以根据根据用户当前语言信息和历史咨询信息构建关键信息,识别用户意图,进而向用户推送与之匹配的需求方案。

技术实现思路

[0004]本专利技术针对目前技术发展的需求和不足之处,提供一种基于意图识别的智能推送方法及系统。
[0005]首先,本专利技术的一种基于意图识别的智能推送方法,解决上述技术问题采用的技术方案如下:
[0006]一种基于意图识别的智能推送方法,包括如下步骤:
[0007]S10、收集用户的语言信息、文本信息以及历史信息,将收集的信息映射到高维空间;
[0008]S20、使用LightGBM算法学习信息的高维特征,随后按照特征重要度,剔除不重要的特征,降低数据维度;
[0009]S30、基于BiGRU

Attention模型,处理步骤S20的输出数据,输出体现用户意图的关键信息;
[0010]S40、从数据库中查找与关键信息相似的需求方案,并将相似度最高的需求方案智能推送至用户。
[0011]可选的,所涉及BiGRU

Attention模型包括输入层、隐含层和输出层,隐含层包括BiGRU层和attention机制层,其中,
[0012]BiGRU层是由一个前向GRU和一个后向GRU上下叠加在一起组成的,前向GRU和后向GRU之间没有信息流通,
[0013]attention机制层包括全连接层和Tanh层,前向GRU和后向GRU同时连接全连接层,Tanh层引入前向GRU和后向GRU的权重参数,并通过激活函数对全连接层的输出结果进行计算。
[0014]进一步可选的,所涉及隐含层的计算过程如下:
[0015]步骤1)、假设时间步t的输入为x
t
,Tanh层的激活函数为θ,在BiGRU层中,t时刻前向GRU状态为后向GRU状态为如公式(1)和公式(2)所示,
[0016][0017][0018]其中,W
fx
、W
fh
、W
bx
、W
bh
为权重参数,b
fh
、b
bh
为对应偏置;
[0019]步骤2)、在Tanh层引入前向GRU和后向GRU的权重参数α和β,利用公式(3)计算隐含层的输出结果GRU_O
t

[0020][0021]其中,W
q
为输出层权重参数,b
q
为输出层偏置,α和β分别表示前向输出和后向输出的权重,组合得到最终GRU_O
t

[0022]优选的,所涉及α和β的取值可以相同,也可以不同。
[0023]进一步可选的,所涉及BiGRU

Attention模型处理步骤S20的输出数据,具体处理过程如下:
[0024]S31、所述BiGRU

Attention模型的输入层对步骤S20的输出数据进行预处理,以把输出数据处理成BiGRU层能够直接接收并能处理的序列向量形式;
[0025]S32、所述BiGRU

Attention模型的隐含层处理步骤S31输出的序列向量,并输出序列向量加权后的结果;
[0026]S33、所述BiGRU

Attention模型的输出层利用softmax函数对步骤S32的输出结果进行计算,输出体现用户意图的关键信息。
[0027]其次,本专利技术的一种基于意图识别的智能推送系统,解决上述技术问题采用的技术方案如下:
[0028]一种基于意图识别的智能推送系统,其包括:
[0029]信息收集模块,用于收集用户的语言信息、文本信息以及历史信息,将收集的信息映射到高维空间;
[0030]LightGBM模块,用于使用LightGBM算法学习信息的高维特征,随后按照特征重要度,剔除不重要的特征,降低数据维度;
[0031]BiGRU

Attention模型,用于处理LightGBM模块的输出数据,输出体现用户意图的关键信息;
[0032]查找推送模块,用于从数据库中查找与关键信息相似的需求方案,并将相似度最高的需求方案智能推送至用户。
[0033]可选的,所涉及BiGRU

Attention模型包括输入层、隐含层和输出层,隐含层包括BiGRU层和attention机制层,其中,
[0034]BiGRU层是由一个前向GRU和一个后向GRU上下叠加在一起组成的,前向GRU和后向GRU之间没有信息流通,
[0035]attention机制层包括全连接层和Tanh层,前向GRU和后向GRU同时连接全连接层,Tanh层引入前向GRU和后向GRU的权重参数,并通过激活函数对全连接层的输出结果进行计算。
[0036]进一步可选的,所涉及隐含层的计算过程如下:
[0037]步骤1)、假设时间步t的输入为x
t
,Tanh层的激活函数为θ,在BiGRU层中,t时刻前
向GRU状态为后向GRU状态为如公式(1)和公式(2)所示,
[0038][0039][0040]其中,W
fx
、W
fh
、W
bx
、W
bh
为权重参数,b
fh
、b
bh
为对应偏置;
[0041]步骤2)、在Tanh层引入前向GRU和后向GRU的权重参数α和β,利用公式(3)计算隐含层的输出结果GRU_O
t

[0042][0043]其中,W
q
为输出层权重参数,b
q
为输出层偏置,α和β分别表示前向输出和后向输出的权重,组合得到最终GRU_O
t

[0044]优选的,所涉及α和β的取值可以相同,也可以不同。
[0045]进一步可选的,所涉及BiGRU

Attention模型处理LightGBM模块的输出数据,具体处理过程如下:
[0046]所述BiGRU

Attention模型的输入层对LightGBM模块的输出数据进行预处理,以把输出数据处理成BiGRU层能够直接接收并能处理的序列向量形式;<本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于意图识别的智能推送方法,其特征在于,包括如下步骤:S10、收集用户的语言信息、文本信息以及历史信息,将收集的信息映射到高维空间;S20、使用LightGBM算法学习信息的高维特征,随后按照特征重要度,剔除不重要的特征,降低数据维度;S30、基于BiGRU

Attention模型,处理步骤S20的输出数据,输出体现用户意图的关键信息;S40、从数据库中查找与关键信息相似的需求方案,并将相似度最高的需求方案智能推送至用户。2.根据权利要求1所述的一种基于意图识别的智能推送方法,其特征在于,所述BiGRU

Attention模型包括输入层、隐含层和输出层,隐含层包括BiGRU层和attention机制层,其中,BiGRU层是由一个前向GRU和一个后向GRU上下叠加在一起组成的,前向GRU和后向GRU之间没有信息流通,attention机制层包括全连接层和Tanh层,前向GRU和后向GRU同时连接全连接层,Tanh层引入前向GRU和后向GRU的权重参数,并通过激活函数对全连接层的输出结果进行计算。3.根据权利要求2所述的一种基于意图识别的智能推送方法,其特征在于,所述隐含层的计算过程如下:步骤1)、假设时间步t的输入为x
t
,Tanh层的激活函数为θ,在BiGRU层中,t时刻前向GRU状态为后向GRU状态为如公式(1)和公式(2)所示,如公式(1)和公式(2)所示,其中,W
fx
、W
fh
、W
bx
、W
bh
为权重参数,b
fh
、b
bh
为对应偏置;步骤2)、在Tanh层引入前向GRU和后向GRU的权重参数α和β,利用公式(3)计算隐含层的输出结果GRU_O
t
,其中,W
q
为输出层权重参数,b
q
为输出层偏置,α和β分别表示前向输出和后向输出的权重,组合得到最终GRU_O
t
。4.根据权利要求3所述的一种基于意图识别的智能推送方法,其特征在于,所述α和β的取值可以相同,也可以不同。5.根据权利要求3所述的一种基于意图识别的智能推送方法,其特征在于,所述BiGRU

Attention模型处理步骤S20的输出数据,具体处理过程如下:S31、所述BiGRU

Attention模型的输入层对步骤S20的输出数据进行预处理,以把输出数据处理成BiGRU层能够直接接收并能处理的序列向量形式;S32、所述BiGRU

Attention模型的隐含层处理步骤S31输出的序列向量,并输出序列向量加权后的结果;S33、所述BiGRU

Attention模型的输出层利用softmax函数对步骤S32的输出结果进行计算,输出体现用户意图的关键信息。
...

【专利技术属性】
技术研发人员:肖傲文
申请(专利权)人:浪潮通信信息系统有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1