基于深度学习注意力机制的个性化商品检索方法及装置制造方法及图纸

本发明专利技术公开了一种基于深度学习注意力机制的个性化商品检索方法及装置。其中，该方法包括：构建基于注意力机制的短期偏好模型；构建基于注意力机制的长期偏好模型；查询再表示；查询再表示的过程为：融合基于注意力机制的短期偏好模型、基于注意力机制的长期偏好模型以及当前查询，通过多层全连接网络来学习三者之间的交互关系，得到重组的查询表示，并采用一个距离函数来界定所有商品与当前查询的相关程度；训练所述多层全连接网络结束后，对每个用户提交的新查询，得到所有商品与当前查询的距离值，再将所有距离值从高到低进行排序，并将前n个距离值对应的商品返回给用户，其中，n为正整数。

【技术实现步骤摘要】
基于深度学习注意力机制的个性化商品检索方法及装置
本专利技术属于数据检索领域，尤其涉及一种基于深度学习注意力机制的个性化商品检索方法及装置。
技术介绍
随着互联网的盛行，电子商务也变得越来越受大众欢迎。当电子商务网站(如天猫)中的用户想要购买一件商品时，通常需要以检索的方式从数以百万计的商品中找到他们心仪的那一个。对于这种在线商品检索来说，一个比较常见的情况是用户首先提交查询，然后搜索引擎返回与当前查询相关的排序好的商品列表。然而，用户提交的查询一般来说仅由几个关键词组成(例如，男士长袖上衣)，这也就导致了其无法准确传达用户的需求，从而造成了用户对搜索结果的不满。此外，用户的购物偏好可以是非常宽泛的(由于不同的背景，比如年龄，性别，收入)，或者受到当前的环境影响(比如季节，定位)。因此，对来自不同用户的同一个查询来说，返回相同的检索结果会对电子商务网站造成不同程度的经济损失。有鉴于此，考虑用户在不同情境下的购物意图来对用户提交的查询返回相关的商品，即个性化的商品检索，对满足用户当前的购物需求就显得尤为重要。传统的商品检索方法仅局限于查询和商品之间的简单匹配而没有将用户的自身属性考虑其中。这些方法由于忽视了众多用户个人需求的异质性，所以经常会导致搜索引擎检索性能受限，无法为用户提供满意的检索结果。Ai等人最近提出了一种个性化的商品检索方法，他们通过一个可以共同学习用户、商品和查询表示的隐空间来对用户的长期购物偏好进行建模。但是这种方法也有两种缺陷：(1)假设用户的长期购物偏好是稳定的，而实际上是会随时间而缓慢改变的；(2)没有将用户的短期购物偏好考虑在内，而用户的短期购买行为很可能会反映用户最近一段时间的购买习惯。其中，长期指的是用户内在且相对稳定的购物偏好，比如喜欢的颜色，适合的尺寸和消费能力等。同时会受到用户各自的背景影响，如年龄，婚姻，教育，收入等。与之相对，短期的购物偏好反映了用户在一个相对较短时期内的购物意图，且会受到突发事件的影响，如新产品上市，季节改变和特殊的个人节日(如生日)等。这些可以从用户最近所购买的商品属性中推断出来，与长期购物偏好相比，短期购物偏好更新地更加频繁与难以预测。目前，在个性化商品检索方法中存在以下问题：一是准确地为用户的长期和短期购物偏好建模是极其复杂的。用户的长期购物偏好包含多个方面，例如消费能力或者喜爱的颜色和品牌，并且会随用户的背景(如收入)改变而变化。与之相对应，用户的短期购物偏好通常也是动态改变的，并且极易受到突发事件的影响；二是用户通过一个仅由几个关键词组成的文本查询来描述自己的购物需求，这会导致准确定位到用户长期购物偏好中与当前查询相关的方面是不简单的。比如，一件短袖上衣的设计，而不是价格，会对有经济能力的用户影响更多。对于用户的短期偏好来说，最近购买的多个商品也会对用户的下次购买行为产生不同的影响；三是将用户的长期、短期购物偏好与当前的查询相结合也是困难的。
技术实现思路
为了解决现有技术的不足，本专利技术的第一目的是提供一种基于深度学习注意力机制的个性化商品检索方法，其提高了检索的准确度，从而提升了用户的检索体验。本专利技术的一种基于深度学习注意力机制的个性化商品检索方法，包括：步骤1：构建基于注意力机制的短期偏好模型；所述步骤1具体包括：给定当前的查询，采用神经网络来估计前m个查询与当前查询之间的相关程度，并采用不同的注意力权重来表示；其中，m为正整数；将获得的注意力权重乘以对应的商品表示，输入至RNN模型中，输出表示基于注意力机制的短期偏好的m个向量；步骤2：构建基于注意力机制的长期偏好模型；所述步骤2具体包括：采用最初购买的m个商品表示来初始化其长期偏好，并利用与构建基于注意力机制的短期偏好模型的相同原理，得到基于注意力机制的长期偏好模型；之后每经过m个商品，就更新一次当前用户的长期偏好，获得更新后的基于注意力机制的长期偏好模型；步骤3：查询再表示；其过程为：融合基于注意力机制的短期偏好模型、基于注意力机制的长期偏好模型以及当前查询，通过多层全连接网络来学习三者之间的交互关系，得到重组的查询表示，并采用一个距离函数来界定所有商品与当前查询的相关程度；步骤4：训练所述多层全连接网络结束后，对每个用户提交的新查询，得到所有商品与当前查询的距离值，再将所有距离值从高到低进行排序，并将前n个距离值对应的商品返回给用户，其中，n为正整数。进一步的，该方法还包括：采用“基于成对”的学习方法来训练所述多层全连接网络。进一步的，在所述步骤1中，采用一个两层的神经网络来估计前m个查询与当前查询之间的相关程度。进一步的，在所述步骤3中，所述距离函数为余弦距离，或点积，或欧式距离，或曼哈顿距离。本专利技术的第二目的是提供一种基于深度学习注意力机制的个性化商品检索装置。本专利技术的一种基于深度学习注意力机制的个性化商品检索装置，包括个性化商品检索处理器，所述个性化商品检索处理器包括：短期偏好模型构建模块，其被配置为：构建基于注意力机制的短期偏好模型；所述短期偏好模型构建模块具体包括：注意力权重获取子模块，其被配置为：给定当前的查询，采用神经网络来估计前m个查询与当前查询之间的相关程度，并采用不同的注意力权重来表示；其中，m为正整数；及短期偏好表示子模块，其被配置为：将获得的注意力权重乘以对应的商品表示，输入至RNN模型中，输出表示基于注意力机制的短期偏好的m个向量；长期偏好模型构建模块，其被配置为：构建基于注意力机制的长期偏好模型；所述长期偏好模型构建模块具体包括：长期偏好初始化及构建子模块，其被配置为：采用最初购买的m个商品表示来初始化其长期偏好，并利用与构建基于注意力机制的短期偏好模型的相同原理，得到基于注意力机制的长期偏好模型；长期偏好更新子模块，其被配置为：之后每经过m个商品，就更新一次当前用户的长期偏好，获得更新后的基于注意力机制的长期偏好模型；查询再表示模块，其配置为：融合基于注意力机制的短期偏好模型、基于注意力机制的长期偏好模型以及当前查询，通过多层全连接网络来学习三者之间的交互关系，得到重组的查询表示，并采用一个距离函数来界定所有商品与当前查询的相关程度；商品返回模块，其配置为：训练所述多层全连接网络结束后，对每个用户提交的新查询，得到所有商品与当前查询的距离值，再将所有距离值从高到低进行排序，并将前n个距离值对应的商品返回给用户，其中，n为正整数。进一步的，所述个性化商品检索处理器还包括：模型训练模块，其被配置为：采用“基于成对”的学习方法来训练所述多层全连接网络。进一步的，在所述注意力权重获取子模块中，采用一个两层的神经网络来估计前m个查询与当前查询之间的相关程度。进一步的，在所述查询再表示模块中，所述距离函数为余弦距离，或点积，或欧式距离，或曼哈顿距离。与现有技术相比，本专利技术的有益效果是：(1)为了缓解现有方法中所面临的诸多问题，本专利技术能够结合用户的相对稳定的长期购物偏好和对时间敏感的短期购物偏好对商品进行个性化检索，最终提高了检索的准确度，从而提升了用户的检索体验。(2)本专利技术能够有效地将用户的长期和短期购物偏好以及当前用户所提交的查询结合，并重新表示用户的购物需求。(3)本专利技术通过用户的长期和短期购物偏好建模中的两个各自的注意力机制，能够突出两个偏好中本文档来自技高网...

【技术保护点】
1.一种基于深度学习注意力机制的个性化商品检索方法，其特征在于，包括：步骤1：构建基于注意力机制的短期偏好模型；所述步骤1具体包括：给定当前的查询，采用神经网络来估计前m个查询与当前查询之间的相关程度，并采用不同的注意力权重来表示；其中，m为正整数；将获得的注意力权重乘以对应的商品表示，输入至RNN模型中，输出表示基于注意力机制的短期偏好的m个向量；步骤2：构建基于注意力机制的长期偏好模型；所述步骤2具体包括：采用最初购买的m个商品表示来初始化其长期偏好，并利用与构建基于注意力机制的短期偏好模型的相同原理，得到基于注意力机制的长期偏好模型；之后每经过m个商品，就更新一次当前用户的长期偏好，获得更新后的基于注意力机制的长期偏好模型；步骤3：查询再表示；其过程为：融合基于注意力机制的短期偏好模型、基于注意力机制的长期偏好模型以及当前查询，通过多层全连接网络来学习三者之间的交互关系，得到重组的查询表示，并采用一个距离函数来界定所有商品与当前查询的相关程度；步骤4：训练所述多层全连接网络结束后，对每个用户提交的新查询，得到所有商品与当前查询的距离值，再将所有距离值从高到低进行排序，并将前n个距离值对应的商品返回给用户，其中，n为正整数。...

【技术特征摘要】
1.一种基于深度学习注意力机制的个性化商品检索方法，其特征在于，包括：步骤1：构建基于注意力机制的短期偏好模型；所述步骤1具体包括：给定当前的查询，采用神经网络来估计前m个查询与当前查询之间的相关程度，并采用不同的注意力权重来表示；其中，m为正整数；将获得的注意力权重乘以对应的商品表示，输入至RNN模型中，输出表示基于注意力机制的短期偏好的m个向量；步骤2：构建基于注意力机制的长期偏好模型；所述步骤2具体包括：采用最初购买的m个商品表示来初始化其长期偏好，并利用与构建基于注意力机制的短期偏好模型的相同原理，得到基于注意力机制的长期偏好模型；之后每经过m个商品，就更新一次当前用户的长期偏好，获得更新后的基于注意力机制的长期偏好模型；步骤3：查询再表示；其过程为：融合基于注意力机制的短期偏好模型、基于注意力机制的长期偏好模型以及当前查询，通过多层全连接网络来学习三者之间的交互关系，得到重组的查询表示，并采用一个距离函数来界定所有商品与当前查询的相关程度；步骤4：训练所述多层全连接网络结束后，对每个用户提交的新查询，得到所有商品与当前查询的距离值，再将所有距离值从高到低进行排序，并将前n个距离值对应的商品返回给用户，其中，n为正整数。2.如权利要求1所述的一种基于深度学习注意力机制的个性化商品检索方法，其特征在于，该方法还包括：采用“基于成对”的学习方法来训练所述多层全连接网络。3.如权利要求1所述的一种基于深度学习注意力机制的个性化商品检索方法，其特征在于，在所述步骤1中，采用一个两层的神经网络来估计前m个查询与当前查询之间的相关程度。4.如权利要求1所述的一种基于深度学习注意力机制的个性化商品检索方法，其特征在于，在所述步骤3中，所述距离函数为余弦距离，或点积，或欧式距离，或曼哈顿距离。5.一种基于深度学习注意力机制的个性化商品检索装置，其特征在于，包括个性化商品检索处理器，所述个性化商品检索处理器包括：短期偏好模型构建模块，其被配置为：构建基于注意力机制的...

【专利技术属性】
技术研发人员：郭洋洋，程志勇，聂礼强，王英龙，马军，
申请(专利权)人：山东大学，
类型：发明
国别省市：山东,37