一种基于卷积神经网络的移动用户行为预测方法技术

本发明专利技术公开了一种基于卷积神经网络的移动用户行为预测方法，步骤包括：对移动用户历史数据进行特征处理，根据历史记录数选择卷积用户，构建卷积用户的二维历史数据单元，对卷积神经网络行为预测模型进行训练；判断目标用户为卷积预测目标用户，构建二维目标用户数据单元输入卷积神经网络行为预测模型，预测得到目标用户各个行为标签的概率。本发明专利技术能有效提高移动用户行为预测的准确率，同时减少移动用户行为数据特征工程的工作量。

A method of mobile user behavior prediction based on convolutional neural network

The invention discloses a mobile user behavior based on convolutional neural network prediction method, comprising the following steps: on the historical data of the characteristics of mobile users, according to historical records the number of convolution users, two-dimensional history data unit constructed user, to train the neural network to predict the behavior of convolution model; determine the target user to predict target convolution the user model of two-dimensional target user data input unit of convolutional neural network behavior, predict the probability of target users each label. The invention can effectively improve the prediction accuracy of mobile user behavior and reduce the workload of mobile user behavior data characteristic project.

【技术实现步骤摘要】
一种基于卷积神经网络的移动用户行为预测方法
本专利技术属于移动个性化服务领域，特别涉及一种基于卷积神经网络的移动用户行为预测方法。
技术介绍
深度神经网络是一种具备至少一个隐层的神经网络，相比于浅层神经网络，多出的层次为模型提供了更高的抽象层次，因而提高了模型的能力。卷积神经网络由一个或多个卷积层和顶端的全连通层组成，同时也包括关联权重和池化层，这一结构使得卷积神经网络能够利用输入数据的二维结构。相比较其他深度、前馈神经网络，卷积神经网络需要估计的参数更少，使之成为一种颇具吸引力的深度学习结构。随着移动互联网的快速发展，人们的日常生活与工作越来越依赖于移动互联网，如何使用日益增长的移动用户大数据进行移动用户行为预测，已经成为移动个性化服务领域，如移动电子商务、移动位置服务、移动广告点击率预测等方面亟待解决的问题。
技术实现思路
本专利技术的目的在于克服现有技术的缺点与不足，提供一种基于卷积神经网络的移动用户行为预测方法，用以提高移动用户行为预测的准确性。本专利技术的目的通过以下的技术方案实现：一种基于卷积神经网络的移动用户行为预测方法，包括以下步骤：S1、对移动用户历史数据进行特征处理；移动用户历史数据包括移动用户客户端信息、移动用户网络连接信息、移动用户特征信息和移动用户历史行为信息；S2、确定历史滑窗大小N，选择移动用户历史数据中移动用户历史行为记录数大于或等于N的移动用户作为卷积用户；移动用户历史行为记录是指，移动用户在某一个时刻的行为数据记录；一条移动用户历史行为记录包括移动用户的一个行为动作、行为动作信息以及行为动作发生的时间、对象，还包括行为动作发生时的移动用户客户端信息、移动用户网络连接信息和移动用户特征信息；S3、对各个卷积用户的移动用户历史行为记录，按行为动作发生的时间先后排列，组成各个卷积用户的行为记录列表；然后构建卷积用户的二维历史数据单元：在每个卷积用户的行为记录列表中，用长度为N的滑动窗口依次滑动选择，每次得到包含N条移动用户历史行为记录的卷积数据组，将卷积数据组内的N条移动用户历史行为记录拼接成二维矩阵表示的二维历史数据单元；其中二维历史数据单元中，行为动作发生的时间最新的一条移动用户历史行为记录的行为动作信息，作为二维历史数据单元的行为标签域的行为标签，同时，需要把二维历史数据单元中的行为动作发生的时间最新的一条移动用户历史行为记录的动作信息清空，填充默认值0；S4、将所有卷积用户的二维历史数据单元及其行为标签，作为输入数据，输入至卷积神经网络中进行行为预测模型训练，获得卷积神经网络行为预测模型的参数，进而得到卷积神经网络行为预测模型；S5、获得目标用户的移动用户历史行为记录数，目标用户的移动用户历史行为记录数如果大于或等于N-1，则目标用户为卷积预测目标用户，否则目标用户为其他预测目标用户；S6、获得卷积预测目标用户当前的请求时间作为行为动作发生的时间，获得卷积预测目标用户当前的移动用户客户端信息、移动用户网络连接信息和移动用户特征信息，生成一条当前待预测的卷积预测目标用户的移动用户历史行为记录，本记录不包含当前要预测的行为标签；对卷积预测目标用户，选择行为动作发生的时间最近的N-1条移动用户历史行为记录，以及当前待预测的移动用户历史行为记录，按时间先后，组成包含N条移动用户历史行为记录的二维目标用户数据单元；其中所选择的动作发生时间最近的N-1条移动用户历史记录包含了相应记录时间点的行为标签；S7、将上述二维目标用户数据单元输入卷积神经网络行为预测模型中，得到卷积预测目标用户取各个行为标签的概率。优选的，步骤S1中对移动用户历史数据进行特征处理，包括数据清洗、缺失值填充、数值化和数据归一化处理；数值化是指对字符或字符串类型数据进行哈希编码得到整数的标识符。优选的，步骤S2中历史滑窗大小N设定为一个固定值或者通过算法确定。优选的，历史滑窗大小N取值为10或者取所有移动用户的移动用户历史行为记录数的二分位点。优选的，步骤S3中依次滑动是指在卷积用户的行为记录列表中，滑动窗口由后向前移动1步，滑动窗口内最后的一个移动用户历史行为记录移出窗口，滑动窗口前增加一个新的移动用户历史行为记录，其中滑动窗口向前移动1步，直至遍历卷积用户的行为记录列表。优选的，步骤S4中进行行为预测模型训练是指使用反向传播算法进行卷积神经网络模型训练。优选的，步骤S4中卷积神经网络行为预测模型包括卷积层、池化层、可选的正则化层、密集的全连接神经网络层、SoftMax输出层；具体的，卷积神经网络行为预测模型包括输入层、第一卷积层、Batch_normalize层、第二卷积层、第一Maxpooling层、第一Dropout层、第三卷积层、第二Maxpooling层、第二Dropout层和输出层；其中第一卷积层的卷积核大小为5x3、卷积核数目为20，第二卷积层和第三卷积层的卷积核大小为3x3、卷积核数目为15；第一Dropout层和第二Dropout层作为约束层，以0.5的概率丢弃前一层网络传递过来的数值结果；Maxpooling层使用2x2大小的max操作。进一步的，其中卷积神经网络行为预测模型中的卷积层数根据经验确定或者通过引入拥有直连通路的单元，半自动化地决定。优选的，卷积神经网络行为预测模型对每个二维历史数据单元的输出为多个概率值，表示该二维历史数据单元的行为标签域取得各个行为标签的概率。优选的，对其他预测目标用户，使用第二预测模型来预测其他预测目标用户取各个行为标签的概率；第二预测模型是指流行度模型、线性预测模型中的一种，或流行度模型和线性预测模型的组合。本专利技术与现有技术相比，具有如下优点和有益效果：1.本专利技术提高了移动用户行为预测的准确性。2.本专利技术使用卷积神经网络来实现用户行为预测，减少了训练预测模型的特征工程工作量，适应不同的复杂移动网络应用环境。附图说明图1是实施例中基于卷积神经网络的移动用户行为预测方法的步骤流程图。图2是使用实施例提出的模型与线性回归模型的效果的对比图。具体实施方式下面结合实施例及附图对本专利技术作进一步详细的描述，但本专利技术的实施方式不限于此。一种基于卷积神经网络的移动用户行为预测方法，如图1所示，具体步骤如下：第1步，对移动用户历史数据进行特征处理，包括数据清洗、缺失值填充、数值化和数据归一化处理；移动用户历史数据包括移动用户客户端信息、移动用户网络连接信息、移动用户特征信息和移动用户历史行为信息。上述数值化是指对字符或字符串类型数据进行哈希编码得到整数的标识符。第2步，确定历史滑窗大小N；选择移动用户历史数据中移动用户历史行为记录数大于或等于N的移动用户作为卷积用户；其中N取值为10。其中滑动窗口的长度N可以是设定一个固定值，也可以是通过算法确定，如选择所有移动用户的移动用户历史行为记录数的二分位点。移动用户历史行为记录是指，移动用户在某一个时刻的行为数据记录；一条移动用户历史行为记录包括移动用户的一个行为动作、行为动作信息以及行为动作发生的时间、对象等，还包括行为动作发生时的移动用户客户端信息、移动用户网络连接信息和移动用户特征信息。第3步，对各个卷积用户的移动用户历史行为记录，按行为动作发生的时间先后排列，组成各个卷积用户的行为记录列表。在每个卷积用户的行为记录列表中本文档来自技高网...

【技术保护点】
一种基于卷积神经网络的移动用户行为预测方法，其特征在于，包括以下步骤：S1、对移动用户历史数据进行特征处理；移动用户历史数据包括移动用户客户端信息、移动用户网络连接信息、移动用户特征信息和移动用户历史行为信息；S2、确定历史滑窗大小N，选择移动用户历史数据中移动用户历史行为记录数大于或等于N的移动用户作为卷积用户；移动用户历史行为记录是指，移动用户在某一个时刻的行为数据记录；一条移动用户历史行为记录包括移动用户的一个行为动作、行为动作信息以及行为动作发生的时间、对象，还包括行为动作发生时的移动用户客户端信息、移动用户网络连接信息和移动用户特征信息；S3、对各个卷积用户的移动用户历史行为记录，按行为动作发生的时间先后排列，组成各个卷积用户的行为记录列表；然后构建卷积用户的二维历史数据单元：在每个卷积用户的行为记录列表中，用长度为N的滑动窗口依次滑动选择，每次得到包含N条移动用户历史行为记录的卷积数据组，将卷积数据组内的N条移动用户历史行为记录拼接成二维矩阵表示的二维历史数据单元；其中二维历史数据单元中，行为动作发生的时间最新的一条移动用户历史行为记录的行为动作信息，作为二维历史数据单元的行为标签域的行为标签；同时，需要把二维历史数据单元中的行为动作发生的时间最新的一条移动用户历史行为记录的动作信息清空，填充默认值0；S4、将所有卷积用户的二维历史数据单元及其行为标签，作为输入数据，输入至卷积神经网络中进行行为预测模型训练，获得卷积神经网络行为预测模型的参数，进而得到卷积神经网络行为预测模型；S5、获得目标用户的移动用户历史行为记录数，目标用户的移动用户历史行为记录数如果大于或等于N‑1，则目标用户为卷积预测目标用户，否则目标用户为其他预测目标用户；S6、获得卷积预测目标用户当前的请求时间作为行为动作发生的时间，获得卷积预测目标用户当前的移动用户客户端信息、移动用户网络连接信息和移动用户特征信息，生成一条当前待预测的卷积预测目标用户的移动用户历史行为记录，本记录不包含当前要预测的行为标签；对卷积预测目标用户，选择行为动作发生的时间最近的N‑1条移动用户历史行为记录，以及当前待预测的移动用户历史行为记录，按时间先后，组成包含N条移动用户历史行为记录的二维目标用户数据单元；其中所选择的动作发生时间最近的N‑1条移动用户历史记录包含了相应记录时间点的行为标签；S7、将上述二维目标用户数据单元输入卷积神经网络行为预测模型中，得到卷积预测目标用户取各个行为标签的概率。...

【技术特征摘要】
1.一种基于卷积神经网络的移动用户行为预测方法，其特征在于，包括以下步骤：S1、对移动用户历史数据进行特征处理；移动用户历史数据包括移动用户客户端信息、移动用户网络连接信息、移动用户特征信息和移动用户历史行为信息；S2、确定历史滑窗大小N，选择移动用户历史数据中移动用户历史行为记录数大于或等于N的移动用户作为卷积用户；移动用户历史行为记录是指，移动用户在某一个时刻的行为数据记录；一条移动用户历史行为记录包括移动用户的一个行为动作、行为动作信息以及行为动作发生的时间、对象，还包括行为动作发生时的移动用户客户端信息、移动用户网络连接信息和移动用户特征信息；S3、对各个卷积用户的移动用户历史行为记录，按行为动作发生的时间先后排列，组成各个卷积用户的行为记录列表；然后构建卷积用户的二维历史数据单元：在每个卷积用户的行为记录列表中，用长度为N的滑动窗口依次滑动选择，每次得到包含N条移动用户历史行为记录的卷积数据组，将卷积数据组内的N条移动用户历史行为记录拼接成二维矩阵表示的二维历史数据单元；其中二维历史数据单元中，行为动作发生的时间最新的一条移动用户历史行为记录的行为动作信息，作为二维历史数据单元的行为标签域的行为标签；同时，需要把二维历史数据单元中的行为动作发生的时间最新的一条移动用户历史行为记录的动作信息清空，填充默认值0；S4、将所有卷积用户的二维历史数据单元及其行为标签，作为输入数据，输入至卷积神经网络中进行行为预测模型训练，获得卷积神经网络行为预测模型的参数，进而得到卷积神经网络行为预测模型；S5、获得目标用户的移动用户历史行为记录数，目标用户的移动用户历史行为记录数如果大于或等于N-1，则目标用户为卷积预测目标用户，否则目标用户为其他预测目标用户；S6、获得卷积预测目标用户当前的请求时间作为行为动作发生的时间，获得卷积预测目标用户当前的移动用户客户端信息、移动用户网络连接信息和移动用户特征信息，生成一条当前待预测的卷积预测目标用户的移动用户历史行为记录，本记录不包含当前要预测的行为标签；对卷积预测目标用户，选择行为动作发生的时间最近的N-1条移动用户历史行为记录，以及当前待预测的移动用户历史行为记录，按时间先后，组成包含N条移动用户历史行为记录的二维目标用户数据单元；其中所选择的动作发生时间最近的N-1条移动用户历史记录包含了相应记录时间点的行为标签；S7、将上述二维目标用户数据单元输入卷积神经网络行为预测模型中，得到卷积预测目标用户取各个行为标签的概率。2.根据...

【专利技术属性】
技术研发人员：胡金龙，朱闰超，
申请(专利权)人：华南理工大学，
类型：发明
国别省市：广东,44