System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种多任务学习LSTM-Attention框架的LTV预测方法及系统技术方案_技高网

一种多任务学习LSTM-Attention框架的LTV预测方法及系统技术方案

技术编号:40643068 阅读:3 留言:0更新日期:2024-03-13 21:24
本发明专利技术涉及游戏用户大数据分析领域,尤其涉及一种多任务学习LSTM‑Attention框架的LTV预测方法及系统,通过获取LTV基础数据,并进行数据特征提取,得到LTV基础数据特征;构建LSTM神经网络模型,并引入Attention机制,得到LSTM‑Attention框架的LTV预测模型;利用LTV预测模型将LTV基础数据特征分别进行数据特征预处理;将预处理后的LTV基础数据特征进行特征合并,并进行卷积层、最大池化层和池化扁平化处理,得到特征聚合结果;将特征聚合结果作为输入,进行LTV预测模型的训练,得到训练好的LTV预测模型;将待预测的LTV数据输入到训练好的LTV预测模型中,输出LTV预测结果。采用本发明专利技术提供的预测方法不仅提高了模型的泛化能力和模型训练学习效率,还提高了LTV预测模型的准确性和实用性。

【技术实现步骤摘要】

本专利技术涉及游戏用户大数据分析领域,尤其涉及一种多任务学习lstm-attention框架的ltv预测方法及系统。


技术介绍

1、用户终身价值ltv,是用户在生命周期内创造的总净值。通常用公式ltv = lt *arpu = 1/cr * arpu计算得到,即每个用户生命周期*用户平均收入,其中,lt表示用户生命周期,arpu表示用户平均收入,cr表示用户流失率,这也就导致了用户ltv预测的关键就在于如何有效预测用户平均支付arpu和预测用户的流失率cr。

2、ltv模型在企业内数据驱动的决策过程中发挥至关重要的作用,大致可以分为两类,一种根据rfm模型业务结构构建用户ltv模型,另一种利用ml、ai做用户ltv预测(包括利用逻辑回归、随机森林、梯度提升树、神经网络等方法)。

3、现有技术方案中,更多偏向使用神经网络捕获复杂的非线性关系,但是由于实际数据差异不同且更为复杂,依然需要大量的训练、大量的测试集,在真实数据中尝试复杂模式解决用户ltv预测。其中,尤为显著的是鉴于用户群体数据分布类型种类繁多,包括混合泊松分布、指数分布等多种分布,举例来说,用户中不仅包含很多不购买、一次性购买、付费金额不稳定的,还包括少量付费金额稳定的,所以每个用户的ltv分布是不均匀的,这也是导致ltv预估困难的主要因素之一。再有,由于数据质量的稳定性问题,存在有数据漂移和概念漂移,其中,数据漂移是指模型依据的用户数据季节性不同、环境变量不同等;概念漂移是指依赖客户群体的行为发生根本性变化,这就导致了ltv预测准确率极不稳定。最后就是,传统双模型预测用户平均收入和流失概率,构造模型复杂度高,且存在模型累积误差,导致ltv预测效果不明显,鲁棒性较差。

4、综上所述,现有技术存在模型预测准确率低、效果波动较大、泛化能力较差、训练学习耗时久、实用性较差的技术问题。


技术实现思路

1、有鉴于此,本专利技术提供一种多任务学习lstm-attention框架的ltv预测方法及系统,旨在解决上述全部或部分技术问题。

2、为解决以上技术问题,本专利技术的技术方案为提供一种多任务学习lstm-attention框架的ltv预测方法,包括:

3、获取ltv基础数据,并进行数据特征提取,得到ltv基础数据特征;

4、构建lstm神经网络模型,并引入attention机制,得到lstm-attention框架的ltv预测模型;

5、利用所述ltv预测模型将所述ltv基础数据特征分别进行数据特征预处理;

6、将预处理后的ltv基础数据特征进行特征合并,并进行进行卷积层、最大池化层和池化扁平化处理,得到特征聚合结果;

7、将所述特征聚合结果作为输入,进行所述ltv预测模型的训练,得到训练好的ltv预测模型;

8、将待预测的ltv数据输入到所述训练好的ltv预测模型中,输出ltv预测结果。

9、作为一种实施方式,所述获取ltv基础数据,并进行数据特征提取,包括:

10、获取用户画像数据和用户价值数据;

11、对所述用户画像数据进行特征提取,包括静态属性特征和动态行为特征,得到用户画像特征;

12、对所述用户价值数据进行特征提取,具体的,根据rfm模型构造用户购买行为频率特征和用户购买金额特征,基于所述用户购买行为频率特征和所述用户购买金额特征,得到用户价值特征;

13、其中,用户购买行为频率是用户游戏时序有关特征。

14、作为一种实施方式,得到用户画像特征之后,还包括:

15、对用户画像特征进行数据预处理,具体的,

16、将用户画像特征做嵌入处理,以使高维特征向量转换为低维特征向量;

17、通过relu激活函数对降维后的用户画像特征进行非线性转换,并映射到fc全连接层。

18、作为一种实施方式,得到用户购买金额特征之后,还包括:

19、对用户购买金额特征进行数据预处理,具体的,

20、将用户购买金额特征通过relu激活函数进行非线性转换,并映射到fc全连接层。

21、作为一种实施方式,得到用户购买行为频率特征之后,还包括:

22、对用户购买行为频率特征进行数据预处理,具体的,

23、获取基础数据特征中的时间特征;

24、将所述时间特征和所述用户购买行为频率特征包含的动态序列特征进行结合,并将结合后的特征进行lstm处理,得到时间特征的动态序列特征和用户购买行为频率特征的动态序列特征之间的依赖关系。

25、作为一种实施方式,所述将所述特征聚合结果作为输入,进行所述ltv预测模型的训练,包括:

26、引入门控制机制进行多任务学习;

27、分别获取流失的隐式表达和用户平均付费的隐式表达;

28、基于所述流失的隐式表达和所述用户平均付费的隐式表达,输出用户流失预测值和用户平均付费预测值;

29、根据所述用户流失预测值和所述用户平均付费预测值,计算得到ltv预测值。

30、作为一种实施方式,所述将所述特征聚合结果作为输入,进行所述ltv预测模型的训练,还包括:

31、采用零膨胀对数正态损失函数对所述ltv预测值进行结果补偿。

32、作为一种实施方式,所述引入门控制机制进行多任务学习的公式被配置为:,其中,g为门控制机制,sigmoid表示为用具有sigmoid激活函数的全连接层fc处理输入张量,x为以特征聚合结果作为输入,wg和bg分别为引入门控制的权重和偏置。

33、相应的,本专利技术还提供一种多任务学习lstm-attention框架的ltv预测系统,包括:

34、数据获取模块,用于获取ltv基础数据,并进行数据特征提取,得到ltv基础数据特征;

35、模型构建模块,用于构建lstm神经网络模型,并引入attention机制,得到lstm-attention框架的神经网络模型;

36、特征预处理模块,用于利用所述lstm-attention框架的神经网络模型将所述ltv基础数据特征分别进行数据特征预处理;

37、特征合并模块,用于将预处理后的ltv基础数据特征进行特征合并,并进行卷积层、最大池化层和池化扁平化,得到特征聚合结果;

38、模型训练模块,用于将所述特征聚合结果作为输入,进行所述lstm-attention框架的神经网络模型的训练,得到训练好的lstm-attention框架的神经网络模型;

39、结果输出模块,用于将待预测的ltv数据输入到所述训练好的lstm-attention框架的神经网络模型中,输出ltv预测结果。

40、本专利技术的首要改进之处:采用本专利技术提供的多任务学习的lstm-attention框架在ltv预测的优势,包括捕捉时间序列关系、关注重要特征、综合学习多个本文档来自技高网...

【技术保护点】

1.一种多任务学习LSTM-Attention框架的LTV预测方法,其特征在于,包括:

2.根据权利要求1所述的一种多任务学习LSTM-Attention框架的LTV预测方法,其特征在于,所述获取LTV基础数据,并进行数据特征提取,包括:

3.根据权利要求2所述的一种多任务学习LSTM-Attention框架的LTV预测方法,其特征在于,得到用户画像特征之后,还包括:

4.根据权利要求2所述的一种多任务学习LSTM-Attention框架的LTV预测方法,其特征在于,得到用户购买金额特征之后,还包括:

5.根据权利要求2所述的一种多任务学习LSTM-Attention框架的LTV预测方法,其特征在于,得到用户购买行为频率特征之后,还包括:

6.根据权利要求1所述的一种多任务学习LSTM-Attention框架的LTV预测方法,其特征在于,所述将所述特征聚合结果作为输入,进行所述LTV预测模型的训练,包括:

7.根据权利要求6所述的一种多任务学习LSTM-Attention框架的LTV预测方法,其特征在于,所述将所述特征聚合结果作为输入,进行所述LTV预测模型的训练,还包括:

8.根据权利要求6所述的一种多任务学习LSTM-Attention框架的LTV预测方法,其特征在于,所述引入门控制机制进行多任务学习的公式被配置为:,其中,G为门控制机制,Sigmoid表示为用具有Sigmoid激活函数的全连接层FC处理输入张量,X为以特征聚合结果作为输入,WG和bG分别为引入门控制的权重和偏置。

9.一种多任务学习LSTM-Attention框架的LTV预测系统,其特征在于,包括:

...

【技术特征摘要】

1.一种多任务学习lstm-attention框架的ltv预测方法,其特征在于,包括:

2.根据权利要求1所述的一种多任务学习lstm-attention框架的ltv预测方法,其特征在于,所述获取ltv基础数据,并进行数据特征提取,包括:

3.根据权利要求2所述的一种多任务学习lstm-attention框架的ltv预测方法,其特征在于,得到用户画像特征之后,还包括:

4.根据权利要求2所述的一种多任务学习lstm-attention框架的ltv预测方法,其特征在于,得到用户购买金额特征之后,还包括:

5.根据权利要求2所述的一种多任务学习lstm-attention框架的ltv预测方法,其特征在于,得到用户购买行为频率特征之后,还包括:

6.根据权利要求1所述的一种多任务学习...

【专利技术属性】
技术研发人员:王瑜
申请(专利权)人:成都帆点创想科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1