一种广告点击率预测模型及方法技术

本发明专利技术公开了一种广告点击率预测模型及方法，用于解决目前广告点击率预估准确性不高的问题。该模型包括：特征转化网络，用于将非结构化的数据转化为图网络的节点，把特征交互转化为结构化的图节点交互；注意力图融合网络，用于通过构建双线性交叉聚合模块和自注意力机制，全面细致地学习节点交互，同时采用GRU模块不断更新节点状态；宽度注意力特征交叉网络，用于将宽度注意力模块和元素级特征交叉模块进行融合，捕获交互特征的重要性和实现精细化的特征交互。本发明专利技术有效地加强对营销广告数据复杂特征的学习和提取，显著提高广告点击率预估的精度。预估的精度。预估的精度。

【技术实现步骤摘要】
一种广告点击率预测模型及方法


[0001]本专利技术涉及广告投放
，尤其涉及一种广告点击率预测模型及方法。

技术介绍

[0002]随着信息时代的到来，通过广告进行商品销售的模式被广泛应用，其中，对如何预估广告点击率，从而根据用户的特征属性，预测用户点击商品的概率，更好的获得更高的广告点击率，增加商品的曝光度尤为重视。
[0003]目前，进行广告点击率预估方法主要包括基于因子分解机的预估方法和基于深度学习的预估方法。其中，基于因子分解机的预估方法通常将一对交互特征增添到特征向量(Feature Vector)之中，忽视了非线性和高阶特征的相互作用，无法获取更高的广告点击率。而基于深度学习的广告点击率预估方法，主要通过将离散特征转化为连续的特征向量，并将其简单的拼接起来，进行的非结构化特征组合，输入到一个深度神经网络结构中，忽视了各种特征之间的结构特性，导致广告点击率预估精度不高。
[0004]综上，目前广告点击率预估技术中主要采用的是基于全连接网络的非结构化的特征交互方法，限制复杂特征交互的能力，导致点击率预估的准确度不高。

技术实现思路

[0005]本专利技术提供一种广告点击率预测模型及方法，用于解决目前广告点击率预估准确性不高的问题。
[0006]第一方面，本专利技术提供一种广告点击率预测模型，该模型包括：
[0007]特征转化网络，用于将非结构化的数据转化为图网络的节点，把特征交互转化为结构化的图节点交互；
[0008]注意力图融合网络，用于通过构建双线性交叉聚合模块和自注意力机制，全面细致地学习节点交互，同时采用GRU模块不断更新节点状态；
[0009]宽度注意力特征交叉网络，用于将宽度注意力模块和元素级特征交叉模块进行融合，捕获交互特征的重要性和实现精细化的特征交互。
[0010]在一种可能的实现方式中，所述特征转化网络，具体用于：
[0011]根据第m个域的输入数据，确定第i个输入实例；
[0012]使用特征域嵌入操作，将高维稀疏的独热编码转化为低维稠密的域嵌入向量，得到第一嵌入向量；
[0013]将每一输入实例的多域特征用结构化的特征图来表示。
[0014]在一种可能的实现方式中，所述注意力图融合网络，具体用于：
[0015]在节点特征融合的第l步，确定第l步对应的节点交互的输出结果；
[0016]将多域输入特征第一嵌入向量与前一步的输出结果逐元素相加的结果，与所述第l步对应的节点交互的输出结果，作为门控循环单元的输入，产生下一步的输入特征；
[0017]生成特征图的最新表示结果。
[0018]在一种可能的实现方式中，所述宽度注意力特征交叉网络中的所述宽度注意力模块，用于动态调节每一个特征域的重要性，计算得到全局节点的宽度注意力权重，来展示每一个交叉特征的重要性；
[0019]所述宽度注意力特征交叉网络中的所述元素级特征交叉模块，用于将特征交互转移到更加细粒度的层面上，实现不同特征之间的交互具有唯一的权重参数；将反映不同节点交互重要性的宽度注意力权重和实现元素级高阶特征交互的输出结果，融合得到每一个维度上都具有更加精细展示的交互特征。
[0020]第二方面，本专利技术提供一种广告点击率预测的方法，该方法包括：
[0021]将测试集合输入到训练好的广告点击率预测模型中，得到测试集合中每一个实例的预测结果；
[0022]如果预测结果大于事先设定的阈值，表明相应的营销广告是用户感兴趣会点击的广告。
[0023]在一种可能的实现方式中，获取营销用户的基础数据，所述基础数据包括用户属性、商品广告属性、用户的过往历史点击记录和上下文的环境特征中的部分或全部；
[0024]对所述基础数据进行优化处理，得到处理好的数据集；
[0025]从所述数据集中随机抽取第一阈值比例作为训练集；
[0026]将所述数据集中剩下的数据按照预设比例划分为验证集和测试集。
[0027]在一种可能的实现方式中，所述方法还包括：
[0028]对所述广告点击率预测模型进行训练。
[0029]在一种可能的实现方式中，所述对所述广告点击率预测模型进行训练，包括：
[0030]将预处理好的训练数据按照预先设置的批量处理的大小，输入所述广告点击率预测模型中，输出结果；
[0031]将所述输出结果输入到sigmoid函数中，得到预测结果；
[0032]将所述预测结果与训练集中的真实结果计算误差，基于所述误差进行反向传播，更新所述广告点击率预测模型直至模型收敛。
[0033]第三方面，提供了一种通信装置，所述装置具有实现上述第二方面及第二方面任一可能的实现中的功能，也可以通过硬件执行相应的软件实现。所述硬件或软件包括一个或多个与上述功能相对应的功能模块。
[0034]第四方面，提供了一种通信装置，包括处理器，可选的，还包括存储器；所述处理器和所述存储器耦合；所述存储器，用于存储计算机程序或指令；所述处理器，用于执行所述存储器中的部分或者全部计算机程序或指令，当所述部分或者全部计算机程序或指令被执行时，用于实现上述第二方面及第二方面任一可能的实现方法。
[0035]第五方面，本申请提供了一种芯片系统，该芯片系统包括一个或多个处理器(也可以称为处理电路)，所述处理器与存储器(也可以称为存储介质)之间电耦合；所述存储器可以位于所述芯片系统中，也可以不位于所述芯片系统中；所述存储器，用于存储计算机程序或指令；所述处理器，用于执行所述存储器中的部分或者全部计算机程序或指令，当所述部分或者全部计算机程序或指令被执行时，用于实现上述第二方面及第二方面任一可能的实现方法。
[0036]在一种可能的实现中，该芯片系统可以由芯片构成，也可以包括芯片和其他分立
器件。
[0037]第六方面，提供了一种计算机可读存储介质，用于存储计算机程序，所述计算机程序包括用于实现第二方面及第二方面任一可能的实现中的功能的指令，或用于实现第二方面及第二方面任一可能的实现中的功能的指令。
[0038]第七方面，提供了一种计算机程序产品，所述计算机程序产品包括计算机程序代码，当所述计算机程序代码在计算机上运行时，使得计算机执行上述第二方面及第二方面任一可能的实现方法。
[0039]本专利技术方法将非结构化的特征交互转换到结构化的图网络上，提出一种宽度注意力图网络的营销广告点击率预估方法。该方法构建一个注意力图融合网络，全面提取节点之间的交互信息，同时设计一个宽度注意力特征交叉网络，以更低的内存消耗，学习交叉特征的重要性和更加精细的特征交互。解决现有方法中使用简洁的非结构化特征组合限制了不同特征域之间显式的复杂特征交互能力，导致广告点击率预估准确性不高的问题，有效地加强对营销广告数据复杂特征的学习和提取，显著提高广告点击率预估的精度。
附图说明
[0040]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种广告点击率预测模型，其特征在于，该模型包括：特征转化网络，用于将非结构化的数据转化为图网络的节点，把特征交互转化为结构化的图节点交互；注意力图融合网络，用于通过构建双线性交叉聚合模块和自注意力机制，全面细致地学习节点交互，同时采用GRU模块不断更新节点状态；宽度注意力特征交叉网络，用于将宽度注意力模块和元素级特征交叉模块进行融合，捕获交互特征的重要性和实现精细化的特征交互。2.根据权利要求1所述的模型，其特征在于，所述特征转化网络，具体用于：根据第m个域的输入数据，确定第i个输入实例；使用特征域嵌入操作，将高维稀疏的独热编码转化为低维稠密的域嵌入向量，得到第一嵌入向量；将每一输入实例的多域特征用结构化的特征图来表示。3.根据权利要求1所述的模型，其特征在于，所述注意力图融合网络，具体用于：在节点特征融合的第l步，确定第l步对应的节点交互的输出结果；将多域输入特征第一嵌入向量与前一步的输出结果逐元素相加的结果，与所述第l步对应的节点交互的输出结果，作为门控循环单元的输入，产生下一步的输入特征；生成特征图的最新表示结果。4.根据权利要求1所述的模型，其特征在于，所述宽度注意力特征交叉网络中的所述宽度注意力模块，用于动态调节每一个特征域的重要性，计算得到全局节点的宽度注意力权重，来展示每一个交叉特征的重要性；所述宽度注意力特征交叉网络中的所述元素级特征交叉模块，用于将特征交互转移到更加细粒度的层面上，实现不同特征之间的交互具有唯一的权重参数；将反映不同节点交互重要性的宽度注意力权重和实现元素级高阶特征交互的输出结果，融合得到每一个维度上都具有更加精细展示的交互特征。5.一种基于权利...

【专利技术属性】
技术研发人员：张文领，
申请(专利权)人：天翼云科技有限公司，
类型：发明
国别省市：