System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及数据推荐的,特别是涉及一种基于大语言模型的推荐模型的生成方法、一种基于大语言模型的推荐模型的生成装置、一种电子设备和一种非易失性计算机可读存储介质。
技术介绍
1、近年来,推荐系统成为许多公司最大的业务收入来源之一,特别是针对互联网行业,搜索、广告、推荐被称为利润最高的三大业务。推荐技术因其能够快速推动线上业务增长和提高用户参与度的能力而受到广泛关注。
2、为了提高推荐系统的准确性,需要提高推荐系统中的推荐模型的预测能力;而如何提高推荐模型的预测能力成了当前亟需解决的问题之一。
技术实现思路
1、鉴于上述问题,提出了以便提供克服上述问题或者至少部分地解决上述问题的基于大语言模型的推荐模型的生成方法以及相应的产品,包括:
2、一种基于大语言模型的推荐模型的生成方法,所述方法包括:
3、获取训练用数据,所述训练用数据包括多个用户特征数据和各用户特征数据对应的多个用户行为序列数据;
4、将所述训练用数据转换成结构化的第一数据,并根据所述第一数据生成训练用输入序列;
5、对所述训练用输入序列中的部分字段进行屏蔽,得到第一文本;所屏蔽的部分字段为第二文本;
6、根据所述第一文本和所述第二文本,对通用的大语言模型进行调整,得到目标推荐模型。
7、可选地,所述将所述训练用数据转换成结构化的第一数据,包括:
8、确定各用户行为序列数据对应的行为所存续的时长,并根据各用户行为序列数据对应的行
9、从所述多个用户特征数据中,确定与所述目标行为序列数据对应的目标用户特征数据;
10、将目标行为序列数据转换成结构化的目标行为序列数据,以及将目标用户特征数据转换成结构化的目标用户特征数据;
11、根据结构化的目标行为序列数据和结构化的目标用户特征数据,得到第一数据。
12、可选地,所述将目标行为序列数据转换成结构化的目标行为序列数据,以及将目标用户特征数据转换成结构化的目标用户特征数据,包括:
13、对目标行为序列数据和目标用户特征数据进行文本化的转换,得到文本形式的目标行为序列数据和目标用户特征数据;
14、对文本形式的目标行为序列数据和目标用户特征数据进行结构化转换,得到第一数据。
15、可选地,非文本化的目标行为序列数据和目标用户特征数据为表格形式的数据,所述对目标行为序列数据和目标用户特征数据进行文本化的转换,得到文本化的目标行为序列数据和目标用户特征数据,包括:
16、将表格形式的目标行为序列数据和目标用户特征数据,转换成文本形式的目标行为序列数据和目标用户特征数据。
17、可选地,所述根据结构化的目标行为序列数据和结构化的目标用户特征数据,得到第一数据,包括:
18、对结构化的目标行为序列数据和结构化的目标用户特征数据进行预处理,得到第一数据。
19、可选地,所述根据各用户行为序列数据对应的行为所存续的时长,从多个用户行为序列数据中,确定目标行为序列数据,包括:
20、根据用户行为序列数据对应的行为所存续的时长,确定各用户行为序列数据所属的存续时长区间;
21、根据预设比例,从各存续时长区间对应的用户行为序列数据中,获取目标行为序列数据。
22、可选地,所述根据预设比例,从各存续时长区间对应的用户行为序列数据中,获取目标行为序列数据,包括:
23、根据所述预设比例,确定各存续时长区间对应的待获取的数据的数量;
24、根据所述待获取的数据的数量,随机地从各存续时长区间对应的用户行为序列数据中获取目标行为序列数据。
25、可选地,所述根据所述第一文本和所述第二文本,对通用的大语言模型进行调整,得到目标推荐模型,包括:
26、使用所述通用的大语言模型的双向编码器对所述第一文本进行处理,以及使用所述通用的大语言模型的单向解码器对所述第二文本进行处理;
27、根据所述双向编码器的处理结果和所述单向解码器的处理结果,对所述通用的大语言模型进行模型参数进行调整,得到所述目标推荐模型。
28、可选地,所述对训练用输入序列中的部分字段进行屏蔽,得到第一文本,包括:
29、对训练用输入序列中的部分实体进行屏蔽,得到所述第一文本。
30、可选地,所述对训练用输入序列中的部分字段进行屏蔽,得到第一文本,包括:
31、对训练用输入序列中的部分句子进行屏蔽,得到所述第一文本。
32、可选地,所述对训练用输入序列中的部分字段进行屏蔽,得到第一文本,包括:
33、对训练用输入序列中的部分文本段进行屏蔽,得到所述第一文本。
34、可选地,训练用输入序列中被屏蔽部分的槽序按时间顺序进行排列。
35、可选地,所述第一文本中被屏蔽部分的部分字段设置有开始标志,所述第二文本设置有结束标志。
36、可选地,所述第一文本的每个文本单元设置有位置内标志和位置间标志,位置内标志和位置间标志映射在对应的文本单元的嵌入向量中。
37、可选地,所述方法还包括:
38、接收推荐任务;
39、将所述推荐任务输入至所述目标推荐模型中,并接收所述目标推荐模型输出的目标推荐数据。
40、可选地,所述目标推荐模型,用于在生成目标推荐数据的目标文本单元时,判断所述目标文本单元与上一个所生成的文本单元是否属于同一个实体;当所述目标文本单元与上一个所生成的文本单元属于同一个实体时,对所述同一个实体的位置内标志进行更新。
41、可选地,所述目标推荐模型设置有一实体池,所述实体池中包括有多个实体;所述目标推荐模型用于在生成目标文本单元时,将实体池中与所述目标文本单元不匹配的实体删除。
42、本专利技术实施例还提供了一种基于大语言模型的推荐模型的生成装置,所述装置包括:
43、获取模块,用于获取训练用数据,所述训练用数据包括多个用户特征数据和各用户特征数据对应的多个用户行为序列数据;
44、生成模块,用于将所述训练用数据转换成结构化的第一数据,并根据所述第一数据生成训练用输入序列;
45、屏蔽模块,用于对训练用输入序列中的部分字段进行屏蔽,得到第一文本;所屏蔽的部分字段为第二文本;
46、调整模块,用于根据所述第一文本和所述第二文本,对通用的大语言模型进行调整,得到目标推荐模型。
47、可选地,所述生成模块,用于确定各用户行为序列数据对应的行为所存续的时长,并根据各用户行为序列数据对应的行为所存续的时长,从多个用户行为序列数据中,确定目标行为序列数据;从所述多个用户特征数据中,确定与所述目标行为序列数据对应的目标用户特征数据;将目标行为序列数据转换成结构化的目标行为序列数据,以及本文档来自技高网...
【技术保护点】
1.一种基于大语言模型的推荐模型的生成方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述将所述训练用数据转换成结构化的第一数据,包括:
3.根据权利要求2所述的方法,其特征在于,所述将目标行为序列数据转换成结构化的目标行为序列数据,以及将目标用户特征数据转换成结构化的目标用户特征数据,包括:
4.根据权利要求3所述的方法,其特征在于,非文本化的目标行为序列数据和目标用户特征数据为表格形式的数据,所述对目标行为序列数据和目标用户特征数据进行文本化的转换,得到文本化的目标行为序列数据和目标用户特征数据,包括:
5.根据权利要求2-4任一项所述的方法,其特征在于,所述根据结构化的目标行为序列数据和结构化的目标用户特征数据,得到第一数据,包括:
6.根据权利要求2所述的方法,其特征在于,所述根据各用户行为序列数据对应的行为所存续的时长,从多个用户行为序列数据中,确定目标行为序列数据,包括:
7.根据权利要求6所述的方法,其特征在于,所述根据预设比例,从各存续时长区间对应的用户行为序列数据
8.根据权利要求1所述的方法,其特征在于,所述根据所述第一文本和所述第二文本,对通用的大语言模型进行调整,得到目标推荐模型,包括:
9.根据权利要求1所述的方法,其特征在于,所述对训练用输入序列中的部分字段进行屏蔽,得到第一文本,包括:
10.根据权利要求1所述的方法,其特征在于,所述对训练用输入序列中的部分字段进行屏蔽,得到第一文本,包括:
11.根据权利要求1所述的方法,其特征在于,所述对训练用输入序列中的部分字段进行屏蔽,得到第一文本,包括:
12.根据权利要求9-11任一项所述的方法,其特征在于,
13.根据权利要求1所述的方法,其特征在于,所述第一文本中被屏蔽部分的部分字段设置有开始标志,所述第二文本设置有结束标志。
14.根据权利要求1所述的方法,其特征在于,所述第一文本的每个文本单元设置有位置内标志和位置间标志,位置内标志和位置间标志映射在对应的文本单元的嵌入向量中。
15.根据权利要求1所述的方法,其特征在于,所述方法还包括:
16.根据权利要求15所述的方法,其特征在于,
17.根据权利要求16所述的方法,其特征在于,
18.一种基于大语言模型的推荐模型的生成装置,其特征在于,所述装置包括:
19.一种电子设备,其特征在于,包括处理器、存储器及存储在所述存储器上并能够在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至17中任一项所述基于大语言模型的推荐模型的生成方法。
20.一种非易失性计算机可读存储介质,其特征在于,所述非易失性计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如权利要求1至17中任一项所述基于大语言模型的推荐模型的生成方法。
...【技术特征摘要】
1.一种基于大语言模型的推荐模型的生成方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述将所述训练用数据转换成结构化的第一数据,包括:
3.根据权利要求2所述的方法,其特征在于,所述将目标行为序列数据转换成结构化的目标行为序列数据,以及将目标用户特征数据转换成结构化的目标用户特征数据,包括:
4.根据权利要求3所述的方法,其特征在于,非文本化的目标行为序列数据和目标用户特征数据为表格形式的数据,所述对目标行为序列数据和目标用户特征数据进行文本化的转换,得到文本化的目标行为序列数据和目标用户特征数据,包括:
5.根据权利要求2-4任一项所述的方法,其特征在于,所述根据结构化的目标行为序列数据和结构化的目标用户特征数据,得到第一数据,包括:
6.根据权利要求2所述的方法,其特征在于,所述根据各用户行为序列数据对应的行为所存续的时长,从多个用户行为序列数据中,确定目标行为序列数据,包括:
7.根据权利要求6所述的方法,其特征在于,所述根据预设比例,从各存续时长区间对应的用户行为序列数据中,获取目标行为序列数据,包括:
8.根据权利要求1所述的方法,其特征在于,所述根据所述第一文本和所述第二文本,对通用的大语言模型进行调整,得到目标推荐模型,包括:
9.根据权利要求1所述的方法,其特征在于,所述对训练用输入序列中的部分字段进行屏蔽,得到第一文本,包括:
10.根...
【专利技术属性】
技术研发人员:朱洪银,张闯,王敏,
申请(专利权)人:苏州元脑智能科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。