基于大模型的自回归用户行为预测系统及其方法技术方案

本发明专利技术涉及基于大模型的自回归用户行为预测系统及其方法，其包括以下步骤；首先，数据预处理，将表示用户行为和用户画像的高维数据特征向量化；然后，特征残差量化，对特征向量进行了特征残差量化，生成码表embeddings；其次，用户行为通过token表示，每个token对应一个特定的行为或事件；再次，将嵌入embeddings的token送入Transformer模型进行训练；Transformer模型学习token序列的模式，并调整参数以最小化预测误差，形成经过训练的Transformer模型；而后，基于训练的Transformer模型，根据输入的token序列预测下一个token，即预测用户的下一步行为；本发明专利技术设计合理、结构紧凑且使用方便。

【技术实现步骤摘要】

本专利技术涉及基于大模型的自回归用户行为预测系统及其方法。

技术介绍

1、如今，大模型技术其影响力已经逐渐扩展到日常生活和生产的各个领域，但现有的智慧家居智场景中针对现有用户行为预测的技术存在一些不足之处：1.预测准确性不足，捕捉复杂依赖关系的能力不足：传统方法在处理用户行为数据时，往往依赖于简单的统计模型或浅层机器学习算法，这些方法在处理高维、非线性和复杂依赖关系的数据时力不从心，导致预测结果的准确性和可靠性不足；2.处理大规模数据的效率和性能不足：随着用户行为数据量的激增，现有技术在处理大规模数据时面临性能瓶颈，无法快速有效地从海量数据中提取有价值的信息，导致模型训练和推理过程缓慢，难以满足实时预测的需求；3.模型的泛化能力和适应性不足：现有预测模型往往过度依赖于特定数据集的特征，缺乏良好的泛化能力，导致模型在面对新的用户群体或市场环境时，预测性能下降。

2、相比于现有技术，本专利技术侧重于来处理大规模的多维度数据(用户行为数据)，更侧重于模型的预测能力，间接实现家居控制，实现的数据转换为特征化向量，再对特征化向量进行残差量化，通过将数据映本文档来自技高网...

【技术保护点】

1.一种基于大模型的自回归用户行为预测方法，其特征在于：预测方法包括以下步骤；

2.一种基于大模型的自回归用户行为预测方法，其特征在于：用于智慧家居场景；预测方法步骤如下；

3.根据权利要求2所述的基于大模型的自回归用户行为预测方法，其特征在于：在S1中，执行有以下步骤；

4.根据权利要求2所述的基于大模型的自回归用户行为预测方法，其特征在于：在S2中，执行有以下步骤；

5.根据权利要求4所述的基于大模型的自回归用户行为预测方法，其特征在于：在S2中，假设用户行为数据和用户画像数据；

6.根据权利要求4所述的基于大模型的自回归用...

【技术特征摘要】

1.一种基于大模型的自回归用户行为预测方法，其特征在于：预测方法包括以下步骤；

2.一种基于大模型的自回归用户行为预测方法，其特征在于：用于智慧家居场景；预测方法步骤如下；

3.根据权利要求2所述的基于大模型的自回归用户行为预测方法，其特征在于：在s1中，执行有以下步骤；

4.根据权利要求2所述的基于大模型的自回归用户行为预测方法，其特征在于：在s2中，执行有以下步骤；

5.根据权利要求4所述的基于大模型的自回归用户行为预测方法，其特征在于：在s2中，假设用户行为数据和用户画像数据；

6.根据权利要求4所述的基于大模型的自回归用户行为预测方法，其特征在于：在s3中，执行有以下步骤；

7.根据权利要求6所述的基于大模型的自回...

【专利技术属性】
技术研发人员：李松，刘洋，孙宏霞，程航，冷君阁，郭保琪，田云龙，牛丽，刘国强，刘华，
申请(专利权)人：青岛海大新星软件咨询有限公司，
类型：发明
国别省市：