【技术实现步骤摘要】
一种基于Transformer的产品定制智能助理构建方法
[0001]本专利技术涉及产品定制领域，尤其涉及一种基于Transformer的产品定制智能助理构建方法。
技术介绍
[0002]在当前快速发展的经济环境下，产品的个性化需求越来越高。但是，传统的产品定制方式通常需要大量的人力和时间，而且效率不高，严重制约了产品的快速开发和推广。因此，研发一种高效的产品定制智能助理成为了当下的热点研究方向。近年来，随着深度学习技术的迅速发展，基于神经网络的自然语言处理技术已经成为了实现产品定制智能助理的主要手段。其中，基于Transformer架构的自然语言处理技术因为其出色的效果和高效的运行速度，在产品定制智能助理的构建中得到了广泛的应用。
技术实现思路
[0003]为了解决上述问题，本专利技术提供了一种基于Transformer的产品定制智能助理构建方法，首先，收集企业产品相关信息及产品领域内专家知识；其次，基于Transformer架构，搭建产品定制智能助理模型；然后，利用专家知识对模型进行微调，从而提高模型的精...
【技术保护点】
【技术特征摘要】
1.一种基于Transformer的产品定制智能助理构建方法,其特征在于所述方法包括：收集企业产品相关信息及产品领域内专家知识；基于Transformer架构，搭建产品定制智能助理模型；输入产品相关信息进行模型预训练，利用专家知识对模型微调后完成模型搭建；利用智能助理模型收集客户基本资料，在此基础上为客户匹配当前最适合客户的产品个性化定制方案作为初始方案；客户在初始方案的基础上再进行产品个性化定制，智能助理根据定制操作实时分析客户的个性特征并提出合理建议供客户参考；智能助理综合客户需求，辅助客户完成产品个性化定制最终方案并反向调整模型。2.根据权利要求1所述的产品定制智能助理模型，其特征在于：基于Transformer架构搭建产品定制智能助理模型，利用产品知识进行模型预训练，在专家知识的基础上进行微调完成模型搭建，具体包括：将输入的词语或符号转换为连续的向量表示，这些嵌入包括词嵌入和位置嵌入。词嵌入将单词映射到向量空间，而位置嵌入捕捉序列中单词的顺序信息；编码器中包括自注意力层、前馈神经网络层和两个残差连接与层归一化，自注意力层主要包括Query(Q)、Key(K)和Value(V)矩阵的计算，以及计算注意力权重和输出，多头自注意力是将输入分为多个部分(称为“头”)，并在每个部分上独立应用自注意力机制；多头自注意力的输出通过一个前馈神经网络(FFNN，Feed forward neural networks)，它由两个线性层和激活函数(LeakyReLu)组成，LeakyReLu()为非线性激活函数：使用残差连接(Residual Connections)和层归一化(Layer Normalization)来提高模型的训练稳定性和收敛速度，计算公式如下：ResidualConnection＝LayerInput+LayerOutputLayerNormOutput＝LayerNorm(ResidualConnection)式中，LayerNorm表示层归一化操作。使用基于Transformer的单向解码器架构，该架构只允许模型关注之前的上下文，解码器与编码器结构相比，增加了编码
‑
解码注意力层，允许解码器关注编码器的输出，以生成更相关的输出序列，解码器的Query(Q)矩阵来自解码器的输出序列，而Key(K)和Value(V)矩阵来自编码器的输入序列。解码器的输出经过一个线性变换层以及softmax函数，最终输出对应工艺参数或客户需求；输入企业产品相关信息对模型进行预训练，采用交叉熵损失函数进行模型泛化能力评估，计算公式如下：
式中，表示数据的真实信息映射概率，表示数据预测的信息映射概率，要求模型交叉熵控制在80％以上以达到较强泛化能力；利用产品领域内的专家知识对预训练好的模型进行微调，使得智能助理模型更加适应特定产品定制任务；产品定制智能助理模型训练完成后，根据预训练设定的产品相关信息以及输入的专家知识，生成对应定制产品的基本信息问卷，智能助理通过提问的方式向客户收集答案，从而匹配目前最佳产品定制方案，为后续客户进行产品个性化定制做准备。3.根据权利要求1所述的客户个性化定制初始方案，其特征在于，智能助理模型收集客户基本资料，为客户匹配当前最适合客户的产品个性化定制方案作为初始方案，具体包括：智能助理根据预训练设定的产品相关信息以及输入的专家知识，生成对应定制产品的基本信息问卷；智...
【专利技术属性】
技术研发人员：徐新胜，肖诗雨，陈昕航，吴松泽，周阳，张艺，杨力，杨维学，刘仙山，吕品，李孝禄，周康康，
申请(专利权)人：中国计量大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。