【技术实现步骤摘要】
一种基于私域管理的大语言智能模型系统
[0001]本专利技术属于智能模型
，特别是涉及一种基于私域管理的大语言智能模型系统。
技术介绍
[0002]私域就是指品牌自有的、可开展个性化运营的用户资产。是能够长期、免费、反复触达消费者。私域的获客成本，是免费的、可反复触达的，当我们的用户进入私域流量池时，也需要对其进行管理和维护，避免用户流失。例如，当您通过多个渠道添加好友时，当好友列表达到某个难以统计的数量时，我们将如何了解每个好友的意图和诉求，以便更好地帮助他们解决问题。
[0003]大型语言模型(LLM，Large Language Mode l，其本质是生成式模型)，如ChatGPT(Chat Generat ive Pre
‑
trained Transformer，是OpenAI机构研发的聊天机器人程序)，能够为许多下游任务(例如面向任务的对话和问题解答)生成类似人类的流畅响应。
[0004]然而，将LLM应用于现实世界中的任务解决型应用仍然具有挑战性，主要原因是它们可能会产生与...
【技术保护点】
【技术特征摘要】
1.一种基于私域管理的大语言智能模型系统，包括第一训练集构建单元、监督微调训练单元、第二训练集构建单元、奖励模型训练单元和强化学习训练单元，其特征在于：所述第一训练集构建单元，被配置成基于私域用户输入文本与匹配的服务接口调用序列，构建第一训练集；其中，所述私域用户输入文本由私域用户输入语音转换得到，构成所述服务接口调用序列的服务接口对应于所述私域用户输入文本表达出的功能使用意图；所述监督微调训练单元，被配置成利用所述第一训练集对预训练好的第一生成式大语言模型进行有监督微调训练，得到第二生成式大语言模型；所述第二训练集构建单元，被配置成基于相同用户输入文本与不同候选输出之间的用户偏好排序和预设模板集合，构建第二训练集；所述奖励模型训练单元，被配置成利用第二训练集对预训练好的第三生成式大语言模型进行有监督训练，得到奖励模型；所述强化学习训练单元，被配置成将将所述第二生成式大语言模型，基于所述奖励模型返回的得分，以强化学习方式进行训练，得到目标生成式大语言模型。2.根据权利要求1所述的一种基于私域管理的大语言智能模型系统，其特征在于，所述第一训练集构建单元包括：功能使用意图确定子单元，被配置成获取私域用户以语音形式发出的用户输入语音，并将所述私域用户输入语音转换为所述私域用户输入文本，且确定所述私域用户输入文本所表达的功能使用意图；目标接口及接口参数确定子单元，被配置成根据所述功能使用意图确定用于实现相应意图的目标服务接口和具体接口参数；服务接口调用序列构建子单元，被配置成根据所述目标服务接口和所述具体接口参数，构建得到所述服务接口调用序列；第一训练集构建子单元，被配置成基于由所述私域用户输入文本与匹配的服务接口调用序列构成的样本对，构建所述第一训练集。3.根据权利要求2所述的一种基于私域管理的大语言智能模型系统，其特征在于，所述目标接口及接口参数确定子单元被进一步配置成：所述服务接口调用序列构建子单元被进一步配置成；响应于所述私域用户输入文本的表达中包含有至少两个所述功能使用意图，分别确定与每个所述功能使用意图对应的目标服务接口和具体接口参数；所述服务接口调用序列构建子单元被进一步配置成：根据与每个所述功能使用意图对应的目标服务接口和具体接口参数，生成相应的接口调用指令；根据不同的功能使用意图之间的执行依赖关系，确定不同的接口调用指令的执行顺序；按所述执行顺序组织不同的接口调用指令，得到所述服务接口调用序列。4.根据权利要求1所述的一种基于私域管理的大语言智能模型系统，其特征在于，所述监督微调训练单元对所述第一生成式大语言模型中未出现的代表服务接口的新语言单元，按照已有语言单元的特征的多元正态分布对所述新语言单元的特征进行参数采样的初始化。
5.根据权利要求1所述的一种基于私域管理的大语言智能模型系统，其特征在于，所述第二训练集构建单元被进一步配置...
【专利技术属性】
技术研发人员：陈君洪，蔡礼斌，
申请(专利权)人：深圳市众禧禾立科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。