【技术实现步骤摘要】
本申请涉及大语言模型，尤其涉及一种垂直领域大语言模型训练方法及相关设备。
技术介绍
1、在现有技术中，大语言模型训练方法通常包括：预训练、指令微调和反馈强化，最终得到大语言模型。在实际操作经验可知，现有的大语言模型训练过程会使用到大量的原始文本和指令样本，导致训练样本的获取很耗费时间；另外，由于上述的训练过程包括较多的步骤，所以还有训练繁琐的应用缺点；
2、此外，通过上述方式训练得到的大语言模型在应用过程中还存在专业度不足的问题，具体表现为当模型处理用户输入的关于垂直领域的问题时，模型输出的预测答案所包括的垂直领域的内容可能比较少，导致预测答案不符合用户预期。
3、综上可知，现有技术中的大语言模型存在应对垂直领域问题能力不足和训练繁琐耗时等问题。
技术实现思路
1、有鉴于此，本申请的目的在于提供一种垂直领域大语言模型训练方法及相关设备，用于解决现有技术中的大语言模型存在垂直领域问题能力不足和训练繁琐耗时等问题。
2、第一方面，本申请提供了一种垂直领域大语言模型训练方法，应用于微调模型，所述方法包括：
3、获取训练样本集；所述训练样本集包括：通用领域数据样本集、垂直领域数据样本集以及垂直领域续写样本集；
4、所述通用领域数据样本集中样本包括：通用领域问答指令，以及对应于所述通用领域问答指令的输出；所述垂直领域数据样本集中样本包括：垂直领域问答指令，以及对应于所述垂直领域问答指令的输出；所述垂直领域续写样本集中样本包括：垂直领
5、通过所述训练样本集对所述微调模型进行再训练，得到垂直领域大语言模型。
6、优选地，所述获取训练样本集包括：
7、根据预设分配比例，获取所述训练样本集；
8、所述预设分配比例为通用领域数据样本集所占的存储容量、垂直领域数据样本集所占的存储容量以及垂直领域续写样本集所占的存储容量之间的比例。
9、优选地，所述通过所述训练样本集对所述微调模型进行再训练，得到垂直领域大语言模型，包括：
10、根据预设划分比例，将所述训练样本集划分为多个训练样本子集；所述预设划分比例为多个训练样本子集所占的存储容量之间的比例；
11、依次通过多个所述训练样本子集训练所述微调模型并且在训练过程中基于损失函数调整所述微调模型的垂直超参数，直至所述损失函数的损失值进入预设范围，得到所述垂直领域大语言模型。
12、优选地，所述通过所述训练样本集对所述微调模型进行再训练，得到垂直领域大语言模型，包括：
13、通过所述训练样本集多次训练所述微调模型并且在训练过程中基于损失函数调整所述微调模型的垂直超参数，直至所述损失函数的损失值进入预设范围，得到所述垂直领域大语言模型。
14、优选地，所述通过所述训练样本集训练所述微调模型，得到垂直领域大语言模型，包括：
15、基于下述损失函数训练所述微调模型：
16、
17、式中，h(p,q)表示训练样本集或者训练样本子集的损失值；
18、xi表示对应于训练样本集或者训练样本子集中第i个样本的稠密向量；
19、n表示所训练样本集或者训练样本子集中的样本数量。
20、第二方面，本申请提供了一种大语言模型的训练装置，所述装置包括：样本模块和训练模块；
21、所述样本模块，用于获取训练样本集；所述训练样本集包括：通用领域数据样本集、垂直领域数据样本集以及垂直领域续写样本集；
22、所述通用领域数据样本集中样本包括：通用领域问答指令，以及对应于所述通用领域问答指令的输出；所述垂直领域数据样本集中样本包括：垂直领域问答指令，以及对应于所述垂直领域问答指令的输出；所述垂直领域续写样本集中样本包括：垂直领域提示文本和续写指令，以及对应于所述垂直领域提示文本和所述续写指令的续写文本；
23、所述训练模块，用于通过所述训练样本集对所述微调模型进行再训练，得到垂直领域大语言模型。
24、优选地，所述样本模块包括：比例单元；
25、所述比例单元，用于根据预设分配比例，获取所述训练样本集；所述预设分配比例为通用领域数据样本集所占的存储容量、垂直领域数据样本集所占的存储容量以及垂直领域续写样本集所占的存储容量之间的比例。
26、优选地，所述样本模块，还用于根据预设划分比例，将所述训练样本集划分为多个训练样本子集；所述预设划分比例为多个训练样本子集所占的存储容量之间的比例；
27、以及，所述训练模块，还用于依次通过多个所述训练样本子集训练所述微调模型并且在训练过程中基于损失函数调整所述微调模型的垂直超参数，直至所述损失函数的损失值进入预设范围，得到所述垂直领域大语言模型。
28、第三方面，本申请提供了一种电子设备，包括：存储器、处理器，所述存储器上存储有可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现上述的垂直领域大语言模型训练方法。
29、第四方面，本申请提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令被处理器执行时实现上述垂直领域大语言模型训练方法。
30、有益效果：
31、本申请提供了一种垂直领域大语言模型训练方法，应用于微调模型，首先获取训练样本集；所述训练样本集包括：通用领域数据样本集、垂直领域数据样本集以及垂直领域续写样本集；所述通用领域数据样本集中样本包括：通用领域问答指令，以及对应于所述通用领域问答指令的输出；所述垂直领域数据样本集中样本包括：垂直领域问答指令，以及对应于所述垂直领域问答指令的输出；所述垂直领域续写样本集中样本包括：垂直领域提示文本和续写指令，以及对应于所述垂直领域提示文本和所述续写指令的续写文本；通过所述训练样本集对所述微调模型进行再训练，得到垂直领域大语言模型。由上可知，本申请通过直接再训练现有的微调模型，省去了先预训练基座模型然后再训练微调模型的训练过程，节省了训练时间和训练精力；再通过配置科学合理的训练样本集，可以有效地提高模型相对于垂直领域的准确性，使大语言模型输出的预测答案能够包含更多的垂直领域内的内容，使预测答案更加符合用户预期，因此本申请能够解决现有技术中的大语言模型应对垂直领域问题能力不足和训练繁琐耗时等问题。
32、本申请的其他特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本申请而了解。本申请的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
33、为使本申请的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。
本文档来自技高网...【技术保护点】
1.一种垂直领域大语言模型训练方法，其特征在于，应用于微调模型，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，所述获取训练样本集包括：
3.根据权利要求1所述的方法，其特征在于，所述通过所述训练样本集对所述微调模型进行再训练，得到垂直领域大语言模型，包括：
4.根据权利要求1所述的方法，其特征在于，所述通过所述训练样本集对所述微调模型进行再训练，得到垂直领域大语言模型，包括：
5.根据权利要求3或者4所述的方法，其特征在于，所述通过所述训练样本集训练所述微调模型，得到垂直领域大语言模型，包括：
6.一种垂直领域大语言模型的训练装置，其特征在于，所述装置包括：样本模块和训练模块；
7.根据权利要求6所述的装置，其特征在于，所述样本模块包括：比例单元；
8.根据权利要求6所述的装置，其特征在于，所述样本模块，还用于根据预设划分比例，将所述训练样本集划分为多个训练样本子集；所述预设划分比例为多个训练样本子集所占的存储容量之间的比例；
9.一种电子设备，其特征在于，包括：存储器、处
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令被处理器执行时实现上述权利要求1～5任一项所述的垂直领域大语言模型训练方法。
...【技术特征摘要】
1.一种垂直领域大语言模型训练方法，其特征在于，应用于微调模型，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，所述获取训练样本集包括：
3.根据权利要求1所述的方法，其特征在于，所述通过所述训练样本集对所述微调模型进行再训练，得到垂直领域大语言模型，包括：
4.根据权利要求1所述的方法，其特征在于，所述通过所述训练样本集对所述微调模型进行再训练，得到垂直领域大语言模型，包括：
5.根据权利要求3或者4所述的方法，其特征在于，所述通过所述训练样本集训练所述微调模型，得到垂直领域大语言模型，包括：
6.一种垂直领域大语言模型的训练装置，其特征在于，所述装置包括：样本模块和训练模块；
7...
【专利技术属性】
技术研发人员：蔡一平，黄琦敏，刘江，王文杰，陶扬，万谦，谢磊，
申请(专利权)人：武汉智启特人工智能科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。