医疗大语言模型训练方法、装置、电子设备及存储介质制造方法及图纸

本申请提供一种医疗大语言模型训练方法、装置、电子设备及存储介质，所述方法包括：构建预训练数据集以及微调指令集，所述预训练数据集包括通用文本数据以及医疗文本数据，所述微调指令集包括单轮指令集以及多轮指令集；利用所述通用文本数据以及所述医疗文本数据对通用大语言模型进行继续预训练，得到医疗大语言模型；根据所述微调指令集，对所述医疗大语言模型进行微调训练，将微调训练完成的医疗大语言模型作为待使用的目标医疗大语言模型。可以提高目标医疗大语言模型在医学数据上的性能，能够准确理解和生成医疗相关数据，为医疗行业提供智能化的医疗问答、诊断支持和医学知识等信息服务，提高诊疗效率和医疗服务质量。

【技术实现步骤摘要】

本申请涉及医疗数据，具体而言，涉及一种医疗大语言模型训练方法、装置、电子设备及存储介质。

技术介绍

1、在人工智能和深度学习领域，大型自然语言处理模型已在多个应用领域中取得显著成功，大型自然语言处理模型涉及自然语言处理(natural language processing,nlp)、对话系统、文本生成和理解等。这些模型通过从大规模文本数据中学习，能够理解、处理和生成自然语言，因此，大型自然语言处理模型被广泛应用于各种任务中。

2、目前，大型自然语言处理模型通常是在大量的通用文本数据上进行训练的，但是在应用于特定的垂直领域时，例如医疗领域时，其性能往往受到限制。使得在理解和生成医疗相关数据时出现困难，因此，目前的大型自然语言处理模型在医疗领域中缺乏足够的准确性和可靠性。

技术实现思路

1、本申请的目的在于，针对上述现有技术中的不足，提供一种医疗大语言模型训练方法、装置、电子设备及存储介质，提高医疗大语言模型的准确性。

2、为实现上述目的，本申请实施例采用的技术方案如下：

3本文档来自技高网...

【技术保护点】

1.一种医疗大语言模型训练方法，其特征在于，所述方法包括：

2.根据权利要求1所述的医疗大语言模型训练方法，其特征在于，所述将所述微调指令集输入至所述医疗大语言模型进行微调训练，将微调训练完成的模型作为目标医疗大语言模型，包括：

3.根据权利要求1所述的医疗大语言模型训练方法，其特征在于，所述构建预训练数据集以及微调指令集，包括：

4.根据权利要求3所述的医疗大语言模型训练方法，其特征在于，所述对所述初始微调指令集进行优化处理，得到所述微调指令集，包括：

5.根据权利要求4所述的医疗大语言模型训练方法，其特征在于，所述对所述初始微调指令集中...

【技术特征摘要】

1.一种医疗大语言模型训练方法，其特征在于，所述方法包括：

2.根据权利要求1所述的医疗大语言模型训练方法，其特征在于，所述将所述微调指令集输入至所述医疗大语言模型进行微调训练，将微调训练完成的模型作为目标医疗大语言模型，包括：

3.根据权利要求1所述的医疗大语言模型训练方法，其特征在于，所述构建预训练数据集以及微调指令集，包括：

4.根据权利要求3所述的医疗大语言模型训练方法，其特征在于，所述对所述初始微调指令集进行优化处理，得到所述微调指令集，包括：

5.根据权利要求4所述的医疗大语言模型训练方法，其特征在于，所述对所述初始微调指令集中的指令数据进行去重处理，得到去重后的微调指令集，包括：

6.根据权利要求4所述的医疗大语言模型训练方法，其特征在...

【专利技术属性】
技术研发人员：许祥军，陈旭，刘宁，侯健，宋晓霞，洪平，高玉杰，刘鸣谦，赵大平，黄智勇，
申请(专利权)人：卫宁健康科技集团股份有限公司，
类型：发明
国别省市：