System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 医疗鉴别诊断方法、装置、电子设备及存储介质制造方法及图纸_技高网

医疗鉴别诊断方法、装置、电子设备及存储介质制造方法及图纸

技术编号:41280161 阅读:7 留言:0更新日期:2024-05-11 09:31
本发明专利技术涉及一种医疗鉴别诊断方法、装置、电子设备及存储介质,该方法包括:获取医疗文本数据,并对医疗文本数据进行筛选,得到大语言模型的中文医疗词典,中文医疗词典用于应用到大语言模型的模型词典中。通过医疗文本数据对大语言模型进行自然语言处理任务的continue预训练,得到医疗大模型。对医疗大模型进行冻结处理,并通过低秩参数对医疗大模型进行微调,以对医疗大模型的下游任务进行对齐,得到医疗鉴别诊断大模型。将当前病历文本作为医疗鉴别诊断大模型的输入,以调用医疗鉴别诊断大模型对当前病历文本进行处理,并输出当前病历文本的鉴别诊断结果。该方法基于大模型使用医疗语料做continue预训练,提高了医疗知识掌握程度和鉴别诊断预测准确度。

【技术实现步骤摘要】

本专利技术涉及医疗,特别是涉及一种医疗鉴别诊断方法、装置、电子设备及存储介质


技术介绍

1、医疗鉴别诊断是医生在诊断过程中经常使用的系统方法,主要用来识别并区分可能导致类似症状的多种疾病或病状。简而言之,鉴别诊断就是指定一个可能的疾病列表,疾病列表中的疾病内容能够解释患者当前的临床表现。由于医生对于其他科室或者专业外的其他医疗知识掌握程度有限,使得人工智能系统能够在一定程度上给予医生一些鉴别诊断列表。

2、目前,现有的医疗鉴别诊断系统方法主要有以下几种,一种是基于规则的专家系统方法,主要是利用专家总结出来的诊断规则构建知识库,然后通过推理引擎进行病症鉴别。还有一种是基于深度学习的算法模型,通过使用卷积神经网络(cnn)或者循环神经网络(rnn)来分析医疗数据,使得模型能够从数据中自动学习特征并推理出对应的诊断内容。还有一种是基于开源大语言模型,通过大语言模型在海量的医疗文本语料库中进行预训练,学习医学语言的通用模式、结构和语义,使得训练后的大语言模型具备很强的医疗知识理解能力和推理能力,最后直接使用prompt构造智能让大模型推理出相应的鉴别诊断结果。但是,基于规则的专家系统方法虽然具备一定的可解释性,但是需要大量的人力参与和规则制定进行维护,且知识覆盖范围有限。基于深度学习的算法模型需要大量的已标注数据集,且最终模型输出的结果质量取决于训练数据的质量。此外,基于开源大模型的方式虽然具有较强的知识理解能力和推理能力,但是大语言模型对于医疗领域的知识掌握程度有限,容易导致最终输出结果存在歧义。

3、综上所述,现有的医疗鉴别诊断方法对于医疗领域知识的掌握程度有限,且医疗鉴别诊断的预测结果准确性较低。


技术实现思路

1、基于此,有必要针对上述技术问题,提供一种对于医疗领域知识的掌握度较好且医疗鉴别诊断的预测结果准确度较高的医疗鉴别诊断方法、装置、电子设备及存储介质。

2、本专利技术提供了一种医疗鉴别诊断方法,所述方法包括:

3、获取医疗文本数据,并对所述医疗文本数据进行筛选,得到大语言模型的中文医疗词典,所述中文医疗词典用于应用到所述大语言模型的模型词典中;

4、通过所述医疗文本数据对所述大语言模型进行自然语言处理任务的continue预训练,得到医疗大模型;

5、对所述医疗大模型进行冻结处理,并通过低秩参数对所述医疗大模型进行微调,以对所述医疗大模型的下游任务进行对齐,得到医疗鉴别诊断大模型;

6、将当前病历文本作为所述医疗鉴别诊断大模型的输入,以调用所述医疗鉴别诊断大模型对所述当前病历文本进行处理,并输出所述当前病历文本的鉴别诊断结果。

7、在其中一个实施例中,所述医疗文本数据至少包括医疗文献、医疗问答、医疗知识图谱以及医疗电子病历;

8、所述获取医疗文本数据,并对所述医疗文本数据进行筛选,得到大语言模型的中文医疗词典,包括:

9、获取所述医疗文献、医疗问答、医疗知识图谱以及医疗电子病历,并从所述医疗文献、医疗问答、医疗知识图谱以及医疗电子病历中筛选出所述中文医疗词典;

10、将所述中文医疗词典作为所述模型词典应用到所述大语言模型中。

11、在其中一个实施例中,所述通过所述医疗文本数据对所述大语言模型进行自然语言处理任务的continue预训练,得到医疗大模型,包括:

12、将所述大语言模型中的其他transformer层进行冻结处理,并通过所述医疗文本数据对所述大语言模型中的新自然语言处理任务的嵌入层进行训练,以提升所述自然语言处理任务与其他任务的医疗语义空间理解;

13、基于所述通过所述医疗文本数据对所述大语言模型中的新自然语言处理任务的嵌入层进行训练,生成所述医疗大模型。

14、在其中一个实施例中,所述对所述医疗大模型进行冻结处理,并通过低秩参数对所述医疗大模型进行微调,以对所述医疗大模型的下游任务进行对齐,得到医疗鉴别诊断大模型,包括:

15、获取所述低秩参数,所述低秩参数为低秩的矩阵参数;

16、对所述医疗大模型进行冻结处理,并调用所述低秩参数通过低秩分解的方式对所述医疗大模型的下游任务进行对齐处理,生成所述医疗鉴别诊断大模型。

17、在其中一个实施例中,所述将当前病历文本作为所述医疗鉴别诊断大模型的输入,以调用所述医疗鉴别诊断大模型对所述当前病历文本进行处理,并输出所述当前病历文本的鉴别诊断结果,包括:

18、获取当前患者的所述当前病历文本,并调用所述医疗鉴别诊断大模型通过新自然语言处理任务的嵌入层以及transformer层对所述当前病历文本进行低秩分解;

19、基于所述调用所述医疗鉴别诊断大模型通过新自然语言处理任务的嵌入层以及transformer层对所述当前病历文本进行低秩分解,获取所述当前病历文本对应的矩阵维度。

20、在其中一个实施例中,所述将当前病历文本作为所述医疗鉴别诊断大模型的输入,以调用所述医疗鉴别诊断大模型对所述当前病历文本进行处理,并输出所述当前病历文本的鉴别诊断结果,还包括:

21、调用所述医疗鉴别诊断大模型根据所述当前病历文本对应的矩阵维度生成所述当前病历文本的鉴别诊断结果。

22、在其中一个实施例中,所述方法还包括:

23、调用所述大语言模型对所述医疗文本数据进行上下文分析,以根据所述医疗文本数据的上下文,对所述医疗文本数据对应的鉴别诊断结果进行预测;

24、基于所述医疗文本数据对应的鉴别诊断结果生成所述自然语言处理任务,并通过所述自然语言处理任务对所述大语言模型进行continue预训练。

25、本专利技术还提供了一种医疗鉴别诊断装置,所述装置包括:

26、数据筛选模块,用于获取医疗文本数据,并对所述医疗文本数据进行筛选,得到大语言模型的中文医疗词典,所述中文医疗词典用于应用到所述大语言模型的模型词典中;

27、模型预训练模块,用于通过所述医疗文本数据对所述大语言模型进行自然语言处理任务的continue预训练,得到医疗大模型;

28、模型微调模块,用于对所述医疗大模型进行冻结处理,并通过低秩参数对所述医疗大模型进行微调,以对所述医疗大模型的下游任务进行对齐,得到医疗鉴别诊断大模型;

29、鉴别诊断预测模块,用于将当前病历文本作为所述医疗鉴别诊断大模型的输入,以调用所述医疗鉴别诊断大模型对所述当前病历文本进行处理,并输出所述当前病历文本的鉴别诊断结果。

30、本专利技术还提供了一种电子设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现如上述任一种所述的医疗鉴别诊断方法。

31、本专利技术还提供了一种计算机存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现如上述任一种所述的医疗鉴别诊断方法。

32、本专利技术还提供了一种计算机程序产品,包括计算机程序,所述本文档来自技高网...

【技术保护点】

1.一种医疗鉴别诊断方法,其特征在于,所述方法包括:

2.根据权利要求1所述的医疗鉴别诊断方法,其特征在于,所述医疗文本数据至少包括医疗文献、医疗问答、医疗知识图谱以及医疗电子病历;

3.根据权利要求1所述的医疗鉴别诊断方法,其特征在于,所述通过所述医疗文本数据对所述大语言模型进行自然语言处理任务的continue预训练,得到医疗大模型,包括:

4.根据权利要求3所述的医疗鉴别诊断方法,其特征在于,所述对所述医疗大模型进行冻结处理,并通过低秩参数对所述医疗大模型进行微调,以对所述医疗大模型的下游任务进行对齐,得到医疗鉴别诊断大模型,包括:

5.根据权利要求4所述的医疗鉴别诊断方法,其特征在于,所述将当前病历文本作为所述医疗鉴别诊断大模型的输入,以调用所述医疗鉴别诊断大模型对所述当前病历文本进行处理,并输出所述当前病历文本的鉴别诊断结果,包括:

6.根据权利要求5所述的医疗鉴别诊断方法,其特征在于,所述将当前病历文本作为所述医疗鉴别诊断大模型的输入,以调用所述医疗鉴别诊断大模型对所述当前病历文本进行处理,并输出所述当前病历文本的鉴别诊断结果,还包括:

7.根据权利要求1至6任一项所述的医疗鉴别诊断方法,其特征在于,所述方法还包括:

8.一种医疗鉴别诊断装置,其特征在于,所述装置包括:

9.一种电子设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的方法的步骤。

10.一种计算机存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。

...

【技术特征摘要】

1.一种医疗鉴别诊断方法,其特征在于,所述方法包括:

2.根据权利要求1所述的医疗鉴别诊断方法,其特征在于,所述医疗文本数据至少包括医疗文献、医疗问答、医疗知识图谱以及医疗电子病历;

3.根据权利要求1所述的医疗鉴别诊断方法,其特征在于,所述通过所述医疗文本数据对所述大语言模型进行自然语言处理任务的continue预训练,得到医疗大模型,包括:

4.根据权利要求3所述的医疗鉴别诊断方法,其特征在于,所述对所述医疗大模型进行冻结处理,并通过低秩参数对所述医疗大模型进行微调,以对所述医疗大模型的下游任务进行对齐,得到医疗鉴别诊断大模型,包括:

5.根据权利要求4所述的医疗鉴别诊断方法,其特征在于,所述将当前病历文本作为所述医疗鉴别诊断大模型的输入,以调用所述医疗鉴别诊断大模型对所述当前病历文本...

【专利技术属性】
技术研发人员:凌鸿顺王实张奇
申请(专利权)人:北京惠每云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1