一种基于混合专家模型对体检报告实验室检查解读的方法技术

技术编号:43135067 阅读:22 留言:0更新日期:2024-10-29 17:40
本发明专利技术公开了一种基于混合专家模型对体检报告实验室检查解读的方法,涉及语义分析技术领域;其包括如下步骤,步骤S1:构建获得体检实验室检查问答数据集和体检报告实验室检查领域知识图谱;步骤S2:构建获得基于多轮对话的混合专家模型;步骤S3:构建获得中文医疗多轮对话指令数据集,基于中文医疗多轮对话指令数据集和混合低秩自适应算法对混合专家模型微调获得微调后的混合专家模型;步骤S4:基于思维链对微调后的混合专家模型提示微调,获得提示微调后的混合专家模型;步骤S5:将体检报告输入至提示微调后的混合专家模型,获得实验室检查解读结果。其通过步骤S1至步骤S5等,实现体检报告实验室检查的辅助解读。

【技术实现步骤摘要】

本专利技术涉及语义分析,尤其涉及一种基于混合专家模型对体检报告实验室检查解读的方法


技术介绍

1、1991年,schmidhuber于neural computation发表论文,提出快速权重编程器,使用前馈神经网络,通过梯度下降学习,等价于线性化自注意力的transformer。2017年谷歌和多伦多大学联合提出了由编码器和解码器部分组成的原始transformer架构,为后续transformer大模型的发展奠定了基础。2020年,openai公司推出了gpt-3,展示出了优秀的语言理解能力。2023年3月,openai最新发布的超大规模多模态预训练大模型gpt-4,具备了多模态理解与多类型内容生成能力。2023年6月,百川智能推出首款70亿参数量中英文语言模型baichuan-7b,将大模型引入中文语言场景,开启了中国大模型新纪元,弥补了国内高品质开源商业模型的不足,同年9月,发布了baichuan2。2024年1月,百川智能分发布baichuan 3,构建了超过千亿token的医疗数据集进行训练,因此baichuan 3具备较好的医学知识水平,在本文档来自技高网...

【技术保护点】

1.一种基于混合专家模型对体检报告实验室检查解读的方法,其特征在于:包括如下步骤,步骤S1:构建获得体检实验室检查问答数据集和体检报告实验室检查领域知识图谱;步骤S2:构建获得基于多轮对话的混合专家模型;步骤S3:构建获得中文医疗多轮对话指令数据集,基于中文医疗多轮对话指令数据集和混合低秩自适应算法对混合专家模型微调获得微调后的混合专家模型;步骤S4:基于思维链对微调后的混合专家模型提示微调,获得提示微调后的混合专家模型;步骤S5:将体检报告输入至提示微调后的混合专家模型,获得实验室检查解读结果。

2.根据权利要求1所述的一种基于混合专家模型对体检报告实验室检查解读的方法,其...

【技术特征摘要】

1.一种基于混合专家模型对体检报告实验室检查解读的方法,其特征在于:包括如下步骤,步骤s1:构建获得体检实验室检查问答数据集和体检报告实验室检查领域知识图谱;步骤s2:构建获得基于多轮对话的混合专家模型;步骤s3:构建获得中文医疗多轮对话指令数据集,基于中文医疗多轮对话指令数据集和混合低秩自适应算法对混合专家模型微调获得微调后的混合专家模型;步骤s4:基于思维链对微调后的混合专家模型提示微调,获得提示微调后的混合专家模型;步骤s5:将体检报告输入至提示微调后的混合专家模型,获得实验室检查解读结果。

2.根据权利要求1所述的一种基于混合专家模型对体检报告实验室检查解读的方法,其特征在于:在所述步骤s1中,依据体检报告实验室检查中的常见问题,结合开源中文医疗数据集和医学检验职称考试知识库,组合构建获得体检实验室检查问答数据集和体检报告实验室检查领域知识图谱。

3.根据权利要求1所述的一种基于混合专家模型对体检报告实验室检查解读的方法,其特征在于:在所述步骤s2中,按照体检实验室检查的五个门类,构建获得五个子专家模型,设置门控网络,添加多轮对话模块,构建获得专家网络+门控网络+多轮对话模块的混合专家模型,所述专家网络包括常规检查专家、生化检查专家、免疫检查专家、微生物检...

【专利技术属性】
技术研发人员:韩艳鑫韩磊梁春花
申请(专利权)人:山东第一医科大学附属省立医院山东省立医院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1