一种基于大语言模型的处方智能生成方法技术

技术编号:41206254 阅读:46 留言:0更新日期:2024-05-07 22:32
本发明专利技术公开了一种基于大语言模型的处方智能生成方法,属于医学自然语言处理领域。本发明专利技术通过利用先进的自然语言处理技术和深度学习模型,结合医药知识库,进行大规模数据训练,实现对处方的智能生成。该方法主要采用迁移学习的方法利用大语言模型训练一个准确性好、适用性强的RoBERTa模型。由于医疗处方生成的数据量较小,训练出来的模型往往容易过拟合,本方法通过迁移学习,训练得到大预言模型,一定程度上改进了训练得到模型在处方生成任务上的表现。本发明专利技术能够根据患者症状、体质特征和疾病诊断,快速、准确地生成个性化的处方结果,为医药临床实践提供了有力的辅助工具,具有广阔的应用前景。

【技术实现步骤摘要】

本专利技术涉及一种基于大语言模型的处方智能生成方法,属于医学自然语言处理领域。


技术介绍

1、近年来,随着现代医学的不断发展,人工智能技术在医疗领域展现出了巨大的潜力。用于医疗影像的分析,如ct扫描、mri和x光片;监测患者的健康状况,从而提供个性化的健康建议;医疗机器人的应用,用于手术、康复和护理等领域。如今,自然语言处理技术在医学领域的应用也日益受到关注。医学文本的处理和分析对于辅助医师进行诊断和治疗决策具有重要意义。自然语言处理技术的主要目的是从各种医学诊断文本中自动提取出关键信息,帮助医师更快、更准确地根据诊断给出处方结果,从而提高诊断效率。然而,医学文本相对于一般文本而言,具有更多的专业术语、复杂的句法结构和丰富的语义信息,使得医学文本处理任务更加具有挑战性。

2、随着深度学习在自然语言处理中的广泛应用,医学文本处理得到了快速的发展。循环神经网络(rnn)、长短时记忆网络(lstm)和transformer等模型的出现,让深度学习模型具备了高速度、高精度和全自动的特点。这些方法通常需要大量的标注数据和计算资源来训练复杂的模型,如ber本文档来自技高网...

【技术保护点】

1.一种基于大语言模型的处方智能生成方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于大语言模型的处方智能生成方法,其特征在于,所述步骤1中,所述医疗诊断处方数据包括患者的病历、医嘱、处方信息。

3.根据权利要求2所述的一种基于大语言模型的处方智能生成方法,其特征在于,所述步骤2具体包括:使用自然语言处理工具Python中的Gensim库对医疗数据进行分词、去除停用词预处理,然后使用Word2Vec词嵌入方法进行模型训练,为后续模型提供基础,其中,Word2Vec模型中,主要有Skip-Gram和CBOW两种训练模型,Skip-Gram是给定当前值...

【技术特征摘要】

1.一种基于大语言模型的处方智能生成方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于大语言模型的处方智能生成方法,其特征在于,所述步骤1中,所述医疗诊断处方数据包括患者的病历、医嘱、处方信息。

3.根据权利要求2所述的一种基于大语言模型的处方智能生成方法,其特征在于,所述步骤2具体包括:使用自然语言处理工具python中的gensim库对医疗数据进行分词、去除停用词预处理,然后使用word2vec词嵌入方法进行模型训练,为后续模型提供基础,其中,word2vec模型中,主要有skip-gram和cbow两种训练模型,skip-gram是给定当前值来预测上下文;而cbow是给定上下文,来预测当前值,它们目标函数如下:

4.根据权利要求3所述的一种基于大语言模型的处方智能生成方法,其特征在于,所述步骤4具体包括:利用通用中文语料对roberta模型进行预训练,roberta使用了transformer的多头自注意力机制和前馈神经网络,这些层的计算公式与标准transformer相似;给定输入序列x={x1,x2,...,xn},通过...

【专利技术属性】
技术研发人员:曹黎俊张云飞蔡占毅
申请(专利权)人:江苏济远医疗科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1