基于制造技术

本发明专利技术提供了基于

【技术实现步骤摘要】
基于LLM智能体架构的医疗服务方法、装置、设备及介质


[0001]本专利技术涉及医疗服务
，具体涉及基于
LLM
智能体架构的医疗服务方法
、
装置
、
设备及介质
。

技术介绍

[0002]大型语言模型
(
简称：
LLM
，英文：
Large Language Model)
是一种语言模型，由具有许多模型参数
(
通常数亿或更多
)
的神经网络模型组成，使用自监督学习或半监督学习对大量未标记文本进行预训练，目前
LLM
模型架构主要是基于
Transformer
结构的生成式语音模型；目前热度较高
。
[0003]当前，我国数字技术基础设施和智能化的高速发展与人口老龄化程度的持续深化形成一对矛盾；在医疗服务领域，随着人口老龄化，现市面上的医疗服务装置的操作过于智能复杂，不便于老年人使用；并且医院大厅服务台的工作人员也无法同时为多个老年人进行医疗服务的办理，还存在增加人工成本的问题
。
[0004]有鉴于此，提出本申请
。

技术实现思路

[0005]有鉴于此，本专利技术的目的在于提供基于
LLM
智能体架构的医疗服务方法
、
装置
、
设备及介质，能够有效解决现有技术中的医疗服务装置的操作过于智能复杂，不便于老年人使用；并且医院大厅服务台的工作人员也无法同时为多个老年人进行医疗服务的办理，还存在增加人工成本的问题
。
[0006]本专利技术公开了基于
LLM
智能体架构的医疗服务方法
,
包括：
[0007]获取用户输入的指令文本，将预设的提示与所述指令文本进行拼接，并调用训练好的微调
LLM
模型对拼接后的指令文本进行分析处理，生成执行指令文本，其中，所述执行指令文本包括指令类型
、
指令中提供的已知信息和执行指令的代码；
[0008]从所述执行指令文本中分离出所述执行指令的代码，调用沙箱对所述执行指令的代码进行处理，生成
json
格式的处理结果，并判断所述处理结果是否出错；
[0009]若否，从所述执行指令文本中分离出所述指令类型，当判断到所述指令类型为门诊挂号，且所述处理结果的
code
密码为0时，生成成功提示，结束指令执行；
[0010]当判断到所述指令类型为查询报告，且所述处理结果的
code
密码为0时，展示所述处理结果中对应的报告内容，结束指令执行；
[0011]当判断到所述指令类型为知识问答，且所述处理结果的
code
密码为0时，展示所述处理结果中对应的问答结果，结束指令执行；
[0012]若是，生成出错提示，结束指令执行
。
[0013]优选地，所述指令类型包括门诊挂号
、
查询报告
、
知识问答，所述指令中提供的已知信息包括科室
、
检查项目
、
疾病名称，所述执行指令的代码为
Python
代码
。
[0014]优选地，在调用训练好的微调
LLM
模型对拼接后的指令文本进行分析处理之前，还
包括：
[0015]根据预设的知识图谱知识库进行自动构建处理，针对所述执行指令文本的每一类指令预设多个不同的指令文本模板，生成指令微调训练数据集；
[0016]构建一个基础
LLM
模型，并使用
QLoRA
方法在预设算力下对所述基础
LLM
模型进行微调处理，并根据所述指令训练数据集对所述基础
LLM
模型进行微调训练，生成微调
LLM
模型，其中，所述基础
LLM
模型的模型参数量小于
10B。
[0017]优选地，所述指令微调训练数据集中的每一条训练数据的格式定义为一个三元组
(prompt,input,output)
，其中，
prompt
为指令提示
,input
为输入的问题文本
,output
为期望模型返回的结果
。
[0018]优选地，构建一个基础
LLM
模型，并使用
QLoRA
方法在预设算力下对所述基础
LLM
模型进行微调处理，并根据所述指令训练数据集对所述基础
LLM
模型进行微调训练，生成微调
LLM
模型，具体为：
[0019]构建一个基础
LLM
模型，锁定所述基础
LLM
模型的权重；
[0020]根据所述基础
LLM
模型和所述权重构建并初始化
LoRA
模型，重复将所述指令微调训练数据集中的指令提示和输入的问题文本进行拼接，并将拼接后的文本输入所述
LoRA
模型中；
[0021]计算所述
LoRA
模型输出与所述期望模型返回的结果的损失值，并根据所述损失值调整所述
LoRA
模型的权重，直至所述损失值达到预设值时，生成微调
LLM
模型
。
[0022]优选地，从所述执行指令文本中分离出所述执行指令的代码，调用沙箱对所述执行指令的代码进行处理，生成
json
格式的处理结果，具体为：
[0023]从所述执行指令文本中分离出所述执行指令的代码，通过
HTTP API
将所述执行指令的代码传入所述沙箱中进行处理，生成
json
格式的处理结果，其中，所述沙箱使用
Jupyter
‑
notebook
执行环境
。
[0024]本专利技术还公开了基于
LLM
智能体架构的医疗服务装置
,
包括：
[0025]执行指令文本生成单元，用于获取用户输入的指令文本，将预设的提示与所述指令文本进行拼接，并调用训练好的微调
LLM
模型对拼接后的指令文本进行分析处理，生成执行指令文本，其中，所述执行指令文本包括指令类型
、
指令中提供的已知信息和执行指令的代码；
[0026]处理结果生成单元，用于从所述执行指令文本中分离出所述执行指令的代码，调用沙箱对所述执行指令的代码进行处理，生成
json
格式的处理结果，并判断所述处理结果是否出错；
[0027]门诊挂号处理单元，用于从所述执行指令文本中分离出所述指令类型，当判断到所述指令类型为门诊挂号，且所述处理结果的
code<本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
基于
LLM
智能体架构的医疗服务方法
,
其特征在于，包括：获取用户输入的指令文本，将预设的提示与所述指令文本进行拼接，并调用训练好的微调
LLM
模型对拼接后的指令文本进行分析处理，生成执行指令文本，其中，所述执行指令文本包括指令类型
、
指令中提供的已知信息和执行指令的代码；从所述执行指令文本中分离出所述执行指令的代码，调用沙箱对所述执行指令的代码进行处理，生成
json
格式的处理结果，并判断所述处理结果是否出错；若否，从所述执行指令文本中分离出所述指令类型，当判断到所述指令类型为门诊挂号，且所述处理结果的
code
密码为0时，生成成功提示，结束指令执行；当判断到所述指令类型为查询报告，且所述处理结果的
code
密码为0时，展示所述处理结果中对应的报告内容，结束指令执行；当判断到所述指令类型为知识问答，且所述处理结果的
code
密码为0时，展示所述处理结果中对应的问答结果，结束指令执行；若是，生成出错提示，结束指令执行
。2.
根据权利要求1所述的基于
LLM
智能体架构的医疗服务方法
,
其特征在于，所述指令类型包括门诊挂号
、
查询报告
、
知识问答，所述指令中提供的已知信息包括科室
、
检查项目
、
疾病名称，所述执行指令的代码为
Python
代码
。3.
根据权利要求1所述的基于
LLM
智能体架构的医疗服务方法
,
其特征在于，在调用训练好的微调
LLM
模型对拼接后的指令文本进行分析处理之前，还包括：根据预设的知识图谱知识库进行自动构建处理，针对所述执行指令文本的每一类指令预设多个不同的指令文本模板，生成指令微调训练数据集；构建一个基础
LLM
模型，并使用
QLoRA
方法在预设算力下对所述基础
LLM
模型进行微调处理，并根据所述指令训练数据集对所述基础
LLM
模型进行微调训练，生成微调
LLM
模型，其中，所述基础
LLM
模型的模型参数量小于
10B。4.
根据权利要求3所述的基于
LLM
智能体架构的医疗服务方法
,
其特征在于，所述指令微调训练数据集中的每一条训练数据的格式定义为一个三元组
(prompt,input,output)
，其中，
prompt
为指令提示
,input
为输入的问题文本
,output
为期望模型返回的结果
。5.
根据权利要求4所述的基于
LLM
智能体架构的医疗服务方法
,
其特征在于，构建一个基础
LLM
模型，并使用
QLoRA
方法在预设算力下对所述基础
LLM
模型进行微调处理，并根据所述指令训练数据集对所述基础
L...

【专利技术属性】
技术研发人员：施建安，关涛，赵友平，孙志伟，
申请(专利权)人：厦门市易联众易惠科技有限公司，
类型：发明
国别省市：