【技术实现步骤摘要】
基于GPT-2模型的中文电子病历实体识别方法
本专利技术涉及中文语言处理和识别
，具体涉及一种基于GPT-2模型的中文电子病历实体识别方法。
技术介绍
近年来，在国家政策的支持与驱动下，在互联网、大数据、人工智能等前沿技术的支撑下，智慧医疗进入飞速发展时期。国家新一代人工智能、脑科学与类脑研究重大专项逐步启动实施，智慧医疗科技研究与产业发展步入新的阶段。同时随着经济的发展，人们对自己的健康和社会所能提供的医疗服务越来越关注。目前，有限的医疗资源和医疗水平逐渐无法满足人们看病问诊的需求。例如，针对电子病历中的文本：“患者出现发热及左下腹痛，行CT检查示胆总管结石”。在这句话中，“CT”是医学检查方法，“发热”和“左下腹痛”是患者症状，“胆总管结石”是确诊疾病。这三者在实体识别中被称为命名实体，这三个实体之间的关系是“发热”和“左下腹痛”确定了检查项目为“CT”，“CT”检查证实了“胆总管结石”的发生，也就是“胆总管结石”表现为“发热”和“左下腹痛”并被“CT”这一医学检查方式得到了证实。从电子病历中通过实体识别得到的这些...
【技术保护点】
1.基于GPT-2模型的中文电子病历实体识别方法，其特征在于，利用GPT-2预训练模型提取电子病例的特征向量，再从CRF模型作为出口得到识别概率，最终得到中文电子病例的命名实体，所述方法包括如下步骤：/n1)将中文电子病历的数据分为训练集和测试集两个部分，并对两个部分的数据进行统一标注，标注后的数据包含原始中文电子病历和实体标注；/n1.1)设定标签的实体类别有：身体部位，症状/体征，检查/检验和疾病/诊断；/n1.2)设立多个标注小组，分别对所述训练集和测试集的所有病历依据以上实体类别人工标注得到实验的训练集和测试集，标注结果第一列为实体词，第二列为该词在病历中的开始位置...
【技术特征摘要】
1.基于GPT-2模型的中文电子病历实体识别方法，其特征在于，利用GPT-2预训练模型提取电子病例的特征向量，再从CRF模型作为出口得到识别概率，最终得到中文电子病例的命名实体，所述方法包括如下步骤：
1)将中文电子病历的数据分为训练集和测试集两个部分，并对两个部分的数据进行统一标注，标注后的数据包含原始中文电子病历和实体标注；
1.1)设定标签的实体类别有：身体部位，症状/体征，检查/检验和疾病/诊断；
1.2)设立多个标注小组，分别对所述训练集和测试集的所有病历依据以上实体类别人工标注得到实验的训练集和测试集，标注结果第一列为实体词，第二列为该词在病历中的开始位置，第三列为该词在病历中的结束位置，最后一列为实体类别；
1.3)中文电子病历的原始数据为x＝(x1,x2,x3,...,xn)，实体标注为y＝(y1,y2,y3,...,yn)，其中，x是病历原始文本，y是与病历原始文本相对应并等长的实体类别标签，n为相对应的数据序号；
1.4)输出的标签文本为身体部位，症状/体征，检查/检验和疾病/诊断，标签符号为P，S，T，D的形式，简称PSTD标签；
2)以GPT-2预训练模型为基础，引入CRF模型，建立基于GPT2-CRF的中文电子病历实体识别模型，使用训练集数据训练，得到训练后的中文电子病历实体识别模型；
2.1)下载GPT-2预训练模型，通过GPT-2预训练模型获得文本的输入语义表示同时进行有监督训练，最后将结果输入概率最大标签序列；
2.2)定义语言模型的预测值为p(sn-k,...,sn|s1,s2,...,sn-k-1)，其中s代表原始数据的预测结果，k代表原始数据的序号偏移值，n代表预测值在原始数据中的编号；
2.3)通过使用CRF模型方法估计得到识别概率也就是最终的有监督任务运行结果p(output|in...
【专利技术属性】
技术研发人员：朱国胜，吴善超，刘飞鸿，祁小云，吴梦宇，
申请(专利权)人：武汉鸿名科技有限公司，湖北大学，明理医疗科技武汉有限公司，赛尔网络有限公司，
类型：发明
国别省市：湖北;42
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。