【技术实现步骤摘要】
本专利技术涉及产科医学，具体涉及一种基于语言模型和神经网络的阴道分娩预测方法及系统。
技术介绍
1、阴道分娩预测是妇产科领域的一个关键问题，其对孕妇和医生具有重要的临床价值。准确预测孕妇是否适合进行阴道分娩对于降低剖宫产率、减少手术风险和并发症发生率、以及提升母婴的生育健康状况具有显著意义。
2、目前，阴道分娩预测主要依赖于传统的机器学习算法，如多因素逻辑回归和支持向量机。孙翠珠等人对剖宫产术后再妊娠阴道分娩的相关因素进行了预测分析，并建立了预测模型，其预测结果显示入院时宫颈bishop评分是影响阴道试产成功的主要因素；龙大坚等人通过多因素非条件logistic回归分析筛选了对剖宫产术后阴道分娩有影响的因素；meyer等人利用几种不同的传统机器学习算法开发了预测剖宫产术后阴道分娩成功的模型；lipschuetz等人采用梯度提升方法，结合多个产妇和胎儿特征来预测阴道分娩的成功性。上述四种预测模型或者预测方法虽然在一定程度上能够对阴道分娩进行预测，但对于处理文本数据的复杂性和异质性方面存在一定的局限性，导致无法有效利用医院积累的大量产科文本数据；忽略了文本数据中的结构信息和语义关联，无法充分挖掘文本中的隐含特征，导致最终的预测结果无法有效辅助医生做出判断，在一定程度上，会影响到医院对医疗资源的配置，降低了医疗服务的质量和效率。
技术实现思路
1、针对现有技术中的上述不足，本专利技术提供的一种基于语言模型和神经网络的阴道分娩预测方法及系统解决了现有方法无法有效利用医院积累的大
2、为了达到上述专利技术目的，本专利技术采用的技术方案为：
3、提供了一种基于语言模型和神经网络的阴道分娩预测方法，其包括以下步骤：
4、s1、采集产妇的医疗文本数据集并进行预处理，得到预处理后的医疗文本数据；
5、s2、构建阴道分娩预测系统并将预处理后的医疗文本数据输入至阴道分娩预测系统进行训练，得到训练后的阴道分娩预测系统；
6、s3、将待预测产妇的医疗文本数据输入至训练后的阴道分娩预测系统，得到对应的预测分数，完成预测。
7、进一步地，步骤s1中的医疗文本数据集包括孕妇的医疗记录、检查报告和其他相关临床文本数据。
8、进一步地，步骤s1中的预处理包括文本数据整合、数据清洗、数据标准化以及采样。
9、进一步地，步骤s2中的阴道分娩预测系统采用串联的大规模语言模型、gnn图神经网络模型、特征融合层和mlp多层感知机；大规模语言模型采用bert预训练语言模型；gnn图神经网络模型包括并联的全局图卷积模块和局部图卷积模块；全局图卷积模块包括串联的全局图卷积层和第一readout层；局部图卷积模块包括串联的局部图卷积层和第二readout层；特征融合层采用注意力机制。
10、进一步地，步骤s2进一步包括：
11、s2-1、将预处理后的医疗文本数据输入至bert预训练语言模型，得到对应的文本特征数据；
12、s2-2、将文本特征数据输入至gnn图神经网络模型，得到全局图表征数据和局部图表征数据；
13、s2-3、将全局图表征数据和局部图表征数据通过注意力机制进行特征融合，得到融合后的特征数据；
14、s2-4、将融合后的特征数据输入至mlp多层感知机，得到最终的预测值；
15、s2-5、根据最终的预测值获取交叉熵损失函数；根据交叉熵损失函数对阴道分娩预测系统的参数进行调整，得到训练后的阴道分娩预测系统。
16、进一步地，步骤s2-2进一步包括：
17、s2-2-1、将文本特征数据输入至全局图卷积层进行l次迭代，得到全局图的每个节点的特征表示；
18、s2-2-2、将文本特征数据输入至局部图卷积层进行l次迭代，得到各局部图的每个节点的特征表示；
19、s2-2-3、将全局图的每个节点的特征表示、各局部图的每个节点的特征表示分别输入至第一readout层、第二readout层，得到对应的全局图表征数据和局部图表征数据。
20、进一步地，步骤s2-2-1和步骤s2-2-2的公式为：
21、
22、其中，h(l+1)、h(l)分别表示第l+1层的节点特征矩阵、第l层的节点特征矩阵，即第l+1层的节点特征表示、第l层的节点特征表示，当l＝0时，h(0)表示输入数据，即文本特征数据，w(l)表示全局图卷积层和局部图卷积层的第l层权重矩阵，表示经过归一化处理的邻接矩阵，σ(·)表示激活函数。
23、进一步地，步骤s2-2-3中的第一readout层为平均池化层，其公式为：
24、
25、其中，hgraph表示全局图表征数据，n表示全局图的节点数量，hi表示全局图中第i个节点的特征表示，∑(·)表示求和函数。
26、步骤s2-2-3中的第二readout层为串联的平均池化层和图卷积层；第二readout层中的平均池化层与第一readout层相同；第二readout层中的图卷积层的公式与步骤s2-2-2的公式相同。
27、进一步地，步骤s2-3的公式为：
28、
29、α＝softmax(score(hgraph,hv))
30、c＝αhgraph+(1-α)hv
31、其中，softmax(·)表示归一化指数函数，hgraph、分别表示全局图表征数据以及全局图表征数据的转置矩阵，hv表示局部图表征数据，watt表示注意力机制的可学习权重矩阵，α表示注意力机制的权重参数，score(hgraph,hv)表示全局图表征数据hgraph和局部图表征数据hv经过注意力机制得到的注意力分数，c表示融合后的特征数据。
32、提供了一种基于语言模型和神经网络的阴道分娩预测系统，其包括特征提取模块、语义信息提取模块、特征融合模块以及预测结果模块；
33、特征提取模块，用于通过bert预训练语言模型对预处理后的医疗文本数据进行特征处理，得到文本特征数据；
34、语义信息提取模块，用于通过gnn图神经网络模型对文本特征数据进行处理，得到全局图表征数据和局部图表征数据；
35、特征融合模块，用于利用注意力机制对全局图表征数据和局部图表征数据进行特征融合，得到融合后的特征数据；
36、预测结果模块，用于通过mlp多层感知机对融合后的特征数据进行处理，得到最终的预测值。
37、本专利技术的有益效果为：本专利技术通过bert预训练语言模型获取产妇的医学文本数据的深层次特征信息，并构建全局图卷积层和局部卷积层来获取全局图表征数据和局部图表征数据，进一步提高了预测结果的准确度，并有效利用医疗领域大量的文本数据，增强本专利技术的适应性和泛化能力，辅助医生做出本文档来自技高网...
【技术保护点】
1.一种基于语言模型和神经网络的阴道分娩预测方法，其特征在于：包括以下步骤：
2.根据权利要求1所述的基于语言模型和神经网络的阴道分娩预测方法，其特征在于：所述步骤S1中的医疗文本数据集包括孕妇的医疗记录、检查报告和其他相关临床文本数据。
3.根据权利要求1所述的基于语言模型和神经网络的阴道分娩预测方法，其特征在于：所述步骤S1中的预处理包括文本数据整合、数据清洗、数据标准化以及采样。
4.根据权利要求1所述的基于语言模型和神经网络的阴道分娩预测方法，其特征在于：所述步骤S2中的阴道分娩预测系统采用串联的大规模语言模型、GNN图神经网络模型、特征融合层和MLP多层感知机；所述大规模语言模型采用Bert预训练语言模型；所述GNN图神经网络模型包括并联的全局图卷积模块和局部图卷积模块；所述全局图卷积模块包括串联的全局图卷积层和第一readout层；所述局部图卷积模块包括串联的局部图卷积层和第二readout层；所述特征融合层采用注意力机制。
5.根据权利要求4所述的基于语言模型和神经网络的阴道分娩预测方法，其特征在于：所述步骤S2进一步
6.根据权利要求5所述的基于语言模型和神经网络的阴道分娩预测方法，其特征在于：所述步骤S2-2进一步包括：
7.根据权利要求6所述的基于语言模型和神经网络的阴道分娩预测方法，其特征在于：所述步骤S2-2-1和步骤S2-2-2的公式为：
8.根据权利要求7所述的基于语言模型和神经网络的阴道分娩预测方法，其特征在于：所述步骤S2-2-3中的第一readout层为平均池化层，其公式为：
9.根据权利要求5所述的基于语言模型和神经网络的阴道分娩预测方法，其特征在于：所述步骤S2-3的公式为：
10.一种基于权利要求1至9任一所述的基于语言模型和神经网络的阴道分娩预测方法的预测系统，其特征在于：包括特征提取模块、语义信息提取模块、特征融合模块以及预测结果模块；
...【技术特征摘要】
1.一种基于语言模型和神经网络的阴道分娩预测方法，其特征在于：包括以下步骤：
2.根据权利要求1所述的基于语言模型和神经网络的阴道分娩预测方法，其特征在于：所述步骤s1中的医疗文本数据集包括孕妇的医疗记录、检查报告和其他相关临床文本数据。
3.根据权利要求1所述的基于语言模型和神经网络的阴道分娩预测方法，其特征在于：所述步骤s1中的预处理包括文本数据整合、数据清洗、数据标准化以及采样。
4.根据权利要求1所述的基于语言模型和神经网络的阴道分娩预测方法，其特征在于：所述步骤s2中的阴道分娩预测系统采用串联的大规模语言模型、gnn图神经网络模型、特征融合层和mlp多层感知机；所述大规模语言模型采用bert预训练语言模型；所述gnn图神经网络模型包括并联的全局图卷积模块和局部图卷积模块；所述全局图卷积模块包括串联的全局图卷积层和第一readout层；所述局部图卷积模块包括串联的局部图卷积层和第二readout层；所述特...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。