基于交叉注意神经网络的再就医信息预测方法及系统技术方案

本公开提出了基于交叉注意神经网络的再就医信息预测方法及系统，获取患者的历史电子健康记录数据；将每个患者的多变量的时间标记序列的一次就医信息记录拆分为诊断信息和治疗信息，并分别对诊断信息和治疗信息进行降维表示；利用双向神经网络处理降维后的诊断信息得到对应的诊断信息隐藏状态，利用双向神经网络处理降维后的治疗信息得到对应的治疗信息隐藏状态；利用交叉注意力机制将历史诊断信息和历史治疗信息整合为能够表示患者当前状态的上下文向量；在得到了患者的疾病诊断信息和治疗信息之后，采用连接的方式将上下文向量这两部分信息合并成一个表示患者整体信息的表示向量；将表示向量放入到最终输出层来预测就医信息。

Forecasting Method and System of Re-medical Information Based on Cross Attention Neural Network

【技术实现步骤摘要】
基于交叉注意神经网络的再就医信息预测方法及系统
本公开涉及信息处理
，特别是涉及基于交叉注意神经网络的再就医信息预测方法及系统。
技术介绍
分析患者的健康信息是为了帮助人们尽早预防疾病，指导治疗方法。因此，通过患者的历史电子健康记录(ElectronicHealthRecord，EHR)数据预测下一次的医疗编码(包括疾病和治疗方式)是一个很重要的任务。如何对连续EHR数据的时间性和高维度进行建模并解释预测结果是完成这个任务的关键性问题。专利技术人在研究中发现，现有的方法是通过使用循环神经网络(RecurrentNeuralNetwork，RNN)对EHR数据建模并利用注意力机制提供可解释性来解决这些问题。以往的模型将治疗和诊断信息混合为就医信息，两种信息不加区别的作为输入，这意味着诊断和治疗的内容是同一类的。实际中，诊断的信息是疾病，治疗的信息是药物等，这两者是不同的内容。而且病人治疗方式的有效性通常是通过下一次疾病是否好转来判断，而疾病的严重程度也可以通过治疗方式的不同有所体现。如果合并在一起，两部分信息会相互干扰，不能很好地分析和利用这种相互关系。此外，治疗信息中可能还包含有某些患者曾经患过的疾病的治疗药物。混合诊断和治疗信息会干扰对病人本次疾病的判断，影响预测效果。
技术实现思路
本说明书实施方式的目的是提供基于交叉注意神经网络的再就医信息预测方法，本公开将诊断信息和药物信息分开处理，保证了两部分信息的完整性和独立性，利用两部分信息的相互关系提高了再就医信息预测结果的准确性。本说明书实施方式提供基于交叉注意神经网络的再就医信息预测方法，通过以下技术方案实现：包括：获取患者的历史电子健康记录数据，将每个患者的所述历史电子健康记录数据表示为多变量的时间标记序列；将每个患者的多变量的时间标记序列的一次就医信息记录拆分为诊断信息和治疗信息，并分别对诊断信息和治疗信息进行降维表示；利用双向神经网络处理降维后的诊断信息得到对应的诊断信息隐藏状态，利用双向神经网络处理降维后的治疗信息得到对应的治疗信息隐藏状态；利用交叉注意力机制将历史诊断信息和历史治疗信息整合为能够表示患者当前状态的上下文向量；在得到了患者的疾病诊断信息和治疗信息之后，采用连接的方式将上下文向量这两部分信息合并成一个表示患者整体信息的表示向量；将表示向量放入到最终输出层来预测就医信息。本说明书实施方式提供基于交叉注意神经网络的再就医信息预测系统，通过以下技术方案实现：包括：数据降维层，被配置为：获取患者的历史电子健康记录数据，将每个患者的所述历史电子健康记录数据表示为多变量的时间标记序列；将每个患者的多变量的时间标记序列的一次就医信息记录拆分为诊断信息和治疗信息，并分别对诊断信息和治疗信息进行降维表示；双向RNN处理层，被配置为：利用双向神经网络处理降维后的诊断信息得到对应的诊断信息隐藏状态，利用双向神经网络处理降维后的治疗信息得到对应的治疗信息隐藏状态；交叉注意机制层，被配置为：利用交叉注意力机制将历史诊断信息和历史治疗信息整合为能够表示患者当前状态的上下文向量；合并信息层，被配置为：在得到了患者的疾病诊断信息和治疗信息之后，采用连接的方式将上下文向量这两部分信息合并成一个表示患者整体信息的表示向量；预测层，被配置为：将表示向量放入到最终输出层来预测就医信息。本说明书实施方式提供基于交叉注意神经网络的再就医信息预测装置，通过以下技术方案实现：包括：数据采集模块、降维模块、双向RNN模块、交叉注意机制模块、信息合并模块、预测模块；数据采集模块，被配置为：获取患者的历史电子健康记录数据，将每个患者的所述历史电子健康记录数据表示为多变量的时间标记序列；降维模块，被配置为：将每个患者的多变量的时间标记序列的一次就医信息记录拆分为诊断信息和治疗信息，并分别对诊断信息和治疗信息进行降维表示；双向RNN模块，被配置为：利用双向神经网络处理降维后的诊断信息得到对应的诊断信息隐藏状态，利用双向神经网络处理降维后的治疗信息得到对应的治疗信息隐藏状态；交叉注意机制模块，被配置为：利用交叉注意力机制将历史诊断信息和历史治疗信息整合为能够表示患者当前状态的上下文向量；信息合并模块，被配置为：在得到了患者的疾病诊断信息和治疗信息之后，采用连接的方式将上下文向量这两部分信息合并成一个表示患者整体信息的表示向量；预测模块，被配置为：将表示向量放入到最终输出层来预测就医信息。与现有技术相比，本公开的有益效果是：本公开能够精准的预测患者的下一次就医信息，并且具有良好的可解释性。本公开能将诊断信息和药物信息分开处理，保证了两部分信息的完整性和独立性，利用两部分信息的相互关系提高了预测准确性。附图说明构成本公开的一部分的说明书附图用来提供对本公开的进一步理解，本公开的示意性实施例及其说明用于解释本公开，并不构成对本公开的不当限定。图1为本公开实施例子的高级逻辑概述图；图2为本公开实施例子的RNNd和RNNt的结构图；图3为本公开实施例子的每个内部LSTM单元结构图。具体实施方式应该指出，以下详细说明都是例示性的，旨在对本公开提供进一步的说明。除非另有指明，本文使用的所有技术和科学术语具有与本公开所属
的普通技术人员通常理解的相同含义。需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本公开的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。将诊断和治疗分开能够更好的把握患者的病情变化，分析治疗过程。同时还能协助医生找出历史信息中重要的诊断和有效的治疗方式。因此，将诊断和治疗分开更好的把握患者的病情变化，分析治疗过程，协助医生找出历史信息中重要的诊断和有效的治疗方式成为本领域一个急需解决的问题。实施例子一该实施例子针对将诊断和治疗分开更好的把握患者的病情变化，分析治疗过程，协助医生找出历史信息中重要的诊断和有效的治疗方式提出了一种基于交叉注意机制的医学信息预测方法，具体来说：一是将将数据进行处理，得到需要的降维后的数据。二是通过双向RNN对数据进行相应的处理。三是将处理后得到的数据进行整合得到最后的结果。具体的，包括：获取患者的历史电子健康记录数据，将每个患者的所述历史电子健康记录数据表示为多变量的时间标记序列；将每个患者的多变量的时间标记序列的一次就医信息记录拆分为诊断信息和治疗信息，并分别对诊断信息和治疗信息进行降维表示；利用双向神经网络处理降维后的诊断信息得到对应的诊断信息隐藏状态，利用双向神经网络处理降维后的治疗信息得到对应的治疗信息隐藏状态；利用交叉注意力机制将历史诊断信息和历史治疗信息整合为能够表示患者当前状态的上下文向量；在得到了患者的疾病诊断信息和治疗信息之后，采用连接的方式将上下文向量这两部分信息合并成一个表示患者整体信息的表示向量；将表示向量放入到最终输出层来预测就医信息。关于所采集的数据，每个患者的历史就医信息可以表示为按时间顺序排列的就医信息序列。假设Cd是唯一诊断代码的数量，Ct是唯一治疗代码的数量。对于一名具有T(n)访问记录的患者，可以通过一系列访问本文档来自技高网...

【技术保护点】
1.基于交叉注意神经网络的再就医信息预测方法，其特征是，包括：获取患者的历史电子健康记录数据，将每个患者的所述历史电子健康记录数据表示为多变量的时间标记序列；将每个患者的多变量的时间标记序列的一次就医信息记录拆分为诊断信息和治疗信息，并分别对诊断信息和治疗信息进行降维表示；利用双向神经网络处理降维后的诊断信息得到对应的诊断信息隐藏状态，利用双向神经网络处理降维后的治疗信息得到对应的治疗信息隐藏状态；利用交叉注意力机制将历史诊断信息和历史治疗信息整合为能够表示患者当前状态的上下文向量；在得到了患者的疾病诊断信息和治疗信息之后，采用连接的方式将上下文向量这两部分信息合并成一个表示患者整体信息的表示向量；将表示向量放入到最终输出层来预测就医信息。

【技术特征摘要】
1.基于交叉注意神经网络的再就医信息预测方法，其特征是，包括：获取患者的历史电子健康记录数据，将每个患者的所述历史电子健康记录数据表示为多变量的时间标记序列；将每个患者的多变量的时间标记序列的一次就医信息记录拆分为诊断信息和治疗信息，并分别对诊断信息和治疗信息进行降维表示；利用双向神经网络处理降维后的诊断信息得到对应的诊断信息隐藏状态，利用双向神经网络处理降维后的治疗信息得到对应的治疗信息隐藏状态；利用交叉注意力机制将历史诊断信息和历史治疗信息整合为能够表示患者当前状态的上下文向量；在得到了患者的疾病诊断信息和治疗信息之后，采用连接的方式将上下文向量这两部分信息合并成一个表示患者整体信息的表示向量；将表示向量放入到最终输出层来预测就医信息。2.基于交叉注意神经网络的再就医信息预测系统，其特征是，包括：数据降维层，被配置为：获取患者的历史电子健康记录数据，将每个患者的所述历史电子健康记录数据表示为多变量的时间标记序列；将每个患者的多变量的时间标记序列的一次就医信息记录拆分为诊断信息和治疗信息，并分别对诊断信息和治疗信息进行降维表示；双向RNN处理层，被配置为：利用双向神经网络处理降维后的诊断信息得到对应的诊断信息隐藏状态，利用双向神经网络处理降维后的治疗信息得到对应的治疗信息隐藏状态；交叉注意机制层，被配置为：利用交叉注意力机制将历史诊断信息和历史治疗信息整合为能够表示患者当前状态的上下文向量；合并信息层，被配置为：在得到了患者的疾病诊断信息和治疗信息之后，采用连接的方式将上下文向量这两部分信息合并成一个表示患者整体信息的表示向量；预测层，被配置为：将表示向量放入到最终输出层来预测就医信息。3.基于交叉注意神经网络的再就医信息预测装置，其特征是，包括：数据采集模块、降维模块、双向RNN模块、交叉注意机制模块、信息合并模块、预测模块；数据采集模块，被配置为：获取患者的历史电子健康记录数据，将每个患者的所述历史电子健康记录数据表示为多变量的时间标记序列；降维模块，被配置为：将每个患者的多变量的时间标记序列的一次就医信息记录拆分为诊断信息和治疗信息，并分别对诊断信息和治疗信息进行降维表示；双向RNN模块，被配置为：利用双向神经网络处理降维后的诊断信息得到对应的诊断信息隐藏状态，利用双向神经网络处理降维后的治疗信息得到对应的治疗信息隐藏状态；交叉注意机制模块，被配置为：利用交叉注意力机制将历史诊断信息和历史治疗信息整合为能够表示患者当前状态的上下文向量；信息合并模块，被配置为：在得到了患者的疾病诊断信息和治疗...

【专利技术属性】
技术研发人员：郭伟，葛伟，任艺琴，刘静，崔立真，
申请(专利权)人：山东大学，
类型：发明
国别省市：山东,37