【技术实现步骤摘要】
【国外来华专利技术】
本专利技术的内容涉及一种医疗领域的深度学习技术，具体地，该方法针对用于检测疾病的深度学习模型的决策过程进行解析，以解析结果为基础说明医疗数据与疾病之间的相关关系。
技术介绍
1、制约人工智能的最大问题是无法说明正确的决策过程，即，无法说明黑盒子的极限。即，人们无法得知和人工智能的判断错误有关的过程与理由。该极限妨碍了针对错误的监视与感知，因此在医疗领域中该问题是致命性的。为了克服该极限，人们目前正在进行很多研究。
2、例如，现有研究之一是疾病感知，为了标示重要的数据领域而使用灵敏度图(sensitivity map)。然而，灵敏度图只对判断为重要的领域进行标示，却无法说明该领域的哪个特征是与疾病有关的。现有研究中另一个则使用了下述技术，即，把说明疾病的各特征的模块加以统合后感知疾病的集成技术。该研究能够说明哪个特征参与了感知疾病时的决策。然而，该研究只使用了由模块预先决定的特征。因此实质上无法得知人工智能执行了什么决策。
技术实现思路
1、技术问题
2、本专利技术旨在解决前述
技术介绍
的问题，本专利技术的目的是提供一种方法，该方法能说明用于检测疾病的深度学习模型的判断及决定的理由，以该说明为基础解析医疗数据的哪个特征和疾病有关。
3、然而，本专利技术需要解决的技术课题不限于前述课题，可以在下面的记载中明确地了解到前面没有提到的其它课题。
4、技术方案
5、实现如前所述的课题的本专利技术的一实施例揭示了一种由计算装置执行的以可
6、或者，所述第二神经网络模型可包括：第一副神经网络模型，为了使得对所述疾病的阳性或阴性的推断与所述第二医疗数据相反而变换所述第二医疗数据的特征从而生成第三医疗数据；以及第二副神经网络模型，为了使得对所述疾病的阳性或阴性的推断与所述第二医疗数据相同而变换所述第三医疗数据的特征从而生成第四医疗数据。
7、或者，利用所述已学习的第一神经网络模型让变换第二医疗数据的特征的第二神经网络模型学习，使得对所述第二医疗数据的所述疾病的阳性或阴性的推断相反，该步骤包括下列步骤：利用所述第二神经网络模型变换所述第二医疗数据的特征并且利用所述已学习的第一神经网络模型对所述变换了特征的第二医疗数据推断阳性或阴性；以及以把所述变换了特征的第二医疗数据或对所述变换了特征的第二医疗数据的阳性或阴性推断结果中的至少一个作为输入变量的损失函数为基础，让所述第二神经网络模型学习。
8、或者，所述利用第二神经网络模型变换所述第二医疗数据的特征并且利用所述已学习的神经网络模型对所述变换了特征的第二医疗数据推断阳性或阴性的步骤可包括下列步骤：以所述第二神经网络模型所含第一副神经网络模型为基础把推断为阴性的第二医疗数据的特征予以变换而生成被推断为与所述第二医疗数据相反的阳性的第三医疗数据；以及以所述第二神经网络模型所含第二副神经网络模型为基础把所述第三医疗数据的特征予以变换而生成与推断为阴性的所述第二医疗数据对应的第四医疗数据。
9、或者，所述利用第二神经网络模型变换所述第二医疗数据的特征并且利用所述已学习的神经网络模型对所述变换了特征的第二医疗数据推断阳性或阴性的步骤可包括下列步骤：向所述第二副神经网络模型输入所述推断为阴性的第二医疗数据，生成对应于所述推断为阴性的第二医疗数据的第五医疗数据；以及向所述已学习的第一神经网络模型输入所述第三医疗数据而生成下述预测数据，该预测数据示出对所述第三医疗数据的所述疾病的阳性或阴性推断结果。
10、或者，所述损失函数可包括：第一损失函数，用于评估所述第一副神经网络模型是否把相当于所述疾病为阴性的输入的特征予以变换而生成相当于所述疾病为阳性的输出；第二损失函数，用于评估所述第二副神经网络模型是否把所述第一副神经网络模型的输出的特征予以变换而复原所述第一副神经网络模型的输入；以及第三损失函数，用于评估所述第二副神经网络模型是否以所述第一副神经网络模型的输入为基础生成和所述第一副神经网络模型的输入相同的输出。
11、或者，以把所述变换了特征的第二医疗数据或对所述变换了特征的第二医疗数据的阳性或阴性推断结果中的至少一个作为输入变量的损失函数为基础让所述第二神经网络模型学习的步骤包括下述步骤：以把所述第四医疗数据、所述第五医疗数据或所述预测数据中的至少一个作为输入变量的损失函数为基础，让所述第一副神经网络模型及所述第二副神经网络模型学习。
12、或者，以把所述第四医疗数据、所述第五医疗数据或所述预测数据中的至少一个作为输入变量的损失函数为基础让所述第一副神经网络模型及所述第二副神经网络模型学习的步骤可包括下列步骤：运算把所述预测数据作为输入变量的第一损失函数，让所述第一副神经网络模型学习以便使得作为所述第一损失函数的运算结果的第一损失减少；运算把所述第四医疗数据作为输入变量的第二损失函数，让所述第一副神经网络模型或所述第二副神经网络模型中的至少一个学习以便使得作为所述第二损失函数的运算结果的第二损失减少；以及运算把所述第五医疗数据作为输入变量的第三损失函数，让所述第二副神经网络模型学习以便使得作为所述第三损失函数的运算结果的第三损失减少。
13、或者，所述第一医疗数据及所述第二医疗数据可包含心电图数据。而且，所述疾病可包含高钾血症(hyperkalemia)。
14、或者，所述第二医疗数据的特征能以所述高钾血症为阴性的心电图数据与所述高钾血症为阳性的心电图数据之间的形态学(morphological)差异为基础。
15、另一方面，实现如前所述的课题的本专利技术的替代性实施例揭示了由计算装置执行的以可解释人工智能为基础的医疗数据的解析方法。所述方法可包括下列步骤：获取包含心电图数据的医疗数据；以及以第二神经网络模型为基础变换所述医疗数据的特征，从而生成通过第一神经网络模型推断的疾病的阳性或阴性与所述医疗数据相反的输出数据。此时，所述第二神经网络模型可以是利用下述第一神经网络模型预先学习的，该第一神经网络模型则学习对医疗数据推断疾病的阳性或阴性。
16、或者，所述方法还包括下述步骤：生成用于以视觉方式比较所述医疗数据与所述输出数据的用户界面。
17、实现如前所述的课题的本专利技术的一实施例揭示一种存储在计算机可读存储介质的计算机程序(program)。所述计算机程序在一个以上的处理器运行时执行用于以可解释人工智能为基础的医疗数据的解析的多个动作，此时，所述多个动作则可包括下列动作：以第一医疗数据为基础让第一神经网络模型学习，以对所述第一医疗数据推断疾病的阳性或阴性；以及利用所述已学习的第一神经网络模型让变换第二医疗数据的特征的第二神经网络模型学习，使本文档来自技高网...
【技术保护点】
1.一种以可解释人工智能为基础的医疗数据的解析方法，由包括至少一个处理器的计算装置执行，其特征在于，包括下列步骤：
2.根据权利要求1所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，所述第二神经网络模型包括：
3.根据权利要求1所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，利用已学习的所述第一神经网络模型让变换第二医疗数据的特征的第二神经网络模型学习，使得对所述第二医疗数据的所述疾病的阳性或阴性的推断相反，该步骤包括下列步骤：
4.根据权利要求3所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，所述利用第二神经网络模型变换所述第二医疗数据的特征并且利用已学习的所述神经网络模型对变换了特征的所述第二医疗数据推断阳性或阴性的步骤包括下列步骤：
5.根据权利要求4所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，所述利用第二神经网络模型变换所述第二医疗数据的特征并且利用已学习的所述神经网络模型对变换了特征的所述第二医疗数据推断阳性或阴性的步骤包括下述步骤：
6.根据权利要求
7.根据权利要求6所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，所述损失函数包括：
8.根据权利要求6所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，以把变换了特征的所述第二医疗数据或对变换了特征的所述第二医疗数据的阳性或阴性推断结果中的至少一个作为输入变量的损失函数为基础让所述第二神经网络模型学习的步骤包括下述步骤：
9.根据权利要求8所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，以把所述第四医疗数据、所述第五医疗数据或所述预测数据中的至少一个作为输入变量的损失函数为基础让所述第一副神经网络模型及所述第二副神经网络模型学习的步骤包括下列步骤：
10.根据权利要求1所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，
11.根据权利要求10所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，所述第二医疗数据的特征以所述高钾血症为阴性的心电图数据与所述高钾血症为阳性的心电图数据之间的形态学差异为基础。
12.一种以可解释人工智能为基础的医疗数据的解析方法，由包括至少一个处理器的计算装置执行，其特征在于，包括下列步骤：
13.根据权利要求12所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，还包括下述步骤：生成用于以视觉方式比较所述医疗数据与所述输出数据的用户界面。
14.一种计算机程序，存储在计算机可读存储介质，其特征在于，
15.一种用于以可解释人工智能为基础的医疗数据的解析的计算装置，其特征在于，
...【技术特征摘要】
【国外来华专利技术】
1.一种以可解释人工智能为基础的医疗数据的解析方法，由包括至少一个处理器的计算装置执行，其特征在于，包括下列步骤：
2.根据权利要求1所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，所述第二神经网络模型包括：
3.根据权利要求1所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，利用已学习的所述第一神经网络模型让变换第二医疗数据的特征的第二神经网络模型学习，使得对所述第二医疗数据的所述疾病的阳性或阴性的推断相反，该步骤包括下列步骤：
4.根据权利要求3所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，所述利用第二神经网络模型变换所述第二医疗数据的特征并且利用已学习的所述神经网络模型对变换了特征的所述第二医疗数据推断阳性或阴性的步骤包括下列步骤：
5.根据权利要求4所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，所述利用第二神经网络模型变换所述第二医疗数据的特征并且利用已学习的所述神经网络模型对变换了特征的所述第二医疗数据推断阳性或阴性的步骤包括下述步骤：
6.根据权利要求5所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，所述利用第二神经网络模型变换所述第二医疗数据的特征并且利用已学习的所述神经网络模型对变换了特征的所述第二医疗数据推断阳性或阴性的步骤包括下述步骤：
7.根据权利要求6所述的以可解释人工智能为基础的医疗数据的解析方法，其特征在于，所述损失...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。