本发明专利技术提出一种基于可解释性的模型集成方法，应用于医疗领域，该方法包括：将待分类数据分别输入模型集中的各个模型，利用预设的可解释性算法对各个模型的预设特征层处理所述待分类数据产生的数值进行分析，生成与每个模型对应的一组热力图；分别计算每组热力图中，热力图数值大于预设阈值的图像区域在相应热力图中的交并比；计算所述每组热力图中包含的所有热力图的交并比的均值，得到所述各个模型在所述模型集中的权重；利用所述模型集中的各个模型分别对所述待分类数据进行处理，得到所述各个模型输出的初始分类结果，基于所述各个模型的权重对所述初始分类结果进行加权计算，得到所述待分类数据的目标分类结果。得到所述待分类数据的目标分类结果。得到所述待分类数据的目标分类结果。
【技术实现步骤摘要】
基于可解释性的模型集成方法、装置、设备及介质
[0001]本专利技术涉及人工智能领域及数字医疗领域，涉及一种基于可解释性的模型集成方法、装置、设备及介质。
技术介绍
[0002]在传统模型中，为了提高模型效果，最常用的方法是进行模型集成，例如分类问题，是以模型集成中的多个模型计算出的结果进行投票决定最终答案，或者是线性问题，是以模型集成中的多个模型计算出来的多个结果，取多个结果的均值作为预测数值。
[0003]在现有技术中，很多模型集成可以做出非常好的预测，但是它们并不能很好地解释它们是如何进行预测的，很多数据专业领域人士都很难知晓为什么该算法会得到这样的预测结果，若我们无法知道某个算法是如何进行预测，则很难基于模型知道业务发展，例如，在医疗领域上，我们可以使用深度学习算法对医学影像数据(如CT影像、DR影像等)进行分析或分类，以帮助医生更好地理解患者的健康状况并制定更好地治疗方案，然而，这些深度学习算法通常是黑盒模型，我们很难了解他们是如何进行预测的，也不知道它们的预测结果是如何得出的，使得医生难以信任这些算法的预测结果，医生很难根据这些结果制定更好的治疗方案，由于常用的模型集成所计算出的集成结果的可靠性不足，不太适用于某一些领域，尤其是医疗领域上，模型集成的集成结果显得尤为重要。
[0004]为了解决利用模型集成的技术中，由于模型集成所计算出的集成结果可靠性不足的技术问题，在此基础上，提出一种基于可解释性的模型集成方法，该基于模型可解释性进行集成的方法还可以支持疾病辅助诊断、健康管理、远程会诊等功能。
技术实现思路
[0005]本专利技术提供一种基于可解释性的模型集成方法、装置、设备及介质，其主要目的在于解决现有技术中，深度模型的模型集成的集成结果可靠性不足的技术问题。
[0006]为实现上述目的，本专利技术提供一种基于可解释性的模型集成方法，所述方法包括：
[0007]将待分类数据分别输入模型集中的各个模型，利用预设的可解释性算法对各个模型的预设特征层处理所述待分类数据产生的数值进行分析，生成与每个模型对应的一组热力图；
[0008]分别计算每组热力图中，热力图数值大于预设阈值的图像区域在相应热力图中的交并比；
[0009]计算所述每组热力图中包含的所有热力图的交并比的均值，得到所述各个模型在所述模型集中的权重；
[0010]利用所述模型集中的各个模型分别对所述待分类数据进行处理，得到所述各个模型输出的初始分类结果，基于所述各个模型的权重对所述初始分类结果进行加权计算，得到所述待分类数据的目标分类结果。
[0011]可选地，所述模型集包括第一模型、第二模型和第三模型，所述第一模型为vgg16
模型，所述第二模型为resnet18模型，所述第三模型为alexNet模型；
[0012]所述预设的可解释性算法包括第一可解释性算法、第二可解释性算法和第三可解释性算法，所述第一可解释性算法为Grad
‑
cam，第二可解释性算法为Score
‑
cam，所述第三可解释性算法为Ablation
‑
cam。
[0013]可选地，在利用所述模型集包含的各个模型分别对待分类数据进行处理之前，该方法还包括：
[0014]判断所述待分类数据的类别；
[0015]若所述待分类数据是图像数据，则对所述待分类数据进行归一化和降采样处理；
[0016]若所述待分类数据不是图像数据，则利用预设方法将所述待分类数据转换成图像数据，再对所述图像数据进行归一化和降采样处理。
[0017]可选地，所述利用预设的可解释性算法对各个模型的预设特征层处理所述待分类数据产生的数值进行分析，生成与每个模型对应的一组热力图，包括：
[0018]利用基于欧几里得距离分别提取所述第一模型、所述第二模型和所述第三模型的预设特征层处理所述待分类数据时产生的数值，得到第一数值、第二数值和第三数值；
[0019]利用所述第一可解释性算法、所述第二可解释性算法和所述第三可解释性算法分别对所述第一数值进行分析，得到与所述第一模型对应的一组热力图；
[0020]利用所述第一可解释性算法、所述第二可解释性算法和所述第三可解释性算法分别对所述第二数值进行分析，得到与所述第二模型对应的一组热力图；
[0021]利用所述第一可解释性算法、所述第二可解释性算法和所述第三可解释性算法分别对所述第三数值进行分析，得到与所述第三模型对应的一组热力图。
[0022]可选地，所述分别计算每组热力图中，热力图数值大于预设阈值的图像区域在相应热力图中的交并比，包括：
[0023]将所述热力图进行标准化处理，得到可视化灰度图像；
[0024]计算所述可视化灰度图像的各个图像区域的灰度值，选取大于预设阈值的图像区域作为关键区域；
[0025]计算所述关键区域占所述可视化灰度图像的所有图像区域的比例，得到所述热力图的交并比。
[0026]可选地，所述基于所述各个模型的权重对所述初始分类结果进行加权计算，得到所述待分类数据的目标分类结果，包括：
[0027]基于各个模型对应的权重，将各个模型所得到的初始分类结果进行加权求和，得到所述待分类数据的目标分类结果。
[0028]可选地，所述模型集成中每个模型的训练方法，包括：
[0029]从预设的数据库中获取第一数量的训练数据，从所述第一数量训练数据中选取第二数量的数据进行标注，将带有标注标签的记为正样本数据，将未带有标注标签的记为负样本数据；
[0030]利用所述正样本数据和所述负样本数据分别训练模型集成中每个模型，完成训练。
[0031]为了解决上述问题，本专利技术提供了一种模型集成装置，所述装置包括：
[0032]数值分析模块，用于将待分类数据分别输入模型集中的各个模型，利用预设的可
解释性算法对各个模型的预设特征层处理所述待分类数据产生的数值进行分析，生成与每个模型对应的一组热力图；
[0033]数值计算模块，用于分别计算每组热力图中，热力图数值大于预设阈值的图像区域在相应热力图中的交并比；
[0034]权重计算模块，用于计算所述每组热力图中包含的所有热力图的交并比的均值，得到所述各个模型在所述模型集中的权重；
[0035]加权求和模块，用于利用所述模型集中的各个模型分别对所述待分类数据进行处理，得到所述各个模型输出的初始分类结果，基于所述各个模型的权重对所述初始分类结果进行加权计算，得到所述待分类数据的目标分类结果。
[0036]为了解决上述问题，本专利技术还提供一种电子设备，所述电子设备包括：
[0037]至少一个处理器；以及，
[0038]与所述至少一个处理器通信连接的存储器；其中，
[0039]所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如权利要求1至7中任意一项所述的基本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种基于可解释性的模型集成方法，其特征在于，所述方法包括：将待分类数据分别输入模型集中的各个模型，利用预设的可解释性算法对各个模型的预设特征层处理所述待分类数据产生的数值进行分析，生成与每个模型对应的一组热力图；分别计算每组热力图中，热力图数值大于预设阈值的图像区域在相应热力图中的交并比；计算所述每组热力图中包含的所有热力图的交并比的均值，得到所述各个模型在所述模型集中的权重；利用所述模型集中的各个模型分别对所述待分类数据进行处理，得到所述各个模型输出的初始分类结果，基于所述各个模型的权重对所述初始分类结果进行加权计算，得到所述待分类数据的目标分类结果。2.如权利要求1所述的基于可解释性的模型集成方法，其特征在于，所述模型集包括第一模型、第二模型和第三模型，所述第一模型为vgg16模型，所述第二模型为resnet18模型，所述第三模型为alexNet模型；所述预设的可解释性算法包括第一可解释性算法、第二可解释性算法和第三可解释性算法，所述第一可解释性算法为Grad
‑
cam，第二可解释性算法为Score
‑
cam，所述第三可解释性算法为Ablation
‑
cam。3.如权利要求1所述的基于可解释性的模型集成方法，其特征在于，在利用所述模型集包含的各个模型分别对待分类数据进行处理之前，该方法还包括：判断所述待分类数据的类别；若所述待分类数据是图像数据，则对所述待分类数据进行归一化和降采样处理；若所述待分类数据不是图像数据，则利用预设方法将所述待分类数据转换成图像数据，再对所述图像数据进行归一化和降采样处理。4.如权利要求1或2所述的基于可解释性的模型集成方法，其特征在于，所述利用预设的可解释性算法对各个模型的预设特征层处理所述待分类数据产生的数值进行分析，生成与每个模型对应的一组热力图，包括：利用基于欧几里得距离分别提取所述第一模型、所述第二模型和所述第三模型的预设特征层处理所述待分类数据时产生的数值，得到第一数值、第二数值和第三数值；利用所述第一可解释性算法、所述第二可解释性算法和所述第三可解释性算法分别对所述第一数值进行分析，得到与所述第一模型对应的一组热力图；利用所述第一可解释性算法、所述第二可解释性算法和所述第三可解释性算法分别对所述第二数值进行分析，得到与所述第二模型对应的一组热力图；利用所述第一可解释性算法、所述第二可解释性算法和所述第三可解释性算法分别对所述第三数值...
【专利技术属性】
技术研发人员：郑喜民，舒畅，陈又新，
申请(专利权)人：平安科技深圳有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。