一种AI模型可靠性判断方法、装置、设备及存储介质制造方法及图纸

本发明专利技术公开了一种AI模型可靠性判断方法、装置、设备及存储介质，该方法包括：获取全部病例集合，依次确定训练AI模型所用各病例为当前病例，通过多次随机改变当前病例中的特征数据得到多个采样样本，利用AI模型获取每个采样样本的诊断结果；利用每个采样样本及相应诊断结果对机器学习模型进行训练，在训练完成后基于机器学习模型的可解释性，确定表示AI模型获取当前病例的诊断结果的依据为依据信息；如果全部病例集合中依据信息合理的病例数量达到数量阈值，则确定AI模型可靠。可见，本申请能实现对AI模型的准确评价，进而有效降低使用AI模型进行医学辅助诊断的风险。进行医学辅助诊断的风险。进行医学辅助诊断的风险。

【技术实现步骤摘要】
一种AI模型可靠性判断方法、装置、设备及存储介质


[0001]本专利技术涉及人工智能
，更具体地说，涉及一种AI模型可靠性判断方法、装置、设备及存储介质。

技术介绍

[0002]随着近年来AI(人工智能)技术的不断发展和崛起，大量的领域开始使用AI技术，如车牌识别、人脸识别、医学辅助诊断等。与传统技术相比，AI模型以高准确性和易操作性而被广泛使用；给定一个输入，AI模型通常可以快速准确的给出结果，并且有相当一部分任务中已经超越了人类的识别水平。
[0003]然而，大量的优秀的AI模型的决策原理是人类不可理解的黑盒，这给AI技术的使用带来了潜在的风险。具体来说，当使用AI模型进行医学辅助诊断时，考虑到AI模型的决策原理是一个黑盒，AI模型的好坏通常是无法实现有效准确的评价的，进而导致使用AI模型来进行医学辅助诊断有非常大的风险。

技术实现思路

[0004]本专利技术的目的是提供一种AI模型可靠性判断方法、装置、设备及存储介质，能够实现对AI模型的准确评价，进而有效降低使用AI模型来进行医学辅助诊断的风险。
[0005]为了实现上述目的，本专利技术提供如下技术方案：
[0006]一种AI模型可靠性判断方法，包括：
[0007]获取全部病例集合，依次确定用于训练AI模型的每个病例为当前病例，通过多次随机改变当前病例中包含的特征数据得到相应的多个采样样本，并利用所述AI模型获取每个所述采样样本的诊断结果；
[0008]利用每个所述采样样本及相应的诊断结果对机器学习模型进行训练，并在训练完成后基于所述机器学习模型的可解释性，确定表示所述AI模型获取当前病例的诊断结果的依据为依据信息；
[0009]如果全部病例集合中所述依据信息合理的病例数量达到数量阈值，则确定所述AI模型可靠。
[0010]优选的，确定所述AI模型可靠之后，还包括：
[0011]基于全部病例集合中每个病例分别对应的依据信息，确定每预设数量个病例的依据信息中存在的交集的部分均为医学知识，以供学习及使用。
[0012]优选的，还包括：
[0013]每经过预设时间段则执行依次确定用于训练AI模型的每个病例为当前病例的步骤。
[0014]优选的，依次确定用于训练AI模型的每个病例为当前病例之后，还包括：
[0015]将当前病例中包含的全部特征数据均处理为相应的数值。
[0016]优选的，利用每个所述采样样本及相应的诊断结果对机器学习模型进行训练，包
括：
[0017]利用每个所述采样样本及相应的诊断结果对线性回归算法或者决策树算法进行训练。
[0018]优选的，确定每预设数量个病例的依据信息中存在的交集的部分均为医学知识之后，还包括：
[0019]将所述医学知识推送至与每个相应医护人员对应的医疗处理端，以供各医护人员远程获取所述医学知识。
[0020]优选的，确定当前病例的依据信息是否合理，包括：
[0021]将当前病例的依据信息以及表示依据信息是否合理的选项进行输出；
[0022]如果外界选择的选项表示依据信息合理，则确定当前病例的依据信息合理，否则，确定当前病例的依据信息不合理。
[0023]一种AI模型可靠性判断装置，包括：
[0024]获取模块，用于：获取全部病例集合，依次确定用于训练AI模型的每个病例为当前病例，通过多次随机改变当前病例中包含的特征数据得到相应的多个采样样本，并利用所述AI模型获取每个所述采样样本的诊断结果；
[0025]分析模块，用于：利用每个所述采样样本及相应的诊断结果对机器学习模型进行训练，并在训练完成后基于所述机器学习模型的可解释性，确定表示所述AI模型获取当前病例的诊断结果的依据为依据信息；
[0026]确定模块，用于：如果全部病例集合中所述依据信息合理的病例数量达到数量阈值，则确定所述AI模型可靠。
[0027]一种AI模型可靠性判断设备，包括：
[0028]存储器，用于存储计算机程序；
[0029]处理器，用于执行所述计算机程序时实现如上任一项所述AI模型可靠性判断方法的步骤。
[0030]一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上任一项所述AI模型可靠性判断方法的步骤。
[0031]本专利技术提供了一种AI模型可靠性判断方法、装置、设备及存储介质，该方法包括：获取全部病例集合，依次确定用于训练AI模型的每个病例为当前病例，通过多次随机改变当前病例中包含的特征数据得到相应的多个采样样本，并利用所述AI模型获取每个所述采样样本的诊断结果；利用每个所述采样样本及相应的诊断结果对机器学习模型进行训练，并在训练完成后基于所述机器学习模型的可解释性，确定表示所述AI模型获取当前病例的诊断结果的依据为依据信息；如果全部病例集合中所述依据信息合理的病例数量达到数量阈值，则确定所述AI模型可靠。本申请中针对训练AI模型的每个病例，可以通过多次改变病例中的任意特征数据得到相应的多个采样样本，利用多个采样样本及利用AI模型得到的采样样本的诊断结果对机器学习模型进行训练，在训练完成后基于机器学习模型的可解释性确定AI模型基于相应病例得到诊断结果的依据，从而在依据合理的病例数量较多时认为AI模型是可靠的，并利用该AI模型进行医学诊断，否则认为AI模型不可靠，无法利用该AI模型进行医学诊断。可见，本申请通过机器学习模型的可解释性得到AI模型基于训练所用每个病例得到相应诊断结果的依据，进而通过判断每个病例对应依据的合理性实现对AI模型的
准确评价，进而有效降低使用AI模型来进行医学辅助诊断的风险。
附图说明
[0032]为了更清楚地说明本专利技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
[0033]图1为本专利技术实施例提供的一种AI模型可靠性判断方法的流程图；
[0034]图2为本专利技术实施例提供的一种AI模型可靠性判断方法的实现框架图；
[0035]图3为本专利技术实施例提供的一种AI模型可靠性判断装置的结构示意图。
具体实施方式
[0036]下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。
[0037]请参阅图1，其示出了本专利技术实施例提供的一种AI模型可靠性判断方法的流程图，可以包括：
[0038]S11：获取全部病例集合，依次确定用于训练AI模型的每个病例为当前病例，通过多次随机改变当前病例中包含的特征数据得到相应的多个采样样本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种AI模型可靠性判断方法，其特征在于，包括：获取全部病例集合，依次确定用于训练AI模型的每个病例为当前病例，通过多次随机改变当前病例中包含的特征数据得到相应的多个采样样本，并利用所述AI模型获取每个所述采样样本的诊断结果；利用每个所述采样样本及相应的诊断结果对机器学习模型进行训练，并在训练完成后基于所述机器学习模型的可解释性，确定表示所述AI模型获取当前病例的诊断结果的依据为依据信息；如果全部病例集合中所述依据信息合理的病例数量达到数量阈值，则确定所述AI模型可靠。2.根据权利要求1所述的方法，其特征在于，确定所述AI模型可靠之后，还包括：基于全部病例集合中每个病例分别对应的依据信息，确定每预设数量个病例的依据信息中存在的交集的部分均为医学知识，以供学习及使用。3.根据权利要求2所述的方法，其特征在于，还包括：每经过预设时间段则执行依次确定用于训练AI模型的每个病例为当前病例的步骤。4.根据权利要求3所述的方法，其特征在于，依次确定用于训练AI模型的每个病例为当前病例之后，还包括：将当前病例中包含的全部特征数据均处理为相应的数值。5.根据权利要求4所述的方法，其特征在于，利用每个所述采样样本及相应的诊断结果对机器学习模型进行训练，包括：利用每个所述采样样本及相应的诊断结果对线性回归算法或者决策树算法进行训练。6.根据权利要求5所述的方法，其特征在于，确定每预设数量个病例的依据信息中存在的交集的部分均为医学知识之后...

【专利技术属性】
技术研发人员：张博宇，毛冰城，金朝汇，谌明，
申请(专利权)人：浙江核新同花顺网络信息股份有限公司，
类型：发明
国别省市：