【技术实现步骤摘要】
用于改进的AI性能的域外检测
[0001]本专利技术一般地涉及改进的AI（人工智能）性能，并且特别地涉及用于改进的AI性能的域外（out
‑
of
‑
domain）检测。
技术介绍
[0002]基于AI（人工智能）的系统通常被部署以使通常由用户手动执行的任务自动化。例如，在医学成像分析中，基于AI的系统可以被部署用于基于患者的医学图像的检测、量化和临床决策制定。基于AI的系统的真实世界部署（real world deployment）越来越多地遇到训练数据集中未呈现的场景，从而导致差的性能。这样的场景的一些示例是具有不同质量的程度的医学图像或者其中感兴趣的对象出现在不同位置、取向、比例、或者全部或部分视图中的医学图像的分析。虽然改进和扩展训练数据集或采用数据增强技术可能有助于提高基于AI的系统的鲁棒性，但基于AI的系统实际上无法被训练来解决它们可能遇到的每种场景。一种解决方案是让用户手动审阅（review）基于AI的系统的结果。然而，用户将不得不以完全自动化为代价来审阅基于AI的系统的所有结...
【技术保护点】
【技术特征摘要】
1.一种方法，包括：接收用于输入到基于AI（人工智能）的系统中的输入数据；对基于AI的系统的域内特征空间和基于AI的系统的域外特征空间进行建模，域内特征空间对应于基于AI的系统被训练来分类的数据的特征，并且域外特征空间对应于基于AI的系统未被训练来分类的数据的特征；在域内特征空间和域外特征空间中针对输入数据和针对基于AI的系统被训练来分类的数据生成概率分布函数；以及基于针对输入数据和针对基于AI的系统被训练来分类的数据的概率分布函数来确定输入数据是否在基于AI的系统的域外。2.根据权利要求1所述的方法，其中对基于AI的系统的域内特征空间和基于AI的系统的域外特征空间进行建模包括：根据基于AI的系统的一个或多个域内线性投影矩阵来计算域内特征空间；根据基于AI的系统的一个或多个域内线性投影矩阵来计算针对域外特征空间的一个或多个正交线性投影矩阵；以及基于针对域外特征空间的一个或多个正交线性投影矩阵来计算域外特征空间。3.根据权利要求1所述的方法，其中在域内特征空间和域外特征空间中针对输入数据和针对基于AI的系统被训练来分类的数据生成概率分布函数包括：使用高斯过程模型或适于可用数据的高斯概率分布模型的组合来生成概率分布函数。4.根据权利要求1所述的方法，进一步包括：响应于确定所述输入数据在基于AI的系统的域外，向用户传输通知以审阅由基于AI的系统根据所述输入数据生成的预测。5.根据权利要求1所述的方法，进一步包括：响应于确定输入数据在基于AI的系统的域外：对输入数据进行注释；以及基于注释的输入数据来训练基于AI的系统。6.根据权利要求1所述的方法，进一步包括：响应于确定输入数据不在基于AI的系统的域外，由基于AI的系统根据输入数据生成预测。7.根据权利要求1所述的方法，其中，接收、建模、生成和确定由与基于AI的系统组合的模块来执行，并且与基于AI的系统组合的模块根据输入数据以及输入数据是否在基于AI的系统的域外的确定来生成预测。8.根据权利要求1所述的方法，进一步包括：基于所述确定来选择基于AI的系统的多个算法之一。9.根据权利要求1所述的方法，其中所述基于AI的系统用于医学成像分析。10.一种装置，包括：用于接收用于输入到基于AI（人工智能）的系统中的输入数据的装置；用于对基于AI的系统的域内特征空间和基于AI的系统的域外特征空间进行建模的装置，域内特征空间对应于基于AI的系统被训练来分类的数据的特征，并且域外特征空间对应于基于AI的系统未被训练来分类的数据的特征；
用于在域内特征空间和域外特征空间中针对输入数据和针对基于AI的系统被训练来分类的数据生成概率分布函数的装置；以及用于基于针对输入数据和针对基于AI的系统被训练来分类的数据的概率分布函数来确定输入数据是否在基于AI的系统的域外的装置。11.根据权利要求10所述的装置，其中用于对基于AI的系统的域内特征空间和基于AI的系统的...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。