深度学习内部数据的提取方法及装置制造方法及图纸

本发明专利技术公开一种涉及深度学习模型的数据提取方法及装置。根据一实施例的深度学习模型，其数据提取方法包括：接收输入查询(input query)的步骤；确定第一决策边界集合的步骤，所述第一决策边界集合是与所述深度学习模型的目标层(target layer)相对应的决策边界(decision boundary)集合的子集；基于所述第一决策边界集合，提取包括所述输入查询的决策区域(decision region)的步骤；以及提取包括在所述决策区域的数据的步骤。在所述决策区域的数据的步骤。在所述决策区域的数据的步骤。

【技术实现步骤摘要】
【国外来华专利技术】深度学习内部数据的提取方法及装置


[0001]下面的实施例涉及深度学习模型的数据提取方法及装置。

技术介绍

[0002]机器学习技术(machine learning)是产生大量数据的大数据(big data)或物联网(internet of things；IoT)时代必不可少的核心技术。机器学习技术因其可以使各领域中迄今为止机器无法自动完成的任务实现自动化，有望产生非常大和广泛的连锁反应。特别是以深度学习(deep learning)为核心迅速发展的机器学习技术大大缩小了实际应用所需水平和实际人工智能技术之间的差距，因此备受关注。
[0003]深度学习是指基于深度神经网络(deep neural network)模型的机器学习技术。近年来，在计算机视觉、语音识别、自然语言处理等多个领域中，深度学习在提高识别性能方面发挥着重要作用，提高了人们对实际应用人工智能系统的期待。
[0004]然而，将深度学习应用于各个工业领域仍需解决几方面挑战。其中之一是分析深度学习模型中的内部元素。在做出重要决策(医疗处方、自动驾驶等)或改进已学习模本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种涉及深度学习模型的数据提取方法，其特征在于，所述数据提取方法包括：接收输入查询的步骤；确定第一决策边界集合的步骤，所述第一决策边界集合是与所述深度学习模型的目标层相对应的决策边界集合的子集；基于所述第一决策边界集合，提取包括所述输入查询的决策区域的步骤；以及提取包括在所述决策区域的数据的步骤。2.根据权利要求1所述的数据提取方法，其特征在于，还包括基于所述提取的数据，使所述深度学习模型进行再学习的步骤。3.根据权利要求1所述的数据提取方法，其特征在于，确定所述第一决策边界集合的步骤，包括：确定包括在所述决策边界集合的决策边界的分布概率的步骤；以及基于所述决策边界的分布概率，确定所述第一决策边界集合的步骤。4.根据权利要求3所述的数据提取方法，其特征在于，基于所述决策边界的分布概率，确定所述第一决策边界集合的步骤，包括：将所述决策边界中分布概率在阈值以上的决策边界确定为所述第一决策边界集合的步骤。5.根据权利要求3所述的数据提取方法，其特征在于，计算包括在所述决策边界集合的决策边界的布概率的步骤，包括：确定所述决策边界的伯努利参数的步骤。6.根据权利要求5所述的数据提取方法，其特征在于，确定所述伯努利参数的步骤，包括：基于对应于所述目标层的损失函数来确定所述伯努利参数的步骤。7.根据权利要求1所述的数据提取方法，其特征在于，提取所述数据的步骤，包括：基于将所述决策区域作为限制条件的快速扩展随机树(...

【专利技术属性】
技术研发人员：崔宰植，丁海东，全起荣，
申请(专利权)人：人利智，
类型：发明
国别省市：