【技术实现步骤摘要】
构建神经网络的方法与装置、及图像处理方法与装置
本申请涉及人工智能领域，并且更具体地，涉及一种构建神经网络的方法与装置、及图像处理方法与装置。
技术介绍
人工智能(artificialintelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。人工智能领域的研究包括机器人，自然语言处理，计算机视觉，决策与推理，人机交互，推荐与搜索，AI基础理论等。随着人工智能技术的快速发展，神经网络(例如，卷积神经网络)的性能得到了持续的提升，神经网络在图像、视频以及语音等多种媒体信号的处理与分析中也取得了很大的成就。一个性能优良的神经网络往往拥有精妙的网络结构，但在实际应用中，由于训练集、指标要求及应用的目标不同，往往不...
【技术保护点】
1.一种构建神经网络的方法，其特征在于，包括：/n根据目标神经网络的应用需求，构建搜索空间，所述搜索空间包括M个元素，所述M个元素用于指示M个网络结构，所述M个元素中的每一个元素包括对应的网络结构中的阶段中的块的个数和所述块的通道数，M为正整数；/n根据搜索空间中未评估元素的分布关系从所述M个网络结构中选择目标网络结构。/n
【技术特征摘要】
20190924 CN 20191090431471.一种构建神经网络的方法，其特征在于，包括：
根据目标神经网络的应用需求，构建搜索空间，所述搜索空间包括M个元素，所述M个元素用于指示M个网络结构，所述M个元素中的每一个元素包括对应的网络结构中的阶段中的块的个数和所述块的通道数，M为正整数；
根据搜索空间中未评估元素的分布关系从所述M个网络结构中选择目标网络结构。
2.根据权利要求1所述的方法，其特征在于，所述目标神经网络的应用需求包括所述目标神经网络的运行速度、所述目标神经网络的参数量或所述目标神经网络的结构要求，其中，所述结构要求包括所述目标神经网络结构中的每个阶段的块的个数和每个所述块的通道数。
3.根据权利要求1或2所述的方法，其特征在于，所述根据目标神经网络的应用需求，构建搜索空间，包括：
根据所述目标神经网络的应用需求，构建初始搜索空间，所述初始搜索空间包括N个初始元素，所述N个初始元素用于指示N个初始网络结构，所述N个初始元素中的每一个元素包括对应的初始网络结构中的阶段中的块的个数和所述块的通道数，N为大于或等于M的正整数；
根据预设规则对所述N个初始元素指示的所述N个初始网络结构进行筛选，得到所述搜索空间中的所述M个元素，所述预设规则包括：
若所述N个初始元素中的第一初始元素指示的第一初始网络结构中的每一个阶段中的块的个数不大于所述N个初始元素中第二初始元素指示的第二初始网络结构中对应阶段中的块的个数，且所述第一初始网络结构中的每一个阶段中的每个块的通道数均不大于所述第二初始网络结构中对应阶段中的每个块的通道数，则从所述初始搜索空间中删除所述第一初始元素。
4.根据权利要求1至3中任一项所述的方法，其特征在于，所述根据搜索空间中未评估元素的分布关系从所述M个网络结构中选择目标网络结构，包括：
根据所述未评估元素的分布关系，确定所述未评估元素中的K个元素，K为小于M的正整数；
根据所述K个元素从所述M个网络结构中选择目标网络结构。
5.根据权利要求4所述的方法，其特征在于，所述根据所述K个元素从所述M个网络结构中选择目标网络结构，包括：
对所述未评估元素中的K个元素指示的K个网络结构进行评估，得到已评估元素的评估结果，所述已评估元素的评估结果包括所述K个网络结构的评估结果；
根据已评估元素的评估结果，从所述M个网络结构中选择目标网络结构。
6.根据权利要求5所述的方法，其特征在于，所述根据已评估元素的评估结果，从所述M个网络结构中选择目标网络结构，包括：
根据所述已评估元素的评估结果对第一未评估元素进行建模，得到所述第一未评估元素的模型，所述第一未评估元素包括所述搜索空间中除所述已评估元素之外的其他元素；
根据所述第一未评估元素的模型，从所述M个网络结构中选择目标网络结构。
7.根据权利要求6所述的方法，其特征在于，在根据搜索空间中未评估元素的分布关系从所述M个网络结构中未选择出目标网络结构的情况下，所述方法还包括：
根据所述第一未评估元素的分布关系与基于已评估元素构建的第一未评估元素的模型，从所述M个网络结构中选择目标网络结构。
8.根据权利要求7所述的方法，其特征在于，所述根据所述第一未评估元素的分布关系与基于已评估元素构建的第一未评估元素的模型，从所述M个网络结构中选择目标网络结构，包括：
根据所述第一未评估元素的分布关系，确定所述第一未评估元素中的L个元素，L为小于M的正整数；
根据所述L个元素与基于已评估元素构建的第一未评估元素的模型从所述M个网络结构中选择目标网络结构。
9.根据权利要求8所述的方法，其特征在于，所述根据所述L个元素与基于已评估元素构建的第一未评估元素的模型从所述M个网络结构中选择目标网络结构，包括：
根据所述基于已评估元素构建的第一未评估元素的模型，从所述L个元素中确定Q个元素，Q为小于L的正整数；
对所述Q个元素指示的Q个网络结构进行评估，得到第一已评估元素的评估结果，所述第一已评估元素的评估结果包括所述K个网络结构的评估结果和所述Q个网络结构的评估结果；
根据第一已评估元素的评估结果与第二未评估元素的分布关系，从所述M个网络结构中选择目标网络结构，所述第二未评估元素包括所述搜索空间中除所述第一已评估元素之外的其他元素。
10.根据权利要求8所述的方法，其特征在于，所述第一未评估元素的分布关系为所述第一未评估元素的聚类结果，所述L个元素分别为所述第一未评估元素的聚类结果包括的L个簇中的元素。
11.根据权利要求10所述的方法，其特征在于，所述L个元素分别为所述L个簇的中心对应的L个元素。
12.根据权利要求7至11中任一项所述的方法，其特征在于，在根据所述第一未评估元素的分布关系与基于已评估元素构建的第一未评估元素的模型，从所述M个网络结构中未选择出目标网络结构的情况下，所述方法还包括：
根据所述第二未评估元素的分布关系与基于第一已评估元素构建的第二未评估元素的模型，从所述M个网络结构中重新选择目标网络结构。
13.根据权利要求6至12中任一项所述的方法，其特征在于，所述基于已评估元素构建的第一未评估元素的模型，包括：
所述第一未评估元素的模型是根据已评估的网络结构的评估结果及下述公式得到的：
和/或(g(x)-l(x))2；
其中，x表示所述搜索空间中未评估的网络结构，y*表示精度阈值，g(x)表示精度大于精度阈值y*的网络结构x的条件概率密度函数，l(x)表示精度小于或等于精度阈值y*的网络结构x的条件概率密度函数，G*(x|xi)表示混合高斯分布，κ(x,xi)表示x与xi之间的欧式距离，κ*(x,xi)表示由κ(x,xi)组成的距离函数，xi表示所述已评估的网络结构中的第i个网络结构，yi表示所述已评估的网络结构中的第i个网络结构的精度，ωi表示G*(x|xi)对应的权重，Z表示归一化因子，σ表示G*(x|xi)的一个超参，i为正整数，e为自然对数函数的底数。
14.根据权利要求6至12中任一项所述的方法，其特征在于，所述基于已评估元素构建的第一未评估元素的模型，包括：
所述第一未评估元素的模型是根据已评估的网络结构的评估结果及下述公式得到的：
其中，x表示所述搜索空间中的未评估元素；xi表示所述已评估元素中的第i个元素，yi表示所述已评估元素中的第i个元素的精度；τ＝max(yi)，表示期望函数；f(x)为服从高斯分布的随机变量，f(x)的均值μ(x)及f(x)的方差σ(x)与跟输入x满足下述关系：
μ(x)＝kT(K+η2I)-1Y，
σ(x)＝1-kT(K+η2I)-1k，
其中，n为所述已评估的网络结构的个数，Y为yi组成的向量，Y∈Rn，Yi＝yi，k为κ(x,xi)组成的向量，k∈Rn，ki＝κ(x,xi)，K为κ(xi,xj)组成的矩阵为，K∈Rn×n，Ki,j＝κ(xi,xj)，σ为一个超参，e为自然对数函数的底数；I为单位矩阵，η也为一个超参，i,j为正整数。
15.根据权利要求4至14中任一项所述的方法，其特征在于，所述未评估元素的分布关系为所述未评估元素的聚类结果，所述K个元素分别为所述未评估元素的聚类结果包括的K个簇中的元素。
16.根据权利要求15所述的方法，其特征在于，所述K个元素分别为所述K个簇的中心对应的K个元素。
17.一种图像处理方法，其特征在于，包括：
获取待处理图像；
根据目标神经网络对所述待处理图像进行分类，得到所述待处理图像的分类结果；
其中，所述目标神经网络由目标网络结构构建而成，所述目标网络结构是通过权利要求1至16中任一项所述的方法得到的。
18.一种构建神经网络的装置，其特征在于，包括：
构建单元，用于根据目标神经网络的应用需求，构建搜索空间，所述搜索空间包括M个元素，...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。