大规模网络表征学习的超参数优化方法和装置制造方法及图纸

本申请提出一种大规模网络表征学习的超参数优化方法和装置，其中，方法包括：对原始网络进行采样，得到多个子网络，根据预设算法提取原始网络的第一图像特征和多个子网络中每个子网络的第二图像特征，根据高斯过程回归拟合每个子网络的第二图像特征和超参数到最终效果的映射，根据相似度函数对第一图像特征和每个第二图像特征计算，获取原始网络和每个子网络的网络相似度，学习多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射生成原始网络的最优超参数，以便通过原始网络进行信息识别。该方法学习多个子网络中的超参数和第二图像特征到最终效果的映射，来最优化原始网络的最优超参，能够快速有效的自动化调整原始网络的超参数。

Super-parametric optimization method and device for large-scale network representation learning

【技术实现步骤摘要】
大规模网络表征学习的超参数优化方法和装置
本申请涉及网络学习
，尤其涉及一种大规模网络表征学习的超参数优化方法和装置。
技术介绍
网络表征学习是一种有效处理网络数据的方式。为了取得良好的效果，网络表征学习通常需要人为仔细的调参。但是，现实网络的大规模给自动机器学习应用于网络表征学习方法带来困难。
技术实现思路
本申请旨在至少在一定程度上解决相关技术中的技术问题之一。本申请提出一种大规模网络表征学习的超参数优化方法，以解决现有技术中对大规模网络表征学习的超参数进行优化效率较低的技术问题。本申请一方面实施例提出了大规模网络表征学习的超参数优化方法，包括：对原始网络进行采样，得到多个子网络；根据预设算法提取所述原始网络的第一图像特征和所述多个子网络中每个子网络的第二图像特征；根据高斯过程回归拟合所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射；根据相似度函数对所述第一图像特征和每个第二图像特征计算，获取所述原始网络和每个子网络的网络相似度；根据所述原始网络和每个子网络的网络相似度，学习所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射生成所述原始网络的最优超参，以便通过所述原始网络进行信息识别。本申请实施例的大规模网络表征学习的超参数优化方法，通过对原始网络进行采样，得到多个子网络，根据预设算法提取原始网络的第一图像特征和多个子网络中每个子网络的第二图像特征，根据高斯过程回归拟合多个子网络中每个子网络的第二图像特征和超参数到最终结果的映射，根据相似度函数对第一图像特征和每个第二图像特征计算，获取原始网络和每个子网络的网络相似度，根据所述原始网络和每个子网络的网络相似度，学习所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射生成原始网络的最优超参，以便通过原始网络进行信息识别。该方法通过学习多个子网络中的超参数和第二图像特征到最终效果的映射，来最优化原始网络的最优超参，能够快速有效的自动化调整原始网络的超参数。本申请另一方面实施例提出了一种大规模网络表征学习的超参数优化装置，包括：采样模块，用于对原始网络进行采样，得到多个子网络；提取模块，用于根据预设算法提取所述原始网络的第一图像特征和所述多个子网络中每个子网络的第二图像特征；拟合模块，用于根据高斯过程回归拟合所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射；计算模块，用于根据相似度函数对所述第一图像特征和每个第二图像特征计算，获取所述原始网络和每个子网络的网络相似度；生成模块，用于根据所述原始网络和每个子网络的网络相似度，学习所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射生成所述原始网络的最优超参，以便通过所述原始网络进行信息识别。本申请实施例的大规模网络表征学习的超参数优化装置，通过对原始网络进行采样，得到多个子网络，根据预设算法提取原始网络的第一图像特征和多个子网络中每个子网络的第二图像特征，根据高斯过程回归拟合多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射，根据相似度函数对第一图像特征和每个第二图像特征计算，获取原始网络和每个子网络的网络相似度，根据原始网络和每个子网络的网络相似度，学习多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射生成原始网络的最优超参，以便通过原始网络进行信息识别。该方法通过学习多个子网络中的超参数和第二图像特征到最终效果的映射，来最优化原始网络的最优超参，能够快速有效的自动化调整原始网络的超参数。本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。附图说明本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：图1为本申请实施例提供的一种大规模网络表征学习的超参数优化方法的流程示意图；图2为本申请实施例提供的一种大规模网络表征学习的超参数优化装置的结构示意图。具体实施方式下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。现有技术中，对大规模网络表征学习的超参数优化时，是直接在采样后的小图上调参，但是，在采样得到小图时破坏了网络节点之间的联系，使得采样小图上的最优解并不是大图的最优解。并且，现实网络数据通常由很多不同异构单元组成，采样可能造成某些单元的丢失而影响最优解的选择。针对上述技术问题，本申请实施例提供了一种大规模网络表征学习的超参数优化方法，通过对原始网络进行采样，得到多个子网络，根据预设算法提取原始网络的第一图像特征和多个子网络中每个子网络的第二图像特征，根据高斯过程回归拟合多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射，根据相似度函数对第一图像特征和每个第二图像特征计算，获取原始网络和每个子网络的网络相似度，根据原始网络和每个子网络的网络相似度，学习多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射生成原始网络的最优超参，以便通过原始网络进行信息识别。下面参考附图描述本申请实施例的大规模网络表征学习的超参数优化方法和装置。图1为本申请实施例提供的一种大规模网络表征学习的超参数优化方法的流程示意图。如图1所示，该方法包括以下步骤：步骤101，对原始网络进行采样，得到多个子网络。其中，原始网络，是指用于网络表征学习的大规模网络。网络表征学习旨在将网络中的节点表示成低维、实值、稠密的向量形式，使得得到的向量形式可以在向量空间中具有表示以及推理的能力，从而可以更加灵活地应用于不同的数据挖掘任务中。举例来说，节点的表示可以作为特征，送到类似支持向量机的分类器中。同时，节点表示也可以转化成空间坐标，用于可视化任务。本申请实施例中，采用多源随机游走采样算法，对原始网络进行采样，得到多个子网络。具体地，从原始网络的多个节点出发，随机游走向它的邻节点，再从邻节点开始随机移动，直至达到预设次数，最后将游走到的所有节点构成的子图当作我们采样的子网络，从而生成多个子网络。步骤102，根据预设算法提取原始网络的第一图像特征和多个子网络中每个子网络的第二图像特征。本实施例中，采用预设的信号提取算法对原始网络和多个子网络进行信号提取，得到原始网络的第一图像特征和多个子网络中每个子网络的第二图像特征。具体地，计算在拉普拉斯矩阵下原始网络的第一候选特征向量，和每个子网络的第二候选特征向量。进而，对第一特征向量和第二特征向量进行低通滤波，得到原始网络的第一特征向量和每个子网络的第二特征向量。步骤103，根据高斯过程回归拟合多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射。其中，高斯过程回归研究的是变量与变量之间的关系，也就是通过建立因变量与自变量的关系，通过建立尽可能的回归函数，在不过拟合的情况下，获得最小均方误差。本实施例中，通过高斯过程回归算法对采样得到的多个子网络中的每个子网络的第二图像特征和超参数到最终效果的映射。步骤104，根据相似度函数对第一图像特征和每个第二图像特征计算，获取原始网络和每个子网络的网络相似度。其中，网络相似度，为原本文档来自技高网...

【技术保护点】
1.一种大规模网络表征学习的超参数优化方法，其特征在于，所述方法包括以下步骤：对原始网络进行采样，得到多个子网络；根据预设算法提取所述原始网络的第一图像特征和所述多个子网络中每个子网络的第二图像特征；根据高斯过程回归拟合所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射；根据相似度函数对所述第一图像特征和每个第二图像特征计算，获取所述原始网络和每个子网络的网络相似度；根据所述原始网络和每个子网络的网络相似度，学习所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射生成所述原始网络的最优超参，以便通过所述原始网络进行信息识别。

【技术特征摘要】
1.一种大规模网络表征学习的超参数优化方法，其特征在于，所述方法包括以下步骤：对原始网络进行采样，得到多个子网络；根据预设算法提取所述原始网络的第一图像特征和所述多个子网络中每个子网络的第二图像特征；根据高斯过程回归拟合所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射；根据相似度函数对所述第一图像特征和每个第二图像特征计算，获取所述原始网络和每个子网络的网络相似度；根据所述原始网络和每个子网络的网络相似度，学习所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射生成所述原始网络的最优超参，以便通过所述原始网络进行信息识别。2.如权利要求1所述的方法，其特征在于，所述对原始网络进行采样，得到多个子网络，包括：根据多源随机游走采样算法，在所述原始网络的节点中随机选取多个节点为起点；根据预设的概率随机游走到所述多个节点的邻节点，再从所述邻节点开始随机移动，直至达到预设次数，生成所述多个子网络。3.如权利要求1所述的方法，其特征在于，所述根据高斯过程回归拟合所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射，包括：将所述相似度函数作为高斯过程的核函数，对所述第一图像特征和每个第二图像特征计算，获取所述原始网络和每个子网络的网络相似度。4.如权利要求1所述的方法，其特征在于，所述获取所述原始网络和每个子网络的网络相似度，包括：获取所述原始网络和每个子网络的网络结构相似度和超参相似度。5.如权利要求1所述的方法，其特征在于，所述根据预设算法提取所述原始网络的第一图像特征和所述多个子网络中每个子网络的第二图像特征，包括：计算在拉普拉斯矩阵下所述原始网络的第一候选特征向量，和所述每个子网络的第二候选特征向量；对所述第一特征向量和所述第二特征向量进行低通滤波...

【专利技术属性】
技术研发人员：朱文武，涂珂，崔鹏，
申请(专利权)人：清华大学，
类型：发明
国别省市：北京,11