本发明专利技术实施例提供了一种搜索方法、装置和电子设备，其中，所述方法包括：获取与目标业务对应的网络构建信息和用于执行所述目标任务的目标网络对应的目标运行环境信息，所述网络构建信息包括：搜索空间信息、样本数据和搜索指标；基于所述搜索空间信息构建超网络，并基于所述样本数据对超网络进行训练，其中，所述超网络包括多个子网络；从训练后的超网络搜索子网络并对所述子网络进行量化，基于所述搜索指标和目标运行环境信息从量化后的子网络中选取所述目标网络；相对于现有技术需要人工手动设计网络而言，本发明专利技术实施例能够在保证网络精度的同时，适应于运行环境及任务，快速的构建网络。建网络。建网络。
【技术实现步骤摘要】
一种搜索方法、装置和电子设备
[0001]本专利技术涉及数据处理
，特别是涉及一种搜索方法、装置和电子设备。
技术介绍
[0002]当前人类所面临的重大科学技术研究任务之一，是要揭示大脑的工作机制和人类智能的本质，制造出具有完成人类智能活动能力的人工智能系统。神经网络是从脑的神经系统结构出发来研究脑的功能，研究人脑简单的神经元的信息处理能力及其动态行为。经过几十年的发展，现在神经网络对一直困扰计算机科学和符号处理的一些难题可以得到比较令人满意的解答；被广泛应用于图像识别、模式识别、自动控制、信号处理、辅助决策、人工智能等众多领域。
[0003]其中，基于神经网络设计的图像识别算法能够获得很高的准确性，但同时其对计算力要求较高，使得将其移植到计算力有限的移动端上非常困难。为了能够获得计算力和算法精度的平衡，人们手工设计出了一些轻量级的网络结构，使得在移动端上运行高精度的图像识别算法成为了可能。但是手工设计网络的难度巨大，需要耗费大量的人力物力和时间。且在移动端部署网络模型时，由于平台技术能力有限，需要对网络模型做量化处理(例如int8量化)再进行部署。目前，一般都会在训练得到网络模型后，直接采用前向框架提供的量化方法来进行量化，这样的量化会带来精度损失，且很难补偿回来。
技术实现思路
[0004]本专利技术实施例提供一种搜索方法，以在保证网络精度的同时，适应于运行环境及任务，快速的构建网络。
[0005]相应的，本专利技术实施例还提供了一种搜索装置和一种电子设备，用以保证上述方法的实现及应用。
[0006]为了解决上述问题，本专利技术实施例公开了一种搜索方法，具体包括：获取与目标业务对应的网络构建信息和用于执行所述目标任务的目标网络对应的目标运行环境信息，所述网络构建信息包括：搜索空间信息、样本数据和搜索指标；基于所述搜索空间信息构建超网络，并基于所述样本数据对超网络进行训练，其中，所述超网络包括多个子网络；从训练后的超网络搜索子网络并对所述子网络进行量化，基于所述搜索指标和目标运行环境信息从量化后的子网络中选取所述目标网络。
[0007]可选地，所述搜索空间信息包括：用于构建超网络的多个模块对应的分支构建形式；所述基于所述搜索空间信息构建超网络，包括：从所述搜索空间信息中，提取各模块对应的分支构建形式；针对每一个模块，按照所述模块对应的分支构建形式构建所述模块的各分支；并将所述模块的各个分支并联，构建所述模块；将各模块串联，构建所述超网络。
[0008]可选地，所述将各模块串联，构建所述超网络，包括：将所述各模块串联并将每个模块各自的输入与输出连接，构建所述超网络。
[0009]可选地，所述样本数据包括训练数据，所述训练数据包括训练样本数据和所述训
练样本数据对应的参考样本数据，所述基于所述样本数据对超网络进行训练，包括：从所述超网络中选取一子网络，将训练样本数据输入至所述选取出的子网络中进行前向计算，得到所述选取出的子网络输出的数据；基于所述选取出的子网络输出的数据和参考样本数据，对所述选取出的子网络进行反向传播。
[0010]可选地，所述超网络由多个模块串联构成，每个模块由多个分支并联构成；所述从所述超网络中选取一子网络，包括：从所述超网络的各模块中选取一个分支，将从各模块中选取的一个分支串联，构成一子网络。
[0011]可选地，所述超网络由多个模块串联构成，每个模块由多个分支并联构成，所述基于所述搜索指标和目标运行环境信息从量化后的子网络中选取所述目标网络，包括：获取所述超网络中各模块中量化后的各分支，在所述目标运行环境信息对应的目标运行环境中的计算速度；基于所述搜索指标和所述计算速度，从量化后的子网络中选取所述目标网络。
[0012]可选地，所述样本数据包括测试数据，所述子网络由各模块的至少一个分支构成；所述基于所述搜索指标和所述计算速度，从量化后的子网络中选取所述目标网络，包括：通过将所述测试数据输入至量化后的子网络对所述子网络进行测试，得到所述量化后的子网络的计算精度；以及基于所述超网络中各模块中量化后的各分支在所述目标运行环境中的运行速度，查找所述量化后的子网络的计算速度；依据所述计算精度和计算速度，确定所述量化后的子网络的性能参数；基于所述量化后的子网络的性能参数，从所述量化后的子网络中选取出性能最优且满足搜索指标的子网络作为目标网络。
[0013]可选地，所述的方法还包括：采用所述样本数据对所述目标网络进行训练。
[0014]可选地，所述目标运行环境信息包括：用于运行所述目标网络的硬件平台的硬件平台信息，和/或，用于运行所述目标网络的前向框架的框架信息。
[0015]本专利技术实施例还公开了一种搜索装置，具体包括：获取模块，用于获取与目标业务对应的网络构建信息和用于执行所述目标任务的目标网络对应的目标运行环境信息，所述网络构建信息包括：搜索空间信息、样本数据和搜索指标；构建模块，用于基于所述搜索空间信息构建超网络，并基于所述样本数据对超网络进行训练，其中，所述超网络包括多个子网络；搜索模块，用于从训练后的超网络搜索子网络并对所述子网络进行量化，基于所述搜索指标和目标运行环境信息从量化后的子网络中选取所述目标网络。
[0016]可选地，所述搜索空间信息包括：用于构建超网络的多个模块对应的分支构建形式；所述构建模块，包括：信息提取子模块，用于从所述搜索空间信息中，提取各模块对应的分支构建形式；网络模块构建子模块，用于针对每一个模块，按照所述模块对应的分支构建形式构建所述模块的各分支；并将所述模块的各个分支并联，构建所述模块；网络构建子模块，用于将各模块串联，构建所述超网络。
[0017]可选地，所述网络构建子模块，用于将所述各模块串联并将每个模块各自的输入与输出连接，构建所述超网络。
[0018]可选地，所述样本数据包括训练数据，所述训练数据包括训练样本数据和所述训练样本数据对应的参考样本数据，所述构建模块，包括：前向计算子模块，用于从所述超网络中选取一子网络，将训练样本数据输入至所述选取出的子网络中进行前向计算，得到所述选取出的子网络输出的数据；反向传播子模块，用于基于所述选取出的子网络输出的数据和参考样本数据，对所述选取出的子网络进行反向传播。
[0019]可选地，所述超网络由多个模块串联构成，每个模块由多个分支并联构成；所述前向计算子模块，用于从所述超网络的各模块中选取一个分支，将从各模块中选取的一个分支串联，构成一子网络。
[0020]可选地，所述超网络由多个模块串联构成，每个模块由多个分支并联构成，所述搜索模块，包括：速度获取子模块，用于获取所述超网络中各模块中量化后的各分支，在所述目标运行环境信息对应的目标运行环境中的计算速度；网络选取子模块，用于基于所述搜索指标和所述计算速度，从量化后的子网络中选取所述目标网络。
[0021]可选地，所述样本数据包括测试数据，所述子网络由各模块的至少一个分支构成；所述网络选取子模块，用于通过将所述测试数据输入至量化后的子网络对所述子网络本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种搜索方法，其特征在于，包括：获取与目标业务对应的网络构建信息和用于执行所述目标任务的目标网络对应的目标运行环境信息，所述网络构建信息包括：搜索空间信息、样本数据和搜索指标；基于所述搜索空间信息构建超网络，并基于所述样本数据对超网络进行训练，其中，所述超网络包括多个子网络；从训练后的超网络搜索子网络并对所述子网络进行量化，基于所述搜索指标和目标运行环境信息从量化后的子网络中选取所述目标网络。2.根据权利要求1所述的方法，其特征在于，所述搜索空间信息包括：用于构建超网络的多个模块对应的分支构建形式；所述基于所述搜索空间信息构建超网络，包括：从所述搜索空间信息中，提取各模块对应的分支构建形式；针对每一个模块，按照所述模块对应的分支构建形式构建所述模块的各分支；并将所述模块的各个分支并联，构建所述模块；将各模块串联，构建所述超网络。3.根据权利要求2所述的方法，其特征在于，所述将各模块串联，构建所述超网络，包括：将所述各模块串联并将每个模块各自的输入与输出连接，构建所述超网络。4.根据权利要求1所述的方法，其特征在于，所述样本数据包括训练数据，所述训练数据包括训练样本数据和所述训练样本数据对应的参考样本数据，所述基于所述样本数据对超网络进行训练，包括：从所述超网络中选取一子网络，将训练样本数据输入至所述选取出的子网络中进行前向计算，得到所述选取出的子网络输出的数据；基于所述选取出的子网络输出的数据和参考样本数据，对所述选取出的子网络进行反向传播。5.根据权利要求4所述的方法，其特征在于，所述超网络由多个模块串联构成，每个模块由多个分支并联构成；所述从所述超网络中选取一子网络，包括：从所述超网络的各模块中选取一个分支，将从各模块中选取的一个分支串联，构成一子网络。6.根据权利要求1所述的方法，其特征在于，所述超网络由多个模块串联构成，每个模块由多个分支并联构成，所述基于所述搜索指标和目标运行环境信息从量化后的子网络中选取所述目标网络，包括：获取所述超网络中各模块中量化后的各分支，在所述目标运行环境信息对应的目标运行环境中的计算速度；基于所述搜索指标和所...
【专利技术属性】
技术研发人员：韦涛，饶旭东，
申请(专利权)人：北京搜狗科技发展有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。