【技术实现步骤摘要】
本申请涉及深度学习模型压缩，尤其涉及一种面向微小型无人机平台的深度学习模型压缩方法、系统、设备及介质。
技术介绍
1、近年来，无人机(unmanned aerial vehicle，uav)凭借其灵活性和高效性等优势在民用领域和军用领域有着非常广泛的应用。无人机系统的安全性和自主性亦成为无人机执行复杂任务的必要条件，当前无人机系统也正朝着自主化、智能化的方向发展。深度学习具有从真实复杂环境中获取的数据中学习表示底层特征的卓越能力，在解决环境感知、规划控制等领域的各种无人机任务方面也表现出突出的效果。
2、然而，由于对高准确率模型的追求，使深度学习模型变得越来复杂和庞大，模型的参数量和计算量呈指数级上升。复杂模型难以在计算资源和存储资源受限的无人机平台上实现实时运行，无法满足无人机对任务的实时性等要求。为减少模型的参数量和计算量，提出了各种模型压缩加速方法。
3、模型剪枝是最常用的模型压缩技术之一，可分为结构化剪枝和非结构化剪枝。其中，非结构化剪枝算法简单，模型压缩比高，但剪枝后权重矩阵稀疏，没有专用硬件难以实现压缩和加速的效果；而结构化剪枝通常以滤波器或者整个网络层为基本单位进行剪枝，模型的准确率损失更严重，但运行计算不需要额外的硬件和加速算法支持，加速效果好。
4、传统的模型压缩依赖于人工设计的启发式和基于规则的策略，需要领域专家在模型大小、速度和精度之间权衡，这种方法得到的压缩模型通常是次优的，且压缩策略的探索时间非常耗时耗力。
5、当前的自动压缩方法只评估压缩模型运行时的准确
技术实现思路
1、本申请提供了一种面向微小型无人机平台的深度学习模型压缩方法、系统。计算机设备及介质，以解决现有无人机的深度学习模型压缩方法存在的无法获得最优、耗时耗力，以及在精度和时延方面存的局限性的技术问题，实现在保证模型准确率的同时，降低压缩后模型对无人机系统的影响。
2、为解决上述技术问题，第一方面，本申请提供了一种面向微小型无人机平台的深度学习模型压缩方法，所述方法包括：
3、获取无人机要完成的任务和无人机所在平台的平台信息，基于所述任务和所述平台信息确定模型需求和资源预算；所述资源预算包括：延迟预算和内存预算；
4、根据所述模型需求选择执行所述任务的深度学习模型，并将其作为待压缩深度学习模型；所述深度学习模型包括：目标检测网络模型和深度估计网络模型；
5、根据所述资源预算构建压缩任务需求模型；所述压缩任务需求模型包括模型压缩的优化目标和约束条件；
6、利用差分进化算法搜索最优压缩策略；
7、基于所述模型压缩的优化目标和约束条件，根据所述最优压缩策略对所述待压缩深度学习模型进行自动压缩。
8、优选的，所述优化目标和约束条件表示为：
9、
10、s.t.t≤tbudget，s≤sbudget，
11、其中，a、p、t和s分别表示待压缩深度学习模型经压缩后在无人机平台上所测量得到的准确率、路径成本、延迟和模型大小，μ1和μ2表示权重因子，amin和pmax分别表示压缩模型可接受的最小准确度和最大路径成本，tbudget和sbudget分别表示延迟预算和内存预算，rall是连续的实值空间，表示压缩超参数的可选值。
12、优选的，所述利用差分进化算法搜索最优压缩策略，包括：
13、随机生成一组个体作为初始种群，每个所述个体表示待压缩深度学习模型压缩后的结构；
14、随机选择两个个体并计算两个个体间的差异，将所述差异与另一个随机个体进行组合，生成变异个体；
15、将每一个所述变异个体与对应的原个体进行交叉操作，产生实验个体；
16、比较所述实验个体与对应的原个体的适应度值，选择适应度更好的个体作为最优个体；
17、判断是否达到预定的迭代次数，若否，则将所述最优个体作为下一代种群的父代继续进行迭代搜索；若是，则结束搜索，将所述最优个体作为最优压缩策略输出。
18、优选的，所述个体的信息包括每一个所述待压缩深度学习模型可压缩层通道压缩率；
19、所述通道压缩率的限值为[0.2，1]。
20、优选的，所述利用差分进化算法搜索最优压缩策略，还包括：
21、待完成一轮搜索得到最优压缩策略后，基于所述模型压缩的优化目标和约束条件，对按所述最优压缩策略进行压缩后的深度学习模型进行性能评估；
22、若性能评估结果满足要求，则输出所述最优压缩策略，若性能评估结果不满足要求，则进行新一轮的搜索，以对所述最优压缩策略进行更新。
23、优选的，性能评估指标包括：准确率、模型大小、时延和对无人机任务及系统的影响；
24、所述对无人机任务及系统的影响包括压缩后的深度学习模型部署在无人机平台后，实际任务产生的飞行轨迹的路径成本；
25、所述路径成本包括距离成本和威胁成本；
26、所述距离成本的计算公式为：
27、
28、其中，n表示路径点的总数，wij表示第i条飞行路径中第j个路径点的无人机三维位置坐标，li表示第i条飞行路径。
29、所述威胁成本的计算公式为：
30、
31、
32、其中，k表示飞行环境下障碍物威胁区集合，rk表示圆柱形障碍威胁区的半径，d表示碰撞威胁区，dk表示路径段与圆柱形障碍区中心的距离，γc表示障碍物威胁成本惩罚系数；
33、所述路径成本的计算公式为：
34、p(li)＝αpl(li)+βpt(li)，
35、其中，α和β分别为距离成本和威胁成本的权重系数。
36、优选的，所述基于所述模型压缩的优化目标和约束条件，对按所述最优压缩策略进行压缩后的深度学习模型进行性能评估，包括：
37、根据所述模型大小和所述时延评估压缩模型是否满足无人机平台的资源预算；
38、将所述准确率和所述路径成本的归一化值作为模型适应度值，根据所述模型适应度值评估所述压缩后的深度学习模型在无人机系统的性能表现；
39、所述模型适应度值的计算公式为：
40、fitness＝μ1n(a-amin)+μ2n(pmax-p)，
41、其中，μ1和μ2表示权重因子，n(x)表示标准化操作，amin和pmax分别表示待压缩深度学习模型可接受的最小准确度和最大路径成本。
42、第二方面，本申请还提供了一种面向微小型无人机平台的深度学本文档来自技高网...
【技术保护点】
1.一种面向微小型无人机平台的深度学习模型压缩方法，其特征在于，所述方法包括：
2.如权利要求1所述的面向微小型无人机平台的深度学习模型压缩方法，其特征在于，所述优化目标和约束条件表示为：
3.如权利要求1所述的面向微小型无人机平台的深度学习模型压缩方法，其特征在于，所述利用差分进化算法搜索最优压缩策略，包括：
4.如权利要求3所述的面向微小型无人机平台的深度学习模型压缩方法，其特征在于，所述个体的信息包括每一个所述待压缩深度学习模型可压缩层通道压缩率；
5.如权利要求1所述的面向微小型无人机平台的深度学习模型压缩方法，其特征在于，所述利用差分进化算法搜索最优压缩策略，还包括：
6.如权利要求5所述的面向微小型无人机平台的深度学习模型压缩方法，其特征在于，性能评估指标包括：准确率、模型大小、时延和对无人机任务及系统的影响；
7.如权利要求6所述的面向微小型无人机平台的深度学习模型压缩方法，其特征在于，所述基于所述模型压缩的优化目标和约束条件，对按所述最优压缩策略进行压缩后的深度学习模型进行性能评估，包括：p>
8.一种面向微小型无人机平台的深度学习模型压缩系统，其特征在于，所述系统包括：模型需求和资源预算确定单元、待压缩深度学习模型确定单元、压缩任务需求模型构建单元、最优压缩策略搜索单元和模型压缩单元；
9.一种计算机设备，其特征在于：所述计算机设备包括存储器、处理器和收发器，它们之间通过总线连接；存储器用于存储一组计算机程序指令和数据，并将存储的数据传输给处理器，处理器执行存储器存储的程序指令，以执行如权利要求1至7中任一项所述的方法。
10.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质中存储有计算机程序，当所述计算机程序被运行时，实现如权利要求1至7任一项所述的方法。
...【技术特征摘要】
1.一种面向微小型无人机平台的深度学习模型压缩方法，其特征在于，所述方法包括：
2.如权利要求1所述的面向微小型无人机平台的深度学习模型压缩方法，其特征在于，所述优化目标和约束条件表示为：
3.如权利要求1所述的面向微小型无人机平台的深度学习模型压缩方法，其特征在于，所述利用差分进化算法搜索最优压缩策略，包括：
4.如权利要求3所述的面向微小型无人机平台的深度学习模型压缩方法，其特征在于，所述个体的信息包括每一个所述待压缩深度学习模型可压缩层通道压缩率；
5.如权利要求1所述的面向微小型无人机平台的深度学习模型压缩方法，其特征在于，所述利用差分进化算法搜索最优压缩策略，还包括：
6.如权利要求5所述的面向微小型无人机平台的深度学习模型压缩方法，其特征在于，性能评估指标包括：准确率、模型大小、时延和对无人机任务及系统的影响；
7...
【专利技术属性】
技术研发人员：任骜，林秋，刘铎，谭玉娟，陈咸彰，钟刊，
申请(专利权)人：重庆大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。