本发明专利技术提供了一种模型剪枝方法、装置、计算机设备及存储介质，属于人工智能技术领域，其方法包括如下步骤：获取医学图像；使用医学图像对UNet++神经网络进行训练，在训练过程中，使用辅助指标函数对UNet++神经网络的解码器块进行选择，得到C‑UNet++神经网络；使用滤波器重加权方法对C‑UNet++神经网络中的滤波器进行激活，得到剪枝后的神经网络模型。本发明专利技术以UNet++为基础，通过使用辅助指标函数对UNet++的解码器块进行选择，能够减少剪枝过程中的计算开销；通过对选择后得到的C‑UNet++神经网络的滤波器进行激活，能够得到剪枝后的神经网络模型，从而生成高效且性能优越的深度神经网络。
【技术实现步骤摘要】
本专利技术属于人工智能，具体涉及一种模型剪枝方法、装置、计算机设备及存储介质。
技术介绍
1、目前，大多数语义分割模型是针对特定任务而设计，并在大规模数据集上进行训练得到的，因此常常无法扩展到多个不同任务进行使用。而对于语义分割的子领域医学图像分割，这种现象更为严重，造成这种现象的原因有两方面：一是医学图像具有高度的多样性，例如肿瘤分割，肿瘤的形状往往都是不规则的，而且不同器官组织的肿瘤往往也具有极大的差异。第二个原因是医学图像分割任务由于数据的标注更为困难以及病人隐私等问题，导致这些任务通常只有一个很小的训练数据集。这两个原因导致在一个医学分割任务数据集上训练得到的分割模型难以推广到其他任务，为此，需要对语义分割模型进行剪枝处理。
2、模型剪枝是一种减小深度学习模型规模的技术，通过去除模型中的冗余参数和连接，从而实现模型的稀疏化。现有的剪枝方法通常需要大量的计算资源和时间来完成剪枝过程。这是由于剪枝涉及对模型进行多次训练和评估，以确定哪些神经元可以被剪枝以优化网络结构，这对于资源有限的环境或需要快速部署的场景来说是一个挑战。其次，现有的剪枝方法通常不使用有关人工设计模型的先验知识，这意味着剪枝过程主要依赖于自动搜索和优化算法来确定最佳的网络结构。虽然这种自动化的方法可以发现一些新颖网络结构，但有时候缺乏人工设计的经验和知识可能导致生成的网络结构在某些任务上计算速度不够理想。
3、综上所述，现有的模型剪枝方法往往会消耗大量的资源并且忽视了目前现有性能优良模型的先验知识，导致其计算效率不高且模型性能受限。</p>
技术实现思路
1、为了克服现有的模型剪枝方法计算效率不高且模型性能受限的不足，本专利技术提供了一种模型剪枝方法，包括如下步骤：
2、获取医学图像；
3、使用医学图像对unet++神经网络进行训练，在训练过程中，使用辅助指标函数对unet++神经网络的解码器块进行选择，得到c-unet++神经网络；
4、使用滤波器重加权方法对c-unet++神经网络中的滤波器进行激活，得到剪枝后的处理医学图像的神经网络模型；
5、使用辅助指标函数对unet++神经网络的解码器块进行选择，具体为：设定医学图像的像素值的阈值，使用辅助指标函数计算解码器块响应的医学图像的每一个像素值，若像素值小于设定阈值，则移除所述解码器块，若像素值大于设定阈值，则保留所述解码器块，保留的所有解码器块构成c-unet++神经网络。
6、优选的，所述辅助指标函数为：
7、
8、其中，xi和分别表示第i个解码器块的输入和响应，是解码器块中的参数的集合，α为阈值。
9、优选的，使用滤波器重加权方法对c-unet++神经网络中的滤波器进行激活，包括如下步骤：
10、在c-unet++神经网络中选取两个具有相同结构的网络n1与n2；
11、对网络n1与n2进行训练；
12、使用n2网络中与n1处于同一位置的滤波器对n1网络中的冗余滤波器进行重加权，得到剪枝后的神经网络模型frc-unet++。
13、优选的，使用n2网络中与n1中处于同一位置的滤波器对n1网络中的冗余滤波器进行重加权，通过两个网络中相应权重的平均值公式确定，具体如下：
14、
15、其中，和分别表示来自第i层的n1网络和n2网络的权重，γ为系数。
16、优选的，所述系数γ的计算公式为：
17、
18、
19、其中，μ和λ为人为设定的超参数，h(w)表示滤波器w的熵，和分别表示n1网络和n2网络的熵，t表示滤波器w中所有元素的个数，pk表示第k个元素的值。
20、优选的，当时，γ等于0.5；当γ大于0.5。
21、优选的，所述滤波器重加权方法为自适应加权策略。
22、本专利技术还提供有一种模型剪枝装置，包括：
23、图像获取模块，用于获取医学图像；
24、解码器块选择模块，用于使用医学图像对unet++神经网络进行训练，在训练过程中，使用辅助指标函数对unet++神经网络的解码器块进行选择，得到c-unet++神经网络；
25、滤波器激活模块，用于使用滤波器重加权方法对c-unet++神经网络中的滤波器进行激活，得到剪枝后的处理医学图像的神经网络模型；
26、使用辅助指标函数对unet++神经网络的解码器块进行选择，具体为：设定医学图像的像素值的阈值，使用辅助指标函数计算解码器块响应的医学图像的每一个像素值，若像素值小于设定阈值，则移除所述解码器块，若像素值大于设定阈值，则保留所述解码器块，保留的所有解码器块构成c-unet++神经网络。
27、本专利技术还提供有一种计算机设备，括存储器和处理器；所述存储器存储有计算机程序，所述处理器用于运行所述存储器内的计算机程序，以执行模型剪枝方法。
28、本专利技术还提供有一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程，所述计算机程序适于处理器进行加载，以执行模型剪枝方法。
29、本专利技术提供的模型剪枝方法、装置、计算机设备及存储介质具有以下有益效果：
30、本专利技术以unet++神经网络模型作为架构优化的基础，通过对unet++神经网络的解码器块进行选择，该过程不需要大量的计算资源和计算时间，从而能够减少剪枝过程中的计算开销；通过对选择后得到的c-unet++神经网络中的滤波器进行激活，能够增强解码器块丢弃后剩余的解码器块的信息量，从而强化滤波器的能力，使其蕴含更多有助于最终任务的信息，从而生成高效且性能优越的深度神经网络。
本文档来自技高网...
【技术保护点】
1.一种模型剪枝方法，其特征在于，包括如下步骤：
2.根据权利要求1所述的模型剪枝方法，其特征在于，所述辅助指标函数为：
3.根据权利要求1所述的模型剪枝方法，其特征在于，使用滤波器重加权方法对C-UNet++神经网络中的滤波器进行激活，包括如下步骤：
4.根据权利要求3所述的模型剪枝方法，其特征在于，使用N2网络中与N1中处于同一位置的滤波器对N1网络中的冗余滤波器进行重加权，通过两个网络中相应权重的平均值公式确定，具体如下：
5.根据权利要求4所述的模型剪枝方法，其特征在于，所述系数γ的计算公式为：
6.根据权利要求5所述的模型剪枝方法，其特征在于，当时，γ等于0.5；当γ大于0.5。
7.根据权利要求1所述的模型剪枝方法，其特征在于，所述滤波器重加权方法为自适应加权策略。
8.一种模型剪枝装置，其特征在于，包括：
9.一种计算机设备，其特征在于，包括存储器和处理器；所述存储器存储有计算机程序，所述处理器用于运行所述存储器内的计算机程序，以执行权利要求1至7任一项所述的方法。>
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程，所述计算机程序适于处理器进行加载，以执行权利要求1至7任一项所述的方法。
...
【技术特征摘要】
1.一种模型剪枝方法，其特征在于，包括如下步骤：
2.根据权利要求1所述的模型剪枝方法，其特征在于，所述辅助指标函数为：
3.根据权利要求1所述的模型剪枝方法，其特征在于，使用滤波器重加权方法对c-unet++神经网络中的滤波器进行激活，包括如下步骤：
4.根据权利要求3所述的模型剪枝方法，其特征在于，使用n2网络中与n1中处于同一位置的滤波器对n1网络中的冗余滤波器进行重加权，通过两个网络中相应权重的平均值公式确定，具体如下：
5.根据权利要求4所述的模型剪枝方法，其特征在于，所述系数γ的计算公式为：
6.根据...
【专利技术属性】
技术研发人员：夏勇，陈亚鑫，马本腾，李崇，
申请(专利权)人：西北工业大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。