The invention discloses an adaptive deformation void convolution method, which includes a forward derivation model of adaptive deformation void convolution and an adaptive deformation void convolution gradient back propagation model. The feature is that the adaptive deformation void convolution method takes the expansion rate of void convolution as an unknown parameter of the model, and learns the expansion rate autonomously through training data. The adaptive deformation void convolution forward derivation model converts the discrete hyperparametric expansion rate in traditional void convolution into continuous model parameters, thus expanding the input of void convolution from discrete space to continuous space, and making the expansion rate of adaptive deformation void convolution learn through the adaptive deformation void convolution gradient back propagation model. The self-adaptive deformation void convolution method of the invention has the advantages of self-learning expansion rate, high flexibility, and is suitable for popularization and application.
【技术实现步骤摘要】
一种自适应形变空洞卷积方法
本专利技术属于深度学习领域,特别涉及一种可形变空洞卷积方法。
技术介绍
空洞卷积(atrousconvolution)又名扩张卷积(dilatedconvolution),通过在标准卷积核中注入空洞,能够在不增加模型参数和计算量的条件下增加神经元的感受野。空洞卷积通常被串联或并联使用以提取全局或多尺度信息,进而提升神经网络的性能。作为空洞卷积的核心超参数,扩张率(dilationrate)定义了向卷积核注入空洞的间距。扩张率太小会限制神经元的感受野,使其无法有效提取全局特征;扩张率太大又会导致学习到远距离的不相关特征并丢失近距离的细节信息。因此,选择合适的扩张率往往是一件非常困难的任务。
技术实现思路
为了克服上述空洞卷积超参数扩张率选取困难的问题,本专利技术提供一种自适应形变空洞卷积方法。一种自适应形变空洞卷积方法属于深度学习领域,其特征在于,包括自适应形变空洞卷积前向推导模型和自适应形变空洞卷积梯度反向传播模型,自适应形变空洞卷积方法将空洞卷积的扩张率作为模型未知参数,利用训练数据自主学习扩张率(如图1所示)。本专利技术的自适应形变空洞 ...
【技术保护点】
1.一种自适应形变空洞卷积方法,包括:自适应形变空洞卷积前向推导模型和自适应形变空洞卷积梯度反向传播模型,其特征在于:所述一种自适应形变空洞卷积方法将空洞卷积的扩张率作为模型未知参数,利用训练数据自主学习所述扩张率;所述自适应形变空洞卷积前向推导模型将传统空洞卷积中的离散超参数扩张率转换为连续模型参数,从而将空洞卷积的输入由离散空间扩展到连续空间,并且使得所述自适应形变空洞卷积的扩张率能够通过所述自适应形变空洞卷积梯度反向传播模型来学习。
【技术特征摘要】
1.一种自适应形变空洞卷积方法,包括:自适应形变空洞卷积前向推导模型和自适应形变空洞卷积梯度反向传播模型,其特征在于:所述一种自适应形变空洞卷积方法将空洞卷积的扩张率作为模型未知参数,利用训练数据自主学习所述扩张率;所述自适应形变空洞卷积前向推导模型将传统空洞卷积中的离散超参数扩张率转换为连续模型参数,从而将空洞卷积的输入由离散空间扩展到连续空间,并且使得所述自适应形变空洞卷积的扩张率能够通过所述自适应形变空洞卷积梯度反向传播模型来学习。2....
【专利技术属性】
技术研发人员:王吴凡,朱纪洪,匡敏驰,闫星辉,
申请(专利权)人:清华大学,
类型:发明
国别省市:北京,11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。