当前位置: 首页 > 专利查询>南通大学专利>正文

一种用于视网膜病变分类的卷积神经网络权值优化方法技术

技术编号:23605521 阅读:38 留言:0更新日期:2020-03-28 06:24
本发明专利技术涉及到医学信息智能处理领域,具体来说涉及一种用于视网膜病变分类的卷积神经网络权值优化方法。该方法首先获取眼底图像训练集、及其对应的多病变标签;通过单种群蛙跳算法寻找最优初始权值,然后构建卷积神经网络中的卷积层、池化层和全连接层,将最优初始权值作为第一次前向传播计算的参数;将视网膜中四种病变的四个预测值分别与真实值进行交叉熵损失计算并求和得到损失值,判断损失值是否异常,如果异常则围绕前一次前向传播的权值生成蛙群,寻找最优蛙更新网络权值;否则采用梯度下降算法更新网络权值;最后对最终权值进行优化。本发明专利技术能有效提高眼底图像多病变检测的准确率,对视网膜疾病和辅助治疗具有较强应用价值。

A convolutional neural network weight optimization method for retinopathy classification

【技术实现步骤摘要】
一种用于视网膜病变分类的卷积神经网络权值优化方法
本专利技术涉及到医学信息智能处理领域,具体来说涉及一种用于视网膜病变分类的卷积神经网络权值优化方法。
技术介绍
彩色眼底图像是诊断眼科疾病最基本的检查方式。同时,眼底图像能使人们尽早地发现各种眼部病变,如青光眼、视神经炎、黄斑病变等,方便及时、有效的治疗。早期诊断与及时治疗可以有效地减少患病率。但由于中国人口数目庞大,眼科医生数量相对有限,单纯依靠医生诊断眼科疾病,需要消耗大量的时间,所以亟需其他方法进行大规模筛查。计算机辅助诊断不仅可以大大减少医生的工作量,而且具有客观、快速、准确等优点。近年来随着带注释数据量的快速增长和图形处理器单元性能的巨大提高,卷积神经网络的研究迅速兴起,在图像分类领域的优势也体现出来。但由于眼底图像的复杂性,采用传统的卷积神经网络对眼底图像进行多标签分类容易使得梯度下降算法陷入局部最优解。所以现在,急需一种新的方法能够有效应对眼底图像的复杂性,提高视网膜多病变的检测正确率。
技术实现思路
本专利技术针对现有技术中存在的不足,提出了本专利技术为实现上述专利技术目的,采取的技术方案如下:一种用于视网膜病变分类的卷积神经网络权值优化方法,包括以下步骤:步骤1、输入眼底图像训练集和标签,训练集为X=(x1,x2,...,xn),n=1,2,3…,标签为B=(b1,b2,…,bn),n=1,2,3…,将眼底图像对应的标签bi进行one-hot编码得到真实值y_truei;步骤2、对卷积神经网络权值参数进行初始化,采用标准正态分布生成m只青蛙,按适应值排序,找出最优蛙fb和最差蛙fw,不断更新最差蛙的位置并重新排序,直至单种群蛙跳算法符合收敛条件,得到全局最优蛙fq,将fq作为卷积神经网络的初始权值;步骤3、将训练集中第j张眼底图像输入卷积神经网络前向传播计算模型,通过多层的卷积、池化,最后进行两层全连接计算,输出得到第j次预测值y_predictj;步骤4、将第j次真实值y_truej与第j次预测值y_predictj,进行softmax计算softmax(y_predictj),进行交叉熵损失计算,得到第j次损失值lossj;步骤5、判断第j次损失值lossj是否异常,如果判定为异常权值,则采用单种群蛙跳算法对异常权值进行纠正,将纠正后的权值作为网络的新权值,否则,则继续执行下一步;步骤6、判断网络是否达到结束条件,如果达到结束条件,则将以网络最终权值作为初始蛙,围绕初始蛙生成蛙群,进行蛙跳寻优,得到全局最优青蛙fqb,即为算法最终训练完成的权值参数;步骤7、将训练完成的权值参数带入网络中,输入眼底图像,通过多层的卷积、池化,最后进行两层全连接计算,输出视网膜中对于多种病变检测的预测值yr。进一步的作为本专利技术的优选技术方案,所述步骤2的具体步骤如下:步骤2.1、确定青蛙数量m,采用标准正态分布生成所有青蛙,标准正态分布公式为:公式(1)中,μ表示位置参数,σ为尺度参数,x为随机变量,每只青蛙f包含网络中的所有权值参数;步骤2.2、构建一个卷积神经网络前向传播计算模型,从眼底图像训练集中随机选取少量w张眼底图像作为参照图像;步骤2.3、将未计算损失值的青蛙带入卷积神经网络前向传播计算模型中,计算青蛙的损失值,这里的损失值计算函数及为单种群蛙跳算法的适应度函数,损失计算公式为:公式(2)中,p表示网络输出值,t表示真实值,s表示每组病变标签的维度,b表示需要同时检测的视网膜病变种类数。根据适应度函数对所有青蛙进行升序排序,得出最优蛙fb和最差蛙fw;步骤2.4、通过位置更新函数对最差蛙的位置进行更新,位置更函数如下:D=(fb+fp-fw)×Rand(0,1.2)(3)fnew=fw+D(4)公式(3)中,fp表示偏移量,其维度与每只青蛙的维度相同;公式(4)中,fnew,表示更新后的青蛙;公式(5)中,fpi表示fp中第i个维度上的值;步骤2.5、判断单种群蛙跳算法是否满足收敛条件,如果满足,则停止算法,将最优蛙的值作为卷积神经网络的初始权值,否则转到步骤2.3。进一步的作为本专利技术的优选技术方案,所述步骤5的具体步骤如下:步骤5.1、判断第j-1次计算的损失值lossj-1与判断第j次计算的损失值lossj的差的绝对值|lossj-1-lossj|是否大于阈值ε,如果大于阈值ε,则执行下一步,否则,不执行本次蛙跳计算;步骤5.2、将第j-1次网络中的权值作为初始蛙wb,围绕wb生成蛙群,生成公式如下:wij=wbj+0.0001×Rand(-1,1)(1<i≤c-1)(6)公式(6)中,wij表示生成的第i只青蛙的第j个维度上的值,c表示青蛙总数;步骤5.3、构建一个卷积神经网络前向传播计算模型,从训练图像库中随机选取少量w张眼底图像作为参照图像;步骤5.4、将未计算损失值的青蛙带入卷积神经网络前向传播计算模型中,计算青蛙的损失值并对青蛙进行排序;步骤5.5、更新最差蛙的位置,并计算更新后的损失值,将蛙群重新排序;步骤5.6、判断单种群蛙跳算法是否符合收敛条件,如果符合,则结束蛙跳计算,将全局最优蛙fqb作为纠正后的新权值带入网络,否则,转至步骤5.4。进一步的作为本专利技术的优选技术方案,所述步骤3中的卷积神经网络前向传播计算模型包括卷积层、池化层和全连接层。本专利技术所述用于视网膜病变分类的卷积神经网络权值优化方法,采用以上技术方案与现有技术相比,具有以下技术效果:本专利技术提出一种用于视网膜病变分类的卷积神经网络权值优化方法,采用单种群蛙跳算法对卷积神经网络的初始化权值、异常权值和最终权值进行优化,可以有效应对眼底图像的复杂性,提高视网膜多病变的检测正确率。本专利技术能通过单种群蛙跳算法寻找网络最优初始值,降低卷积神经网络对眼底图像多病变分类的初始损失值,提高网络执行效率,并且通过单种群蛙跳算法矫正异常权值,有效避免卷积神经网络陷入局部最优,最后对最终权值进行优化,可以有效提高分类准确率。该方法能进一步中,提高眼底图像病变检测效率,应用于电子病历系统中病理检测,为人类疾病多层面综合智能决策支持提供有效的智慧医疗服务。附图说明图1为本专利技术的流程示意图;图2为本专利技术的实施例示意图。具体实施方式下面结合附图对本专利技术做进一步的详细说明。如图1所述,一种用于视网膜病变分类的卷积神经网络权值优化方法,包括以下步骤:步骤1、输入眼底图像训练集和标签,训练集为X=(x1,x2,...,xn),n=1,2,3…,标签为B=(b1,b2,…,bn),n=1,2,3…,将眼底图像对应的标签bi进行one-hot编码得到真实值y_truei;步骤2、对卷积神经网络权值参数进行初始化,采用标准正态分布生成m只青蛙,按适应值排序,找出最优蛙fb和本文档来自技高网...

【技术保护点】
1.一种用于视网膜病变分类的卷积神经网络权值优化方法,其特征在于,包括以下步骤:/n步骤1、输入眼底图像训练集和标签,训练集为X=(x

【技术特征摘要】
1.一种用于视网膜病变分类的卷积神经网络权值优化方法,其特征在于,包括以下步骤:
步骤1、输入眼底图像训练集和标签,训练集为X=(x1,x2,...,xn),n=1,2,3...,标签为B=(b1,b2,...,bn),n=1,2,3...,将眼底图像对应的标签bi进行one-hot编码得到真实值y_truei;
步骤2、对卷积神经网络权值参数进行初始化,采用标准正态分布生成m只青蛙,按适应值排序,找出最优蛙fb和最差蛙fw,不断更新最差蛙的位置并重新排序,直至单种群蛙跳算法符合收敛条件,得到全局最优蛙fq,将fq作为卷积神经网络的初始权值;
步骤3、将训练集中第j张眼底图像输入卷积神经网络前向传播计算模型,通过多层的卷积、池化,最后进行两层全连接计算,输出得到第j次预测值y_predictj;
步骤4、将第j次真实值y_truej与第j次预测值y_predictj,进行softmax计算softmax(y_predictj),进行交叉熵损失计算,得到第j次损失值lossj;
步骤5、判断第j次损失值lossj是否异常,如果判定为异常权值,则采用单种群蛙跳算法对异常权值进行纠正,将纠正后的权值作为网络的新权值,否则,则继续执行下一步;
步骤6、判断网络是否达到结束条件,如果达到结束条件,则将以网络最终权值作为初始蛙,围绕初始蛙生成蛙群,进行蛙跳寻优,得到全局最优青蛙fqb,即为算法最终训练完成的权值参数;
步骤7、将训练完成的权值参数带入网络中,输入眼底图像,通过多层的卷积、池化,最后进行两层全连接计算,输出视网膜中对于多种病变检测的预测值yr。


2.根据权利要求1所述的用于视网膜病变分类的卷积神经网络权值优化方法,其特征在于,所述步骤2的具体步骤如下:
步骤2.1、确定青蛙数量m,采用标准正态分布生成所有青蛙,标准正态分布公式为:



公式(1)中,μ表示位置参数,σ为尺度参数,x为随机变量,每只青蛙f包含网络中的所有权值参数;
步骤2.2、构建一个卷积神经网络前向传播计算模型,从眼底图像训练集中随机选取少量w张眼底图像作为参照图像;
步骤2.3、将未计算损失值的青蛙带入卷积神经网络前向传播计算模型中,计算青蛙的损失值,这里的损失...

【专利技术属性】
技术研发人员:丁卫平任龙杰孙颖鞠恒荣丁帅荣曹金鑫张毅冯志豪李铭文万志胡彬赵理莉
申请(专利权)人:南通大学
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1