用于交通流量预测的卷积神经网络多点回归预测模型制造技术

本发明专利技术公开一种用于交通流量预测的卷积神经网络多点回归预测模型，包括如下步骤：第一感知输入层，第二卷积层：对输入层数据进行卷积，通过激活函数后输出；多层卷积层：对上一层的输出作为输入进行卷积处理，通过激活函数后输出；第四全链接层，第五丢弃层：“随机丢弃层”舍弃一些冗余的神经元，保留上层全链接节点的40％‑70％，第六输出层：丢弃层的有效节点输出进行回归计算，得到的回归数值就是整个网络的输出，共设置m个输出节点，即将全链接层映射到输出层，作权重组合。相比传统的统计回归模型，具有数据空间关联的特征提取能力，具有局部感知野和权值共享的优势，使得在时间复杂度和特征选择上具有更好的平衡。

【技术实现步骤摘要】
用于交通流量预测的卷积神经网络多点回归预测模型
本专利技术涉及卷积神经网络的多点回归预测模型，尤其涉及用于交通流量预测的卷积神经网络多点回归预测模型。
技术介绍
回归分析预测法是在分析各类现象自变量和因变量之间相关关系的基础上，建立变量之间的回归方程，并将回归方程作为预测模型，根据自变量在预测期的数量变化来预测因变量关系大多表现为相关关系，因此，回归分析预测法是一种重要的预测方法，当我们在对研究对象的现象未来发展状况和水平进行预测时，如果能将影响研究的预测对象的主要因素找到，并且能够取得其数量资料，就可以采用回归分析预测法进行预测。它是一种具体的、行之有效的、实用价值很高的常用预测方法。研究人员针对回归预测的模型，一般分为线性回归，逻辑回归，多项式回归，逐步回归，岭回归，套索回归，ElasticNet回归。神经网络是一种多层结构的复杂模型，可以拟合复杂的非线性系统，在回归预测模型[1][6][8]中得到了应用。在金融领域研究方面，Taylor[2]于2000年首次提出了神经网络回归模型，在金融资产收益率分析的应用中，避免了对金融资产收益率条件分布的假设，另一方面使用神经网络结构估计潜在的非线性模型。Taylor选取了德国马克兑美元汇率和日元兑美元汇率的日对数收益率作为研究对象，实证比较了神经网络回归模型与GARCH模型在多期置信水平风险测度中的表现。结果表明，神经网络回归模型提高了多期置信水平风险测度的精度；Feng[12]等将神经网络回归模型应用于信用组合投资决策问题，蒙特卡罗数值模拟和信用组合投资数据的实证分析表明，神经网络回归模型在异常值数据的拟合方面比局部线性回归和样条回归更具有稳健性。许启发[7]等使用神经网络回归模型测度上证综合指数的置信水平风险，并与传统的置信水平风险测度方法进行比较，实证结果表明，基于神经网络回归模型的置信水平风险测度方法，在样本内与样本外都取得了较好的效果。在非金融领域研究方面，Cannon[13]等介绍了实施了基于神经网络回归模型的软件包qrnn，指出神经网络回归模型为混合离散连续变量，如降雨量、风速、污染物浓度等提供了一种非线性、非参数的回归方法，并应用神经网络回归模型对降雨量进行了预测，研究表明，神经网络回归模型在降雨量预测中的表现优于传统回归。何耀耀[11]等针对电力系统短期负荷预测问题，提出了基于神经网络回归模型的概率密度预测方法，实现对未来电力负荷完整概率分布的预测，并对中国某市的电力负荷实际数据进行概率密度预测，结果表明，基于神经网络回归模型的概率密度预测方法能够获得短期负荷完整的概率密度函数结果。他们还将神经网络回归模型应用于中期电力负荷概率密度预测，研究在不同分位点上温度和历史负荷对中期电力负荷分布规律的影响，比较了在考虑温度因素下和不考虑温度因素下的条件概率密度预测曲线及峰值对应的点预测值，结果表明，预测当天温度对中期负荷预测有较重要的影响，为降低中期电力负荷预测的不确定因素提供了更多的决策信息和预测结果。Yeh等人使用神经网络回归模型估计高性能海凝上抗压强度的分布，并指出估计高性能混凝王抗压强度分布的能力是神经网络回归模型的一个重要优势，研究表明，神经网络回归模型可建立准确的估计模型，可对高性能混凝土抗压强度的分布进行估计，此外，对数正态分布比正态分布更适合拟合高性能混凝土抗压强度分布。卷积神经网络[3][4][5]是一种具有特征提取能力的深层神经网络，在图像识别、语音识别等方面取得了巨大的成功。首先卷积神经网络在NLP问题中的应用，Zeng[14]等人进行了卷积神经网络对关联性的提取；Chen[15]等人进行了事件信息的抽取。在问答系统中，He[16]等人对问答系统的问答匹配子任务看作句子相似度匹配；而一般通过卷积神经来识别位移、缩放及其他形式扭曲不变性的二维图形。由于CNN的特征检测层通过训练数据进行学习，所以避免了显式的特征抽取，而隐式地从训练数据中进行学习。由于以上特点，卷积网络主要用于分类任务中。本专利则提出一种六层无池化的卷积神经网络的回归模型，可用于复杂系统的回归建模和多点预测任务。参考文献[1]Chun-HsinWu,Jan-MingHo,D.T.Lee.Travel-TimePredictionWithSupportVectorRegression[J].IEEETransactionsonIntelligentTransportationSystems,2004,5(4):276-281.[2]TaylorJW,Aquantileregressionneuralnetworkapproachtoestimatingtheconditiondensityofmultiperiodreturns[J].JournalofForecasting,2000,19(4):299-311.[3]Xiang-XueWang,Lun-HuiXu.Short-termTrafficFlowPredictionBasedonDeepLearning[J].JournalofTransportationSystemsEngineeringandInformationTechnology,2018,18(1):81-88.[4]NicholasG.Polson,VadimO.Sokolov.Deeplearningforshort-termtrafficflowprediction[J].TransportationResearchPartC,2017(79):1–17.[5]罗文慧，董宝田，王泽胜.基于CNN-SVR混合深度学习模型的短时交通流预测[J].交通运输系统工程与信息,2017,17(5):68-74.[6]LeeKiryung,KimDongSik,KimTaejeong,Regression-basedpredictionforblockingartifactreductioninJPEG-compressedimages.[j]IEEETransactionsonImageProcessing.2005,Vol.14(1).pp.36-48PubMed；[7]许启发,徐金菊,蒋翠侠,刘晓华,FinancialriskmeasureofVaRbasedonquantileregressionneuralnetwork.[J]JournalofHefeiUniversityofTechnology(NaturalScience).[8]罗小妹,陈晓宏,蔡斯龙Mid-Long-TermRunoffForecastingBasedonanImprovedNormalizedPeriodicRegressionModel—ACaseStudyintheXingfengRiverBasin基于改进正规化周期回归模型的中长期径流预测—以新丰江流域为例[J].JournalofWaterResourcesResearch,2013,Vol.02(01),pp.27-32汉斯出版社[9]于达仁；万杰；胡清华；刘金福；郭钰锋；苏鹏宇；基于深度学习方法的短期风速多步预测方法(专利),[P].CN201310389450.X2013-11-2本文档来自技高网...

【技术保护点】
1.用于交通流量预测的卷积神经网络多点回归预测模型，其特征在于，包括如下步骤：(1)第一感知输入层：训练数据的输入，通常需要转换成矩阵形式；(2)第二卷积层：对输入层数据进行卷积，通过激活函数后输出；(3)多层卷积层：对上一层的输出作为输入进行卷积处理，通过激活函数后输出；(4)第四全链接层：上一层的输出为输入，“全链接层”实现特征向量的回归计算，在该层设置Q个节点，把卷积层得到的矩阵全部拼接成一唯向量，再映射成Q个节点上，作权重组合；(5)第五丢弃层：“随机丢弃层”舍弃一些冗余的神经元，保留上层全链接节点的40％‑70％，(6)第六输出层：丢弃层的有效节点输出进行回归计算，得到的回归数值就是整个网络的输出，共设置m个输出节点，将第五丢弃层映射到输出层，作权重组合。

【技术特征摘要】
1.用于交通流量预测的卷积神经网络多点回归预测模型，其特征在于，包括如下步骤：(1)第一感知输入层：训练数据的输入，通常需要转换成矩阵形式；(2)第二卷积层：对输入层数据进行卷积，通过激活函数后输出；(3)多层卷积层：对上一层的输出作为输入进行卷积处理，通过激活函数后输出；(4)第四全链接层：上一层的输出为输入，“全链接层”实现特征向量的回归计算，在该层设置Q个节点，把卷积层得到的矩阵全部拼接成一唯向量，再映射成Q个节点上，作权重组合；(5)第五丢弃层：“随机丢弃层”舍弃一些冗余的神经元，保留上层全链接节点的40％-70％，(6)第六输出层：丢弃层的有效节点输出进行回归计算，得到的回归数值就是整个网络的输出，共设置m个输出节点，将第五丢弃层映射到输出层，作权重组合。2.如权利要求1所述的用于交通流量预测的卷积神经网络多点回归预测模型，其特征在于：所述的多层卷积层为第三卷积层，所述的卷积网络为六层结构。3.如权利要求1或2所述的用于交通流量预测的卷积神经网络多点回归预测模型，其特征在于：所述的第六输出层，即输出级联：将上一个输出节点的训练输出作为输入到下一个输出节点，反映了多点输出之间的时间序列关系。4.如权利要求1或2所述的用于交通流量预测的卷积神经网络多点回归预测模型，其特征在于：卷积层的输出是通过上层的输入经过卷积来计算的,xi，j是矩阵化后的第i行，第j列交通流数据，本文用来表示第k层卷积的特征图的第i行，第j列输出，为输入对应卷积权重，为卷积偏置项，t为卷积核的大小，用f()表示激活函数，选择...

【专利技术属性】
技术研发人员：陶砚蕴，沈智威，王翔，沈智勇，
申请(专利权)人：苏州大学张家港工业技术研究院，苏州大学，
类型：发明
国别省市：江苏,32