System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种图卷积神经网络辅助的大数据存储转发调度方法技术_技高网
当前位置: 首页 > 专利查询>福州大学专利>正文

一种图卷积神经网络辅助的大数据存储转发调度方法技术

技术编号:40229442 阅读:4 留言:0更新日期:2024-02-02 22:32
本发明专利技术涉及一种图卷积神经网络辅助的大数据存储转发调度方法。利用时间扩展网络(TEN)将存储转发调度问题构建为TEN上路由问题,并根据数据源与目的节点之间存在的不同备选路由,将TEN分解为多个基于特定路由的子网络,从而将复杂的调度问题分解为多个子问题。同时,本方法利用图卷积神经网络(GCN)预测子网络中节点的可到达性,并将不可到达节点从子网络的路由搜索过程中排除,进一步缩小子网络的搜索范围、降低调度问题求解难度。借助GCN,本方法无需以牺牲调度方法调度灵活性为代价,即可在降低问题求解难度的同时提供良好调度性能,满足大数据网络传输需求。

【技术实现步骤摘要】

本专利技术属于网络数据传输调度方法类,尤其是涉及广域网、跨数据中心网络和算力网络等计算机网络,具体涉及一种图卷积神经网络辅助的大数据存储转发调度方法


技术介绍

1、以数字孪生、元宇宙等新兴在线应用的飞速发展推动了位于不同地域数据中心之间的海量大数据传输需求。然而,随着时空波动的网络背景流量使得网络运营商难为大数据流量提供高带宽、长时间的端到端传输通道。为了满足在网络流量高峰期不断增长的大数据传输需求,即使面对较低的网络带宽利用率,网络运营商仍然不得花费重金不断升级链路容量。大数据存储转发调度方法是缓解上述困境的有效方案。该方法利用数据传输过程途经的中继网络节点(例如,数据中心等),当数据传输路径的下一跳链路出现拥塞,数据可以临时存储在中继节点,直到下一跳链路空闲再继续传输。研究表明,存储转发通过在中继网络节点存储转发,将原有端到端传输通道分割为多段独立传输通路,不仅提高了大数据传输调度的灵活性,缓解了原有端到端传输对带宽资源的严苛要求,而且提高了网络带宽利用率。

2、存储转发效能的发挥取决于如何高效求解存储转发调度问题。然而,现有存储转发调度方法通常利用ten网络捕捉全局网络状态信息,以全局ten网络的形式构建存储转发调度问题,并将该问题转变为小规模网络、静态网络流量场景下优化问题进行求解。然而,面对大规模网络、动态网络流量场景,现有调度方法将由于全局ten网络规模与存储转发调度问题复杂度的激增,导致调度方法的计算复杂度过高、计算时间过长而无法求解调度问题。这极大导阻碍存储转发调度的实用性。

3、机器学习因其在解决复杂问题方面的优异表现而备受关注。现有研究工作通常利用机器学习模型直接学习了特定网络场景下的最优调度、路由解决方案。然而,当网络场景发生变化时,机器学习模型将由于其泛化能力不足,而遭遇预测准确不足的困境。

4、综上所述,本专利技术一方面将全局ten网络分解为多个基于特定路由的子网络,从而将庞大的存储转发调度问题分解为多个小规模子问题;另一方面,采用gcn模型辅助存储转发调度问题求解,通过预测子网络中节点的可到达性,并将不可到达节点从子网络的路由搜索过程中排除,进一步缩小子网络的搜索范围、降低调度问题求解难度。本专利技术无需以牺牲调度方法调度灵活性为代价,即可在降低问题求解难度的同时提供良好调度性能,满足大数据网络传输需求。


技术实现思路

1、本专利技术的目的在于解决现有大数据存储转发调度方法难以应用于大规模网络、动态网络流量场景的困境,提供一种图卷积神经网络辅助的大数据存储转发调度方法,有助于提高调度过程的灵活性、提升大数据网络传输的效能,属于广域网、跨数据中心网络和算力网络等计算机网络

2、为实现上述目的,本专利技术的技术方案是:一种图卷积神经网络辅助的大数据存储转发调度方法,利用时间扩展网络ten捕捉网络全局状态信息随时间动态变化的情况,以全局ten网络的形式构建涵盖网络全局信息的存储转发调度问题模型,根据数据源与目的节点之间存在的不同备选路由,将全局ten网络逐一分解为多个基于特定路由的子网络,以将复杂的调度问题分解为多个子问题,缩小子网络规模,降低了调度问题求解难度。

3、在本专利技术一实施例中,利用图卷积神经网络gcn对基于特定路由的子网络中节点是否可以被有效路径到达进行预测,即利用图卷积神经网络gcn求解子网络中节点的可到达性问题,并将该问题转换成节点分类问题;同时,根据图卷积神经网络gcn预测结果,将不可到达节点从子网络的路由搜索过程中排除,缩小子网络搜索范围,降低问题求解难度,从而减轻调度方法的计算负担。

4、在本专利技术一实施例中,根据数据源与目的节点之间的不同备选路由将涵盖网络全局信息的全局ten网络分解为基于特定路由的子网络,仅将子网络而非全局ten网络作为样本用于图卷积神经网络gcn的训练。一方面,减小了用于gcn模型训练的网络图规模,降低了gcn模型的训练难度、提高了训练效率;另一方面,使得gcn模型训练无需考虑网络拓扑特征,提高了不同网络拓扑场景下gcn模型的通用性与泛化能力。

5、在本专利技术一实施例中,通过以下过程实现图卷积神经网络gcn辅助的存储转发调度:

6、获取当前到达网络并等待调度的大数据传输请求和当前网络全局状态信息,以全局ten网络的形式构建存储转发调度问题模型;为备选路由计算构建辅助图,并按照网络优化目标计算辅助图的链路权重;使用路由算法在辅助图上计算从数据源节点到目的节点的多条备选路由;选择一条备选路由,根据备选路由将全局ten网络分解为子网络;根据传输请求所要求的传输截止时间,计算子网络中每条链路在截止时间内的链路最大吞吐量/最大数据存储量;根据最大吞吐量/最大数据存储量和传输请求所要求的传输数据量,判断子网络中每条链路是否能够满足传输/存储要求,并创建辅助子图,以链路权重反映判断结果;获取辅助子图的邻接矩阵与节点特征矩阵;使用图卷积神经网络gcn预测辅助子图中不同层上目的节点的可到达性;使用路由算法对于辅助子图中被预测为可到达的目的节点逐一进行路由搜索,寻找从数据源节点到目的节点的有效路径,直到找到一条有效路径或者所有辅助子图均完成路由搜索;判断是否接受请求,若请求能够成功传输,则根据有效路径更新全局ten网络、配置网络资源以服务请求传输。

7、在本专利技术一实施例中,所述方法具体包括以下步骤:

8、步骤1、当大数据传输请求r到达网络等待调度,获取传输请求r信息和当前网络全局状态信息,并构建存储转发调度问题:

9、传输请求r信息包括:数据源节点s、传输目的节点d、请求所需传输的数据量f,以及请求传输截止时间tddl;利用时间扩展网络ten捕捉当前网络全局状态信息,以全局ten网络gl构建存储转发调度问题模型,其中全局ten网络gl为多层图,即gl={g(1),…,g(l),…,g(l)},l表示gl的层数,g(l)为gl中第l层的子图,g(l)=(v(l),e(l)),v(l)表示第l层子图g(l)的节点集合,e(l)表示第l层子图g(l)的链路集合,g(l)与网络拓扑图g=(v,e)具有相同节点,即v(l)=v,g(l)中各个节点之间链路连接关系e(l)反映tl时刻网络中各条链路状态信息;g(l)中不同节点v(l)与u(l)通过空间链路相连,其中v(l)≠u(l)且v(l),u(l)∈v(l),位于子图g(l)上的节点v(l)与位于子图g(l+1)上节点v(l+1)通过时间链路相连,节点v(l)与节点v(l+1)在空间维度上属于同一节点;

10、步骤2、为备选路由计算构建辅助图g',并按照网络优化目标计算图g'的链路权重:

11、根据全局ten网络gl,构建网络拓扑图g的辅助图g',根据网络运营商的网络优化目标(例如,降低网络延迟、提高资源利用率、负载均衡)计算g'的链路权重,例如,为实现负载均衡目标,链路权重可以等于gl上每条链路在传输截止时间tddl内的剩余带宽之和的倒数;

12、步骤3、使用路由算法本文档来自技高网...

【技术保护点】

1.一种图卷积神经网络辅助的大数据存储转发调度方法,其特征在于,利用时间扩展网络TEN捕捉网络全局状态信息随时间动态变化的情况,以全局TEN网络的形式构建涵盖网络全局信息的存储转发调度问题模型,根据数据源与目的节点之间存在的不同备选路由,将全局TEN网络逐一分解为多个基于特定路由的子网络,以将复杂的调度问题分解为多个子问题,缩小子网络规模。

2.根据权利要求1所述的一种图卷积神经网络辅助的大数据存储转发调度方法,其特征在于,利用图卷积神经网络GCN对基于特定路由的子网络中节点是否可以被有效路径到达进行预测,即利用图卷积神经网络GCN求解子网络中节点的可到达性问题,并将该问题转换成节点分类问题;同时,根据图卷积神经网络GCN预测结果,将不可到达节点从子网络的路由搜索过程中排除,缩小子网络搜索范围。

3.根据权利要求2所述的一种图卷积神经网络辅助的大数据存储转发调度方法,其特征在于,根据数据源与目的节点之间的不同备选路由将涵盖网络全局信息的全局TEN网络分解为基于特定路由的子网络,仅将子网络而非全局TEN网络作为样本用于图卷积神经网络GCN的训练。

>4.根据权利要求3所述的一种图卷积神经网络辅助的大数据存储转发调度方法,其特征在于,通过以下过程实现图卷积神经网络GCN辅助的存储转发调度:

5.根据权利要求4所述的一种图卷积神经网络辅助的大数据存储转发调度方法,其特征在于,该方法具体包括以下步骤:

6.根据权利要求5所述的一种图卷积神经网络辅助的大数据存储转发调度方法,其特征在于,步骤7中,提取辅助子图G′i中每个节点的特征xl,i,具体如下:

7.根据权利要求6所述的一种图卷积神经网络辅助的大数据存储转发调度方法,其特征在于,节点的特征xl,i=[Inl,i,Outl,i,SHCl,i,THCl,i,HCl,i,RLUl,i]的获取方式如下:

8.根据权利要求5所述的一种图卷积神经网络辅助的大数据存储转发调度方法,其特征在于,所述图卷积神经网络GCN包括输入层、隐藏层和输出层,其中隐藏层的神经元个数由训练调参获取,采用ReLU作为激活函数;输出层采用softmax作为激活函数,用于分类任务;同时,采用交叉熵损失函数,通过精确率、查准率、查全率和F1性能指标判断模型的训练效果,对模型进行离线的训练调参,得到图卷积神经网络GCN最佳的超参数设置。

...

【技术特征摘要】

1.一种图卷积神经网络辅助的大数据存储转发调度方法,其特征在于,利用时间扩展网络ten捕捉网络全局状态信息随时间动态变化的情况,以全局ten网络的形式构建涵盖网络全局信息的存储转发调度问题模型,根据数据源与目的节点之间存在的不同备选路由,将全局ten网络逐一分解为多个基于特定路由的子网络,以将复杂的调度问题分解为多个子问题,缩小子网络规模。

2.根据权利要求1所述的一种图卷积神经网络辅助的大数据存储转发调度方法,其特征在于,利用图卷积神经网络gcn对基于特定路由的子网络中节点是否可以被有效路径到达进行预测,即利用图卷积神经网络gcn求解子网络中节点的可到达性问题,并将该问题转换成节点分类问题;同时,根据图卷积神经网络gcn预测结果,将不可到达节点从子网络的路由搜索过程中排除,缩小子网络搜索范围。

3.根据权利要求2所述的一种图卷积神经网络辅助的大数据存储转发调度方法,其特征在于,根据数据源与目的节点之间的不同备选路由将涵盖网络全局信息的全局ten网络分解为基于特定路由的子网络,仅将子网络而非全局ten网络作为样本用于图卷积神经网络gcn的训练。

4.根据权利要求3所述的一种图卷...

【专利技术属性】
技术研发人员:林霄郑兰芳林辉煌吴桂萍林颂磊王蕴
申请(专利权)人:福州大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1