一种数据传输方法、设备、系统和存储介质技术方案

本公开涉及一种数据传输方法、设备、系统和存储介质，该方法包括：选取待传输数据对应的目标传输通道；在所述目标传输通道是第一传输通道时，利用第三方缓冲区作为数据转存地与服务端进行数据传输；其中，所述第三方缓冲区是所述客户端和所述服务端均可访问的第三方云存储服务，所述第三方缓冲区可提供高带宽数据传输通道。本公开实施例的技术方案使用高带宽的第三方云存储作为数据转存地，加速数据传输过程。输过程。输过程。

【技术实现步骤摘要】
一种数据传输方法、设备、系统和存储介质


[0001]本公开涉及计算机处理
，尤其涉及一种数据传输方法、设备、系统和存储介质。

技术介绍

[0002]随着互联网技术、云计算和人工智能技术的发展，数据的规模越来越大，数据传输的场景越来越多，用户经常需要使用传输工具将本地数据和云上数据进行数据传输同步。数据传输工具一般都是CS或BS服务架构，数据传输过程是客户端发起上传请求或下载请求，服务端进行响应对数据进行读写，然后通过网络套接字将数据传输到客户端或者对客户端传过来的数据进行处理。传输过程的速度单位一般为每秒传输的数据块大小，如MB/s，Mb/s，KB/s，Kb/s等等，这些单位的数据越大，数据传输的越快，时间越短。通常的网络环境下的数据传输工具数据传输速度较慢，一般只有几MB/s，甚至是几KB/s，如果需要提高传输速度需要购买昂贵的网络带宽和CDN服务，投入产出比较高。
[0003]随着公有云计算技术的发展，云端存储服务和客户端应用生成，并构建了高速的网络带宽和CDN服务，数据传输速度非常快，很多能够达到几十MB/s，甚至几百MB/s以上。而一些数据传输工具受限于自身网络带宽的限制，一般的数据传输速度都比较慢，而花钱购买高带宽和CDN服务成本又非常高。
[0004]随着技术的发展进步，一些按网络流量进行收费的对象存储服务出现，网络带宽高，同时云上存储服务基于CDN构建，数据传输速度非常快，但是使用其对象存储服务必须使用这些厂商提供的客户端或者SDK工具、API等，现有的传输工具就无法使用这种方式进行数据传输加速了。

技术实现思路

[0005]为了解决上述技术问题，本公开实施例提供了一种数据传输方法、装置、设备、存储介质和程序产品，使用高带宽的第三方云存储服务作为数据转存地，加速数据传输过程。
[0006]第一方面，本公开实施例提供一种数据传输方法，所述方法应用于客户端，包括：选取待传输数据对应的目标传输通道；在所述目标传输通道是第一传输通道时，利用第三方缓冲区作为数据转存地与服务端进行数据传输；其中，所述第三方缓冲区是所述客户端和所述服务端均访问的第三方云存储服务，所述第三方缓冲区用于提供带宽达到阈值的数据传输通道。
[0007]在本公开的一个实施方式中，所述利用第三方缓冲区作为数据转存地与服务端进行数据传输，包括：向所述服务端发送数据传输信息，所述数据传输信息用于指示所述服务端在所述第三方缓冲区中创建所述数据传输信息对应的条状存储区；利用第三方缓冲区中创建的条状存储区作为数据转存地与服务端进行数据传输。
[0008]在本公开的一个实施方式中，所述第三方缓冲区按照数据传输任务划分为多个条状存储区，每个数据传输任务对应的待传输数据分配一个条状存储区，每个条状存储区存
储一个待传输数据对应的数据对象。
[0009]在本公开的一个实施方式中，所述选取待传输数据对应的目标传输通道，包括：响应于用户针对所述传输通道的选取操作，将所述选取操作对应的传输通道作为目标传输通道；或，基于待传输数据的数据信息选取待传输数据对应的目标传输通道。
[0010]在本公开的一个实施方式中，所述基于待传输数据的数据信息选取待传输数据对应的目标传输通道，包括：确定所述待传输数据对应的任务类型；在所述任务类型是新任务时，基于所述待传输数据的数据大小、第一传输通道的当前传输速率、第二传输通道的当前传输速率以及第一计算方式，确定所述待传输数据对应的第一加速分数；在所述第一加速分数大于或等于第一设置阈值时，选取第一传输通道作为待传输数据对应的目标传输通道，在所述第一加速分数小于第一设置阈值时，选取第二传输通道作为待传输数据对应的目标传输通道。
[0011]在本公开的一个实施方式中，所述基于待传输数据的数据信息选取待传输数据对应的目标传输通道，包括：在所述任务类型是续传任务时，基于所述待传输数据的剩余数据大小、第一传输通道的平均传输速率、以及第二传输通道的当前传输速率，确定待传输数据对应的第二加速分数；在所述第二加速分数大于或等于第二设置阈值时，选取第一传输通道作为待传输数据对应的目标传输通道，在所述第二加速小于第二设置阈值时，选取第二传输通道作为待传输数据对应的目标传输通道。
[0012]第二方面，本公开实施例提供一种数据传输方法，所述方法应用于服务端，包括：在接收到客户端发送的数据传输信息之后，在第三方缓冲区中创建所述数据传输信息对应的条状存储区；利用第三方缓冲区中创建的条状存储区作为数据转存地与所述客户端进行数据传输，其中，所述第三方缓冲区是所述服务端以及与所述服务端对应的客户端均访问的第三方云存储服务，所述第三方缓冲区用于提供带宽达到阈值的数据传输通道。
[0013]在本公开的一个实施方式中，所述在第三方缓冲区中创建所述数据传输信息对应的条状存储区，包括：基于所述数据传输信息，创建传输任务，向所述第三方缓冲区中申请所述传输任务的存储区；将传输任务设置为存储区准备中；在所述传输任务的存储区申请成功后，并将所述传输任务设置为存储区准备完毕。
[0014]在本公开的一个实施方式中，所述方法还包括：在所述待传输数据传输完毕后，将所述传输任务设置为结束状态；控制所述第三方缓冲区中删除所述传输任务的存储区。
[0015]第三方面，本公开实施例提供一种数据传输装置，所述装置配置于客户端，包括：传输通道选取模块，用于选取待传输数据对应的目标传输通道；第一数据传输模块，用于在所述目标传输通道是第一传输通道时，利用第三方缓冲区作为数据转存地与服务端进行数据传输；其中，所述第三方缓冲区是所述客户端和所述服务端均访问的第三方云存储服务，所述第三方缓冲区用于提供带宽达到阈值的数据传输通道。
[0016]第四方面，本公开实施例提供一种数据传输装置，所述装置配置于服务端，包括：存储区创建模块，用于在接收到客户端发送的数据传输信息之后，在第三方缓冲区中创建所述数据传输信息对应的条状存储区；第二数据传输模块，用于利用第三方缓冲区中创建的条状存储区作为数据转存地与所述客户端进行数据传输，其中，所述第三方缓冲区是所述服务端以及与所述服务端对应的客户端均可访问的第三方云存储服务，所述第三方缓冲区可提供高带宽数据传输通道。
[0017]第五方面，本公开实施例提供一种电子设备，所述电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序；当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如上述第一方面中任一项所述的数据传输方法。
[0018]第六方面，本公开实施例提供一种数据传输系统，所述数据传输系统包括：客户端、服务端和第三方缓冲区，其中，所述客户端，用于选取待传输数据对应的目标传输通道；在所述目标传输通道是第一传输通道时，向所述服务端发送的数据传输信息；所述服务端，用于接收到客户端发送的数据传输信息之后，在第三方缓冲区中创建所述数据传输信息对应的条状存储区，利用第三方缓冲区中创建的条状存储区作为数据转存地与所述客户端进行数据传输；其中，所述第本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据传输方法，其特征在于，所述方法应用于客户端，包括：选取待传输数据对应的目标传输通道；在所述目标传输通道是第一传输通道时，利用第三方缓冲区作为数据转存地与服务端进行数据传输；其中，所述第三方缓冲区是所述客户端和所述服务端均访问的第三方云存储服务，所述第三方缓冲区用于提供带宽达到阈值的数据传输通道。2.根据权利要求1所述的数据传输方法，其特征在于，所述利用第三方缓冲区作为数据转存地与服务端进行数据传输，包括：向所述服务端发送数据传输信息，所述数据传输信息用于指示所述服务端在所述第三方缓冲区中创建所述数据传输信息对应的条状存储区；利用第三方缓冲区中创建的条状存储区作为数据转存地与所述服务端进行数据传输。3.根据权利要求1所述的数据传输方法，其特征在于，所述第三方缓冲区按照数据传输任务划分为多个条状存储区，每个数据传输任务对应的待传输数据分配一个条状存储区，每个条状存储区存储一个待传输数据对应的数据对象。4.根据权利要求1所述的数据传输方法，其特征在于，所述选取待传输数据对应的目标传输通道，包括：响应于用户针对所述传输通道的选取操作，将所述选取操作对应的传输通道作为目标传输通道；或，基于所述待传输数据的数据信息选取所述待传输数据对应的目标传输通道。5.根据权利要求4所述的数据传输方法，其特征在于，所述基于所述待传输数据的数据信息选取所述待传输数据对应的目标传输通道，包括：确定所述待传输数据对应的任务类型；在所述任务类型是新任务时，基于所述待传输数据的数据大小、第一传输通道的当前传输速率、第二传输通道的当前传输速率以及第一计算方式，确定所述待传输数据对应的第一加速分数；在所述第一加速分数大于或等于第一设置阈值时，选取第一传输通道作为所述待传输数据对应的目标传输通道，在所述第一加速分数小于第一设置阈值时，选取第二传输通道作为所述待传输数据对应的目标传输通道。6.根据权利要求5所述的数据传输方法，其特征在于，所述基于所述待传输数据的数据信息选取所述待传输数据对应的目标传输通道，包括：在所述任务类型是续传任务时，基于所述待传输数据对应的剩余数据大小、第一传输通道的平均传输速率、以及第二传输通道的当前传输速率以及第二计算方式，确定所述待传输数据对应的第二加速分数；在所述第二加速分数大于或等于第二设置阈...

【专利技术属性】
技术研发人员：冯景华，徐斌，田杨，刘美辰，朱明祖，秦跃鑫，
申请(专利权)人：天津市天河计算机技术有限公司，
类型：发明
国别省市：