一种数据迁移方法和装置制造方法及图纸

本发明专利技术公开了一种数据迁移方法和装置，涉及计算机技术领域。该方法的一具体实施方式包括：计算第一存储介质上存储的待迁移数据的分堆信息，所述分堆信息指示了第一服务器将采集的一个或多个待迁移数据的数据标识；将所述分堆信息存储至第一队列，以使用所述第一服务器根据从所述第一队列中获取的数据标识从所述第一存储介质中采集所述待迁移数据，并将所采集的数据存储至第二队列；使用一个或多个第二服务器从所述第二队列中获取数据并将所述数据存储至第二存储介质。该实施方式不仅实现了对待迁移数据的自动分堆，还实现了数据迁移过程中数据采集与数据存储的解耦，提高了数据迁移效率。移效率。移效率。

【技术实现步骤摘要】
一种数据迁移方法和装置


[0001]本专利技术涉及计算机
，尤其涉及一种数据迁移方法和装置。

技术介绍

[0002]随着计算机技术的快速发展以及新旧技术的更迭，数据存储方式也随着技术的变更而不断的升级，因而常需要考虑将原始数据迁移至新的存储介质中或采用新的数据结构存储数据。目前，常用的数据迁移方案主要包括以下步骤：扫描原始数据；将原始数据转换为新的数据结构；将原始数据存储至新的存储介质。在数据迁移过程中，常仅采用一台服务器进行数据迁移，或先人工对原始数据进行分堆然后再基于分堆数据采用多台服务器进行数据迁移。
[0003]在实现本专利技术过程中，专利技术人发现现有技术中至少存在如下问题：仅采用一台服务器进行数据迁移时，数据迁移速度慢、耗时长；而采用多台服务器进行数据迁移时则依赖人工对迁移数据进行分堆，容易造成分堆不均匀，导致服务器资源浪费；此外，无论采用一台还是多台服务器进行数据迁移，均无法在数据迁移过程中动态调整数据迁移速率。

技术实现思路

[0004]有鉴于此，本专利技术实施例提供了一种数据迁移方法和装置，不仅能本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据迁移方法，其特征在于，包括：计算第一存储介质上存储的待迁移数据的分堆信息，所述分堆信息指示了第一服务器将采集的一个或多个待迁移数据的数据标识；将所述分堆信息存储至第一队列，以使用所述第一服务器根据从所述第一队列中获取的数据标识从所述第一存储介质中采集所述待迁移数据，并将所采集的数据存储至第二队列；使用一个或多个第二服务器从所述第二队列中获取数据并将所述数据存储至第二存储介质。2.根据权利要求1所述的数据迁移方法，其特征在于，根据所述待迁移数据的数量以及所述第一服务器的数量，计算所述待迁移数据对应的分堆信息。3.根据权利要求2所述的数据迁移方法，其特征在于，所述根据所述待迁移数据的数量以及所述第一服务器的数量，计算所述待迁移数据对应的分堆信息，包括：计算所述待迁移数据的数量与所述第一服务器的数量的商以获取分堆大小，所述分堆大小指示了所述第一服务器将采集的待迁移数据的数量；根据所述分堆大小，确定所述第一服务器将采集的待迁移数据对应的最大数据标识、最小数据标识。4.根据权利要求3所述的数据迁移方法，其特征在于，还包括：判断所述待迁移数据的数量是否大于所述分堆大小与所述第一服务器的数量之积；在所述待迁移数据的数量大于所述分堆大小与所述第一服务器的数量之积的情况下，增加所述第一服务器的数量。5.根据权利要求4所述的数据迁移方法，其特征在于，所述使用所述第一服务器根据从所述第一队列中获取的数据标识从所述第一存储介质中采集所述待迁移数据，并将所采集的数据存储至第二队列，包括：使用所述第一服务器从所述第一队列中获取所述分堆大小及所述第一服务器将采集的待迁移数据对应的最大数据标识、最小数据标识；遍历所述待迁移数据，以根据所述分堆大小及所述最大数据标识、最小数据标识，从所述第一存储介质中采集所述待迁移数据；将所采集的数据转换为消息数据并推送至所述第二队列。6.根据权利要求1所述的数据迁移方法，其特征在于，在将所述分堆信息存储至第一队列的情况下，广播通知一个或多个所述第一服务器，以使所述第一服务器在接收到广播通知的情况下从所述第一队列中获取所述待迁移数据的数据标识。7.根据权利要求6所述的数据迁移方法，其特征在于，还包括：在所述第一服务器接收到广播通知的情况下，判断所述第一服务器是否处于数据采集状态，且仅在所述第一服务器不处于数据采集状态的情况下使用所述第一服务器从所述第一队列中获取所述待迁移数据的数据标识。8.根据权利要求1所述的数据迁移方法，其特征在于，还包括：在使用一个或多个第二服务器从所述第二队列中获取到数据后，将获取到的数据结构
转换为符合所述第二存储介...

【专利技术属性】
技术研发人员：蒲腾飞，
申请(专利权)人：北京京东世纪贸易有限公司，
类型：发明
国别省市：