数据处理方法、装置及分布式系统制造方法及图纸

技术编号:24573093 阅读:53 留言:0更新日期:2020-06-21 00:00
本申请提供一种数据处理方法、装置及分布式系统,涉及数据通信技术领域。该方法通过接收主控单元发送的用于获得待访问数据的访问请求信息,其中,访问请求信息包括与待访问数据的目标索引地址对应的目标访问地址及待访问数据的标识信息;从访问请求信息中提取出目标访问地址、标识信息,并确定出目标访问地址对应的目标索引地址;根据目标索引地址及标识信息,从数据集中确定出待访问数据,并将待访问数据发送至主控单元,能够改善现有技术中需要读取所有数据并将其上传而导致内存消耗大的技术问题,有助于提高分布式系统数据访问的效率。

Data processing method, device and distributed system

【技术实现步骤摘要】
数据处理方法、装置及分布式系统
本申请涉及数据通信
,具体而言,涉及一种数据处理方法、装置及分布式系统。
技术介绍
分布式系统通常包括着主控单元和线卡单元,当线卡单元处理的数据量较少时,读取数据较为容易。在分布式系统需要访问大量数据时,例如需要访问百万级别的数据表项时,一次性读取却需要较长时间。比如,受限于数据的完整性制约,在现有技术中可采取串行访问的方式,即主控单元的业务模块完成一次完整的访问后,业务模块再发起一次新的数据访问,这样如果存在多个业务模块都需要访问数据的情况下,一个业务模块没有访问完成之前,其他的业务模块不能进行数据访问,使得数据访问的效率低下。或者采用并发访问的方式。比如,线卡单元读取自身存储的所有数据并将数据上传到主控单元,这样主控单元的业务模块才能并发访问,而将大量的数据读取与上传会造成大量的内存消耗。
技术实现思路
本申请提供一种数据处理方法、装置及分布式系统。为了实现上述目的,本申请实施例所提供的技术方案如下所示:第一方面,本申请实施例提供一种数据处理方法,应用于分布式系统中的本文档来自技高网...

【技术保护点】
1.一种数据处理方法,其特征在于,应用于分布式系统中的线卡单元,所述分布式系统还包括与所述线卡单元通信连接的主控单元,所述方法包括:/n接收所述主控单元发送的用于获得待访问数据的访问请求信息,其中,所述访问请求信息包括与所述待访问数据的目标索引地址对应的目标访问地址及所述待访问数据的标识信息;/n从所述访问请求信息中提取出所述目标访问地址、所述标识信息,并确定出所述目标访问地址对应的所述目标索引地址;/n根据所述目标索引地址及所述标识信息,从数据集中确定出所述待访问数据,并将所述待访问数据发送至所述主控单元。/n

【技术特征摘要】
1.一种数据处理方法,其特征在于,应用于分布式系统中的线卡单元,所述分布式系统还包括与所述线卡单元通信连接的主控单元,所述方法包括:
接收所述主控单元发送的用于获得待访问数据的访问请求信息,其中,所述访问请求信息包括与所述待访问数据的目标索引地址对应的目标访问地址及所述待访问数据的标识信息;
从所述访问请求信息中提取出所述目标访问地址、所述标识信息,并确定出所述目标访问地址对应的所述目标索引地址;
根据所述目标索引地址及所述标识信息,从数据集中确定出所述待访问数据,并将所述待访问数据发送至所述主控单元。


2.根据权利要求1所述的方法,其特征在于,所述线卡单元的数据集中存储有与所述数据集中的单元数据对应的索引地址,根据所述目标索引地址及所述标识信息,从数据集中确定出所述待访问数据,包括:
在数据集中的索引地址中查找是否存在与所述目标访问地址对应的所述目标索引地址;
在为是时,从所述目标索引地址对应的目标存储地址访问所述数据集中的单元数据,并根据所述标识信息从所述单元数据中确定出所述待访问数据;
在为否时,将所述目标访问地址对应的所述目标索引地址与所述数据集中的预设存储地址的目标单元数据关联,并从所述预设存储地址读取所述目标单元数据,并根据所述标识信息将所述目标单元数据确定为所述待访问数据。


3.根据权利要求1或2所述的方法,其特征在于,确定出所述目标访问地址对应的所述目标索引地址,包括:
基于访问地址与索引地址的映射关系确定出所述目标访问地址对应的所述目标索引地址;或者
确定出所述目标访问地址对应的所述目标索引地址,包括:
将所述目标访问地址拆分为多个字段;并确定出与每个所述字段对应的索引地址片段;
根据每个所述字段对应的所述索引地址片段确定出所述目标索引地址。


4.根据权利要求1或2所述的方法,其特征在于,在将所述待访问数据发送至所述主控单元之后,所述方法还包括:
从所述数据集中删除所述待访问数据;
将所述数据集中未被访问且没有关联其他索引地址的数据与所述目标索引地址关联。


5.一种数据处理方法,其特征在于,应用于分布式系统中的主控单元,所述分布式系统还包括与所述主控单元通信连接的线卡单元,所述方法包括:
根据需要获得的待访问数据获得访问请求信息,并将所述访问请求信息发送至所述线卡单元,其中,所述访问请求信息包括与所述待访问数据的索引地址对应的访问地址及所述待访问数据的标识信息;
接收所述线卡单元发送的基于所述索引地址、所述标识信息从所述线卡单元存储的数据集中确定出的待访问数据。


6.一种数据处理装置,其特征在于,应用于分布...

【专利技术属性】
技术研发人员:徐海兵
申请(专利权)人:迈普通信技术股份有限公司
类型:发明
国别省市:四川;51

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1