【技术实现步骤摘要】
本专利技术涉及分布式存储,特别是涉及一种分布式存储系统、数据处理方法、设备和介质。
技术介绍
1、当前数据中心正在大规模应用分布式存储系统,分布式存储系统包含几十、成百甚至上千节点。在如此规模的大型分布式系统中,节点宕机、故障成为常态,这种设计模型需要数据中心提供更高的性能、更高的效率和更低的总拥有成本。因此,高效的容错机制应运而生,使得因机器、设备故障而丢失的数据能够被恢复。目前常用的做法是多副本备份机制和纠删机制。
2、分布式存储常采用多副本备份机制和纠删机制来保障存储数据的可靠性。由于纠删机制伴随着大量矩阵运算和跨节点数据传输,会给系统造成很大计算开销和传输开销。然而,当前主流的使用方式是利用中央处理器(central processing unit,cpu)运行软件来执行纠删的编、解码计算。当系统的i/o带宽较大时,纠删会占用较多cpu资源,同时cpu还要处理其他软件模块的业务,纠删运算带来的cpu、内存资源抢占必然会对整体性能造成影响。
3、可见,如何提升分布式存储的性能,是本领域技术人员需要解决的问题
【技术保护点】
1.一种分布式存储系统,其特征在于,包括多个存储节点,每个存储节点包括存储服务器和智能网卡;在多个存储节点中任意一个目标存储节点的存储服务器存储原始数据时,将所述目标存储节点作为主存储节点;
2.根据权利要求1所述的分布式存储系统,其特征在于,将多个存储节点中除所述主存储节点外的剩余存储节点作为从存储节点;
3.根据权利要求1所述的分布式存储系统,其特征在于,所述主存储节点的存储服务器,用于在将获取的原始数据存储在主机内存之后,将携带有所述主机内存地址以及纠删块个数的数据写请求放入请求队列;向所述主存储节点的智能网卡下发写请求通知;在接收到所述
...【技术特征摘要】
1.一种分布式存储系统,其特征在于,包括多个存储节点,每个存储节点包括存储服务器和智能网卡;在多个存储节点中任意一个目标存储节点的存储服务器存储原始数据时,将所述目标存储节点作为主存储节点;
2.根据权利要求1所述的分布式存储系统,其特征在于,将多个存储节点中除所述主存储节点外的剩余存储节点作为从存储节点;
3.根据权利要求1所述的分布式存储系统,其特征在于,所述主存储节点的存储服务器,用于在将获取的原始数据存储在主机内存之后,将携带有所述主机内存地址以及纠删块个数的数据写请求放入请求队列;向所述主存储节点的智能网卡下发写请求通知;在接收到所述主存储节点的智能网卡下发的写应答通知的情况下,从响应队列中读取各所述纠删块的网卡内存地址,并删除所述请求队列中记录的所述数据写请求;向所述主存储节点的智能网卡下发写地址取出通知;向各所述从存储节点下发携带有相应纠删块的网卡内存地址的读取命令;将释放内存请求放入管理队列;其中,所述释放内存请求中携带有待释放的网卡内存地址;向所述主存储节点的智能网卡下发释放通知;在接收到所述主存储节点的智能网卡发送的内存释放应答通知的情况下,删除所述管理队列中记录的所述释放内存请求;向所述主存储节点的智能网卡下发应答取出通知;
4.根据权利要求1所述的分布式存储系统,其特征在于,所述主存储节点的存储服务器,用于向所述主存储节点的智能网卡下发读请求通知;其中,所述读请求通知对应有数据量以及纠删块个数;接收所述主存储节点的智能网卡反馈的读应答通知,向各存储节点下发携带有目标网卡内存地址的写命令,以便于各所述存储节点向所述目标网卡内存地址对应的网卡内存中写入纠删块;依据所述数据量分配主机内存,并向所述主存储节点的智能网卡下发纠删运算通知;其中,所述纠删运算通知对应有所述主机内存的主机内存地址;
5.根据权利要求4所述的分布式存储系统,其特征在于,所述主存储节点的存储服务器,用于将携带有数据量以及纠删块个数的数据读请求放入请求队列;向所述主存储节点的智能网卡下发读请求通知;在接收到所述主存储节点的智能网卡下发的读应答通知的情况下,从响应队列中读取所述目...
【专利技术属性】
技术研发人员:张雪庆,
申请(专利权)人:浪潮电子信息产业股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。