【技术实现步骤摘要】
图数据处理方法和图数据的计算任务发布方法
本申请涉及图计算
,特别是涉及一种图数据处理方法和装置、图数据的计算任务发布方法和装置。
技术介绍
随着计算机技术的发展,出现了以“图论”为基础的对现实世界的一种图结构的抽象表达,以及在这种数据结构上的计算模式,也就是图计算。在具体应用中,可以用图数据表示社交网络、商品购买关系、道路交通网络、通信网络等等信息,而基于图数据的计算需求也越来越多,越来越复杂。传统的图计算方法通常是基于中心化思想的图计算方法,在图计算过程中常常使用参数服务器对需要进行共享的数据进行存储和更新。虽然参数服务器可以将需要共享的数据分布式地存储在各个服务器节点上,以在一定程度上避开单点故障,但在数据更新时却需要依赖一个中心化的驱动程序来协调处理。这在图计算过程中往往会导致巨大的网络吞吐量,从而使得网络通信成为图计算系统的瓶颈。特别是当处理超大规模数据量时,数据更新延迟,使得传统的基于中心化的图计算方法存在计算效率低的问题。
技术实现思路
基于此,有必要针对图数据计算效率低的技术问题,提供一种图数据处理方法、图数据的计算任务发布方法、装置、计算机可读存储介质和计算机设备。一种图数据处理方法,应用于分布式计算节点集群中的计算节点,包括:获取从待处理图数据中划分出的子图数据;执行对于所述子图数据的计算任务,得到相应的全局数据和局部数据;将所述全局数据写入区块链网络中;所述区块链网络中的全局数据,由所述分布式计算节点集群更新;从所述区块链网络中获取最新的全局数据;根据获取的最新的全局数据和所述局部数据,迭代执行对于所述子图数据的计算任务,直到满足迭 ...
【技术保护点】
1.一种图数据处理方法,应用于分布式计算节点集群中的计算节点,包括:获取从待处理图数据中划分出的子图数据;执行对于所述子图数据的计算任务,得到相应的全局数据和局部数据;将所述全局数据写入区块链网络中;所述区块链网络中的全局数据,由所述分布式计算节点集群更新;从所述区块链网络中获取最新的全局数据;根据获取的最新的全局数据和所述局部数据,迭代执行对于所述子图数据的计算任务,直到满足迭代停止条件时获得计算结果。
【技术特征摘要】
1.一种图数据处理方法,应用于分布式计算节点集群中的计算节点,包括:获取从待处理图数据中划分出的子图数据;执行对于所述子图数据的计算任务,得到相应的全局数据和局部数据;将所述全局数据写入区块链网络中;所述区块链网络中的全局数据,由所述分布式计算节点集群更新;从所述区块链网络中获取最新的全局数据;根据获取的最新的全局数据和所述局部数据,迭代执行对于所述子图数据的计算任务,直到满足迭代停止条件时获得计算结果。2.根据权利要求1所述的方法,其特征在于,所述获取从待处理图数据中划分出的子图数据,包括:获取区块链网络中广播的与待处理图数据相对应的任务信息;根据所述任务信息,读取相应的任务可执行文件和从待处理图数据中划分出的子图数据;所述执行对于所述子图数据的计算任务,得到相应的全局数据和局部数据包括:执行所述任务可执行文件,以执行对于所述子图数据的计算任务,得到相应的全局数据和局部数据。3.根据权利要求2所述的方法,其特征在于,所述获取区块链网络中广播的与待处理图数据相对应的任务信息包括:定时检测区块链网络中广播的与待处理图数据相对应的任务信息;当检测到所述任务信息时,确定当前计算节点的负载状态;当所述负载状态满足预设负载条件时,拉取所述任务信息。4.根据权利要求1所述的方法,其特征在于,所述将所述全局数据写入区块链网络中包括:创建新区块;将所述全局数据写入创建的新区块;当所述新区块通过区块链网络验证后,将所述新区块加入所述区块链网络。5.根据权利要求4所述的方法,其特征在于,所述将所述全局数据写入创建的新区块包括:将所述全局数据和相应的计算任务执行日志写入新区块;所述方法还包括:根据所述区块链网络中的计算任务执行日志,确定故障计算节点和相应的丢失数据;确定参与重建所述丢失数据的计算节点;从确定的计算节点中获取与所述故障计算节点相关的局部数据;根据获取的局部数据重建所述丢失数据。6.根据权利要求5所述的方法,其特征在于,所述方法还包括:查找本地与所述故障计算节点相关的局部数据;将查找到的局部数据共享至参与重建所述丢失数据的计算节点;共享的局部数据用于重建所述丢失数据。7.根据权利要求1所述的方法,其特征在于,所述从所述区块链网络中获取最新的全局数据包括:定时检测所述区块链网络中的区块数量;当所述区块数量增加时,获取新区块中记录的全局数据;根据获取的全局数据更新本地的全局数据。8.根据权利要求1至7任一项所述的方法,其特征在于,所述方法还包括:获取已形成相应区块链数据且已完成的计算任务所对应的第一量化值;获取未形成相应区块链数据且已完成的计算任务所对应的第二量化值;确定所述子图数据中未完成的计算任务所对应的第三量化值;当所述第二量化值和所述第三量化值不符合均衡条件时,在计算节点之间进行图节点和第一量化值的交换。9.一种图数据的计算任务发布方法,应用于控制节点,所述方法包括:获取与待处理图数据相对应的任务信息;创建新区块...
【专利技术属性】
技术研发人员:郑博,刘日佳,刘志斌,陈谦,
申请(专利权)人:腾讯科技深圳有限公司,
类型:发明
国别省市:广东,44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。