【技术实现步骤摘要】
一种查询状态数据结果的方法和装置
[0001]本专利技术涉及大数据
,尤其涉及一种查询状态数据结果的方法和装置。
技术介绍
[0002]在Flink当前最新版本设计中,运行时状态查询是基于客户端/服务端模式的,用户需要手动引入客户端相关依赖,并编写定制化的查询逻辑代码。由于不同的state(用来存放计算过程的节点中间结果或元数据等,称为状态数据)往往需要不同的查询参数,所以这种查询代码一般很难复用,每次查询不同的state都要重新修改查询代码;而且查询参数难以获得。
技术实现思路
[0003]有鉴于此,本专利技术实施例提供一种查询状态数据结果的方法和装置,以解决需要手写代码和查询参数难以获得的技术问题。
[0004]为实现上述目的,根据本专利技术实施例的一个方面,提供了一种查询状态数据结果的方法,应用于作业管理节点,包括:
[0005]接收状态数据查询请求,所述状态数据查询请求携带作业标识、状态数据名称和查询主键;
[0006]根据所述作业标识和所述状态数据名称,匹配出至少一个任 ...
【技术保护点】
【技术特征摘要】
1.一种查询状态数据结果的方法,其特征在于,应用于作业管理节点,包括:接收状态数据查询请求,所述状态数据查询请求携带作业标识、状态数据名称和查询主键;根据所述作业标识和所述状态数据名称,匹配出至少一个任务计算节点,从所述至少一个任务计算节点中随机选取第一任务计算节点;根据所述状态数据名称匹配出各个哈希索引区间与各个任务计算节点信息的对应关系,向所述第一任务计算节点发送第一查询请求,所述第一查询请求携带所述查询主键以及所述各个哈希索引区间与所述各个任务计算节点地址信息的对应关系;接收所述第一任务计算节点返回的状态数据结果,返回所述状态数据结果。2.根据权利要求1所述的方法,其特征在于,接收状态数据查询请求之前,还包括:对于每个任务计算节点,接收所述任务计算节点上报的作业标识、任务计算节点标识、状态数据名称、哈希索引区间、任务计算节点地址信息;将各个任务计算节点的作业标识、任务计算节点标识、状态数据名称、哈希索引区间和任务计算节点地址信息的对应关系存储在本地内存。3.根据权利要求1所述的方法,其特征在于,接收状态数据查询请求,包括:接收网站后台转发的状态数据查询请求;其中,所述状态数据查询请求由客户端向所述网站后台发送;返回所述状态数据结果,包括:向所述网站后台返回所述状态数据结果,以使所述网站后台将所述状态数据结果转发至所述客户端。4.一种查询状态数据结果的方法,其特征在于,应用于第一任务计算节点,包括:接收作业管理节点发送的第一查询请求,所述第一查询请求携带查询主键以及各个哈希索引区间与各个任务计算节点地址信息的对应关系;根据所述查询主键计算所述查询主键对应的哈希索引,从而根据所述各个哈希索引区间与所述各个任务计算节点地址信息的对应关系,确定所述查询主键对应的第二任务计算节点地址信息;向所述第二任务计算节点发送第二查询请求,所述第二查询请求携带所述查询主键及其对应的哈希索引。5.根据权利要求4所述的方法,其特征在于,根据所述查询主键计算所述查询主键对应的哈希索引,从而根据所述各个哈希索引区间与所述各个任务计算节点地址信息的对应关系,确定所述查询主键对应的第二任务计算节点地址信息,包括:将所述查询主键转换为查询主键对象实例;其中,所述查询主键为json形式;采用哈希算法对所述查询主键对象实例进行计算,得到查询主键哈希索引,从而确定所述查询主键哈希索引所属的哈希索引区间;基于所述各个哈希索引区间与所述各个任务计算节点地址信息的对应关系,匹配出所述查询主键对应的第二任务计算节点地址信息。6.根据权利要求5所述的方法,其特征在于,将所述查询主键转换为查询主键实例对象,包括:获取主键序列化器,从而生成主键类型信息;
采用json工具库将所述查询主键和所述主键类型信息转换为查询主键实例对象。7.根据权利要求5所述的方法,其特征在于,基于所述各个哈希索引区间与所述各个任务计算节点地址信息的对应关系,匹配出所述查询主键对应的第二任务计算节点地址信息之后,还包括:获取主键序列化器;根据所述查询主键对象实例和所述主键序列化器,并通过调用本地函数生成字节数组形式的查询主键;其中,所述第二查询请求...
【专利技术属性】
技术研发人员:张政淇,付海涛,
申请(专利权)人:北京京东世纪贸易有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。