【技术实现步骤摘要】
一种数据处理方法、系统、接口端及服务器
本专利技术涉及大数据领域,尤其涉及一种数据处理方法、系统、接口端及服务器。
技术介绍
ApacheStorm是一个免费开源分布式、容错实时计算框架。Storm可以方便地在一个计算机集群中编写和扩展复杂的实时计算,同时保证每个消息都会得到实时可靠地处理。当前大多数基于Storm框架的实时流计算应用,都需要熟悉Storm框架的开发人员编写相应的输入组件(Spout)和处理组件(Blot),以构建与业务逻辑对应的拓扑(Topology),并提交到Storm集群上执行。对于没有Storm框架开发经验的人群来说是不能构建Topology,并提交到Storm集群上执行的,这样就需要开发人员花大量的时间去编写Spout、Blot等相关组件的代码,如此,大大增加了基于Storm框架的实时数据处理应用的开发周期,降低了开发的效率。
技术实现思路
为解决现有存在的技术问题,本专利技术实施例提供一种数据处理方法、系统、接口端及服务器。为达到上述目的,本专利技术实施例的技术方案是这样实现的:本专利技术实施例提供了一种数据处理方法,应用于接口端,包括:通 ...
【技术保护点】
一种数据处理方法,其特征在于,应用于接口端,所述方法包括:通过与服务器之间的接口获取设置界面的功能数据,并依据所述功能数据在操作人员侧终端加载所述设置界面;其中,构建业务逻辑对应的拓扑Topology所需的候选输入组件及处理组件可视地显示在所述设置界面上;响应于所述操作人员对所述候选输入组件及处理组件的选择操作,在所述设置界面的相应位置处显示选择的组件;响应于所述操作人员对选择的各组件的连接操作及对应的分组方式,在所述设置界面上可视地显示选择的各组件的连接方式及对应的分组方式,构建成可视的业务逻辑对应的Topology对象;响应于所述操作人员对构建的Topology对象的提 ...
【技术特征摘要】
1.一种数据处理方法,其特征在于,应用于接口端,所述方法包括:通过与服务器之间的接口获取设置界面的功能数据,并依据所述功能数据在操作人员侧终端加载所述设置界面;其中,构建业务逻辑对应的拓扑Topology所需的候选输入组件及处理组件可视地显示在所述设置界面上;响应于所述操作人员对所述候选输入组件及处理组件的选择操作,在所述设置界面的相应位置处显示选择的组件;响应于所述操作人员对选择的各组件的连接操作及对应的分组方式,在所述设置界面上可视地显示选择的各组件的连接方式及对应的分组方式,构建成可视的业务逻辑对应的Topology对象;响应于所述操作人员对构建的Topology对象的提交操作,通过所述接口提交所述构建的Topology对象至所述服务器。2.根据权利要求1所述的方法,其特征在于,所述通过所述接口提交所述构建的Topology对象至所述服务器,包括:将构建的可视的业务逻辑对应的Topology对象,解析成所述服务器能识别的Topology对象,并上传至所述服务器。3.根据权利要求1或2所述的方法,其特征在于,提交所述构建的Topology对象后,所述方法还包括:通过所述接口获取所述构建的Topology对象对应的Topology和Storm集群的监控信息;在所述设置界面上显示获取的监控信息;所述监控信息包括:汇总的集群信息、汇总的Topology信息、汇总的监控器Supervisor信息、Nimbus配置信息、汇总的运行Topology信息、汇总的停止Topology信息。4.一种数据处理方法,其特征在于,应用于服务器,所述方法包括:通过与接口端之间的接口向所述接口端提供加载设置界面所需的功能数据;接收所述接口端提交的第一Topology对象,并根据接收的第一Topology对象生成第二Topology对象;所述第一Topology对象为操作人员可视化构建的业务逻辑对应的Topology对象;所述第二Topology对象为Storm集群中实际运行的Topology对象;在Storm集群中执行所述第二Topology对象。5.根据权利要求4所述的方法,其特征在于,所述根据接收的第一Topology对象生成第二Topology对象,包括:通过装饰器对将所述第一Topology对象中的各输入组件及处理组件对象进行装饰处理,形成真实的输入组件及处理组件;通过选择器将所述第一Topology对象中的各连接对象进行分组处理,形成真实的连接方式;利用形成的真实的输入组件及处理组件及连接方式,生成所述第二Topology对象。6.根据权利要求4或5所述的方法,其特征在于,在Storm集群中执行所述第二Topology对象后,所述方法还包括:通过所述接口向所述接口端提供所述第二Topology对象对应的Topology和Storm集群的监控信息;所述监控信息包括:汇总的集群信息、汇总的Topology信息、汇总的Supervisor信息、Nimbus配置信息、汇总的运行Topology信息、汇总的停止Topology信息。7.一种接口端,其特征在于,所述接口端包括:界面设置单元、第一Topology生成单元及提交单元;其中,所述界面设置单元,用于通过与服务器之间的接口获取设置界面的功能数据,并依据所述功能数据在操作人员侧终端加载所述设置界面;其中,构建业务逻辑对应的Topology所需的候选输入组件及处理组件可视地显示在所述...
【专利技术属性】
技术研发人员:徐硕,
申请(专利权)人:中移苏州软件技术有限公司,中国移动通信集团公司,
类型:发明
国别省市:江苏,32
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。