数据分发方法、服务器及计算机可读存储介质技术

技术编号:24497344 阅读:42 留言:0更新日期:2020-06-13 03:33
本发明专利技术涉及一种数据处理技术,揭露了一种数据分发方法,该方法包括:通过定时任务调度平台启动数据处理任务;查询所述数据处理任务所处理的数据对应的所有机构信息;根据所述机构信息将所述数据处理任务按机构进行划分,生成多个子任务;将所述多个子任务发送至消息队列,从而分发到不同客户端进行并发处理;接收并记录各个客户端对所述多个子任务的处理结果。本发明专利技术还提供一种服务器及计算机可读存储介质。本发明专利技术提供的数据分发方法、服务器及计算机可读存储介质能够按机构将数据处理任务进行合理的划分,分发至不同的客户端并发处理,提高资源利用率和处理效率。

Data distribution method, server and computer readable storage medium

【技术实现步骤摘要】
数据分发方法、服务器及计算机可读存储介质
本专利技术涉及数据处理
,尤其涉及一种数据分发方法、服务器及计算机可读存储介质。
技术介绍
传统的数据库例如oracle,可以通过存储过程进行大量数据的计算与加工,但是会产生复杂、冗余、繁琐的代码,并且后期维护难度较大,同时对人员的技能要求较高,这容易造成无法及时响应业务需求、无法达到快速迭代的目标实现。并且,数据库是串行程序,无法对大量数据进行并发处理,导致资源利用率低、耗时久。另外,数据库服务经过数十年的使用验证,在数据可靠性、事务等方面比较出众,但是高昂的费用使得一般中小企业无法持续使用。目前业界会使用微服务架构结合数据库存储来进行数据处理。对于微服务架构来说,数据分发能力是代表架构能否高可用、服务能否横向扩展的重要衡量指标,如何进行数据分发是目前微服务架构领域需要考虑的重要内容。
技术实现思路
有鉴于此,本专利技术提出一种数据分发方法、服务器及计算机可读存储介质,以解决至少一个上述技术问题。首先,为实现上述目的,本专利技术提出一种数据分发方法,该方法包括本文档来自技高网...

【技术保护点】
1.一种数据分发方法,其特征在于,所述方法包括步骤:/n通过定时任务调度平台启动数据处理任务;/n查询所述数据处理任务所处理的数据对应的所有机构信息;/n根据所述机构信息将所述数据处理任务按机构进行划分,生成多个子任务;/n将所述多个子任务发送至消息队列,从而分发到不同客户端进行并发处理;及/n接收并记录各个客户端对所述多个子任务的处理结果。/n

【技术特征摘要】
1.一种数据分发方法,其特征在于,所述方法包括步骤:
通过定时任务调度平台启动数据处理任务;
查询所述数据处理任务所处理的数据对应的所有机构信息;
根据所述机构信息将所述数据处理任务按机构进行划分,生成多个子任务;
将所述多个子任务发送至消息队列,从而分发到不同客户端进行并发处理;及
接收并记录各个客户端对所述多个子任务的处理结果。


2.如权利要求1所述的数据分发方法,其特征在于,该方法还包括步骤:
监控所述消息队列的处理进度,当所述消息队列中有消息在客户端的执行出现问题时,针对出现问题的消息对应的单个子任务进行实时调整优化。


3.如权利要求2所述的数据分发方法,其特征在于,该方法还包括步骤:
监控已注册的客户端数量,根据所述客户端数量调整所述消息队列的大小。


4.如权利要求1-3任一项所述的数据分发方法,其特征在于,该方法还包括步骤:
记录所述消息队列中每条消息的消费轨迹,作为每个机构数据处理的历史记录,以供后续进行回溯或优化分析。


5.如权利要求1所述的数据分发方法,其特征在于,所述根据所述机构信息将所述数据处理任务按机构进行划分,生成多个子任务的步骤包括:
根据所述机构信息将每个机构对应的数据划分为一个子任务。<...

【专利技术属性】
技术研发人员:任练
申请(专利权)人:中国平安人寿保险股份有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1