System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 大数据处理方法及装置、计算机存储介质、电子设备制造方法及图纸_技高网

大数据处理方法及装置、计算机存储介质、电子设备制造方法及图纸

技术编号:40798009 阅读:3 留言:0更新日期:2024-03-28 19:25
本公开涉及数据处理技术领域,提供了一种大数据处理方法、大数据处理装置、计算机存储介质、电子设备,其中,大数据处理方法包括:接收业务系统实时推送的待处理数据,或者,从所述业务系统实时抽取所述待处理数据;响应于所述业务系统发送的数据处理通知,对所述待处理数据进行处理获得产出数据;将所述产出数据反馈给所述业务系统。本公开中的方法能够满足实时数据处理需求,提升数据处理的时效性。

【技术实现步骤摘要】

所属的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。下面参照图7来描述根据本公开的这种实施方式的电子设备700。图7显示的电子设备700仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。如图7所示,电子设备700以通用计算设备的形式表现。电子设备700的组件可以包括但不限于:上述至少一个处理单元710、上述至少一个存储单元720、连接不同系统组件(包括存储单元720和处理单元710)的总线730以及显示单元740。其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元710执行,使得所述处理单元710执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如,所述处理单元710可以执行如图2中所示的:步骤s210,接收业务系统实时推送的待处理数据,或者,从所述业务系统实时抽取所述待处理数据;步骤s220,响应于所述业务系统发送的数据处理通知,对所述待处理数据进行处理获得产出数据;步骤s230,将所述产出数据反馈给所述业务系统。存储单元720可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(ram)7201和/或高速缓存存储单元7202,还可以进一步包括只读存储单元(rom)7203。存储单元720还可以包括具有一组(至少一个)程序模块7205的程序/实用工具7204,这样的程序模块7205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。总线730可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。电子设备700也可以与一个或多个外部设备800(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备700交互的设备通信,和/或与使得该电子设备700能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口750进行。并且,电子设备700还可以通过网络适配器760与一个或者多个网络(例如局域网(lan),广域网(wan)和/或公共网络,例如因特网)通信。如图所示,网络适配器760通过总线730与电子设备700的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备700使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。本领域技术人员在考虑说明书及实践这里公开的专利技术后,将容易想到本公开的其他实施例。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由权利要求指出。


技术介绍

1、大数据平台是指以处理海量数据存储、计算及不间断流数据实时计算等场景为主的一套基础设施。

2、目前的大数据平台只能实现离线、定时的数据处理,当业务系统的需求为在线数据、实时执行时,无法满足此需求。

3、鉴于此,本领域亟需开发一种新的大数据处理方法及装置。

4、需要说明的是,上述
技术介绍
部分公开的信息仅用于加强对本公开的背景的理解。


技术实现思路

1、本公开的目的在于提供一种大数据处理方法、大数据处理装置、计算机存储介质及电子设备,进而至少在一定程度上克服由于相关技术的限制而导致的无法实时处理数据的技术问题。

2、本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。

3、根据本公开的第一方面,提供一种大数据处理方法,包括:

4、接收业务系统实时推送的待处理数据,或者,从所述业务系统实时抽取所述待处理数据;

5、响应于所述业务系统发送的数据处理通知,对所述待处理数据进行处理获得产出数据;

6、将所述产出数据反馈给所述业务系统。

7、在本公开的示例性实施例中,所述接收业务系统实时推送的待处理数据,包括:

8、在所述业务系统将所述待处理数据实时推送至消息队列中之后,从所述消息队列中实时消费所述待处理数据。

9、在本公开的示例性实施例中,所述接收业务系统实时推送的待处理数据,包括:

10、接收所述业务系统通过调用大数据平台的超文本传输协议接口发送的、包含所述待处理数据的数据报文。

11、在本公开的示例性实施例中,在接收所述业务系统通过调用大数据平台的超文本传输协议接口发送的、包含所述待处理数据的数据报文之后,所述方法还包括:

12、向所述业务系统反馈针对所述数据报文的响应报文,所述响应报文中包含所述待处理数据的接收状态,所述接收状态用于表征所述待处理数据是否接收成功;

13、当所述待处理数据中存在接收失败的目标数据时,接收所述业务系统再次调用所述超文本传输协议接口发送的、包含所述目标数据的数据报文。

14、在本公开的示例性实施例中,所述从所述业务系统实时抽取所述待处理数据,包括:

15、响应于所述业务系统基于远程调用协议发送的远程调用通知,从所述业务系统实时抽取所述待处理数据。

16、在本公开的示例性实施例中,所述数据处理通知中包含所述待处理数据对应的处理需求,所述处理需求包括处理时限和处理方式;

17、所述业务系统发送的数据处理通知,包括:

18、所述业务系统调用大数据平台的超文本传输协议接口发送的超文本传输协议通知,或者,所述业务系统基于远程调用协议发送的远程调用通知。

19、在本公开的示例性实施例中,所述将所述产出数据反馈给所述业务系统,包括:

20、将所述产出数据推送给所述业务系统的指定存储区;所述指定存储区包括指定数据库或缓存。

21、在本公开的示例性实施例中,当所述指定存储区为所述指定数据库时,所述将所述产出数据反馈给所述业务系统,包括:

22、通过所述大数据平台按照预先配置的数据写入配置,将所述产出数据推送至所述业务系统的所述指定数据库;

23、其中,所述数据写入配置包括所述指定数据库的网址信息和所述指定数据库的登录验证信息。

24、根据本公开的第二方面,提供一种大数据处理装置,包括:

25、数据获取模块,用于接收业务系统实时推送的待处理数据,或者,从所述业务系统实时抽取所述待处理数据;

26、数据处理模块,用于响应于所述业务系统发送的数据处理通知,对所述待处理数据进行处理获得产出数据;

27、数据本文档来自技高网...

【技术保护点】

1.一种大数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述接收业务系统实时推送的待处理数据,包括:

3.根据权利要求1所述的方法,其特征在于,所述接收业务系统实时推送的待处理数据,包括:

4.根据权利要求3所述的方法,其特征在于,在接收所述业务系统通过调用大数据平台的超文本传输协议接口发送的、包含所述待处理数据的数据报文之后,所述方法还包括:

5.根据权利要求1所述的方法,其特征在于,所述从所述业务系统实时抽取所述待处理数据,包括:

6.根据权利要求1所述的方法,其特征在于,所述数据处理通知中包含所述待处理数据对应的处理需求,所述处理需求包括处理时限和处理方式;

7.根据权利要求1至6任意一项所述的方法,其特征在于,所述将所述产出数据反馈给所述业务系统,包括:

8.根据权利要求7所述的方法,其特征在于,当所述指定存储区为所述指定数据库时,所述将所述产出数据反馈给所述业务系统,包括:

9.一种大数据处理装置,其特征在于,包括:

10.一种计算机存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1~8中任意一项所述的大数据处理方法。

11.一种电子设备,其特征在于,包括:

...

【技术特征摘要】

1.一种大数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述接收业务系统实时推送的待处理数据,包括:

3.根据权利要求1所述的方法,其特征在于,所述接收业务系统实时推送的待处理数据,包括:

4.根据权利要求3所述的方法,其特征在于,在接收所述业务系统通过调用大数据平台的超文本传输协议接口发送的、包含所述待处理数据的数据报文之后,所述方法还包括:

5.根据权利要求1所述的方法,其特征在于,所述从所述业务系统实时抽取所述待处理数据,包括:

6.根据权利要求1所述的方法,其特征在于,所述数据处理...

【专利技术属性】
技术研发人员:韩国凯郑全乐
申请(专利权)人:京东科技信息技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1