基于云边端架构的大数据处理终端设备、处理方法和介质技术

技术编号:29132703 阅读:25 留言:0更新日期:2021-07-02 22:27
本发明专利技术提供一种基于云边端架构的大数据处理终端设备、处理方法和介质,终端设备包括:数据采集模块,用于进行数据采集;业务请求模块,用于根据待处理任务生成业务请求信息;资源调配模块,用于对执行待处理任务的负载对象进行资源调度;数据分类模块,用于对采集的数据进行分类;信息认证模块,用于对防篡改数据的资质信息进行认证;区块链模块,用于对将处理后的防篡改数据在区块链的节点中存储;本发明专利技术基于云边端架构,利用自然语言处理技术和区块链技术,可以使大数据处理的过程中减少延迟、提高可扩展性、增强对信息的访问量,并使业务开发变得更加敏捷,将终端设备接入云边网络后,自适应根据业务需求,选择合理的资源分配方式。

【技术实现步骤摘要】
基于云边端架构的大数据处理终端设备、处理方法和介质
本专利技术涉及大数据处理、计算机应用领域,尤其涉及一种基于云边端架构的大数据处理终端设备、处理方法和介质。
技术介绍
近年来随着大数据技术的不断发展,为各行各业的企业和用户都带来了巨大的便利,但随着数据更集中、更易得,也带来了数据泄露的风险,一旦这些信息被泄露将会带来伦理、法律、国家安全等诸多问题。目前,常规的大数据的存储一般是采用集中部署的方式,通过数据加密技术在不同机构之间进行交换、共享,但是随着数据互联互通的日益频繁,现有的方式,一方面资源不能得到充分调配,另一方面,已经无法保证所有的机构都可以解决数据安全问题,因此,如何加强大数据背景下的数据保护已经成为亟待解决的问题。
技术实现思路
鉴于以上所述现有技术的缺点,本专利技术提供一种基于云边端架构的大数据处理终端设备、处理方法和介质,以解决上述技术问题。本专利技术提供的基于云边端架构的大数据处理终端设备,包括:数据采集模块,用于进行数据采集;通信模块,用于与边缘节点进行数据交互;本文档来自技高网...

【技术保护点】
1.一种基于云边端架构的大数据处理终端设备,其特征在于,包括:/n数据采集模块,用于进行数据采集;/n通信模块,用于与边缘节点进行数据交互;/n业务请求模块,用于根据待处理任务生成业务请求信息,并通过所述通信模块将所述业务请求信息发送至边缘节点,所述待处理任务包括对采集的数据进行分类;/n资源调配模块,用于根据边缘节点反馈的调度信息,对执行待处理任务的负载对象进行资源调度,所述调度信息包括针对待处理任务,由边缘节点、云数据中心和终端设备三方中的任意一方对其处理,或者三方中的两方协同对其处理,或者三方协同对其进行处理;/n数据分类模块,用于对采集的数据进行分类,数据类别包括防篡改数据和普通数据;...

【技术特征摘要】
1.一种基于云边端架构的大数据处理终端设备,其特征在于,包括:
数据采集模块,用于进行数据采集;
通信模块,用于与边缘节点进行数据交互;
业务请求模块,用于根据待处理任务生成业务请求信息,并通过所述通信模块将所述业务请求信息发送至边缘节点,所述待处理任务包括对采集的数据进行分类;
资源调配模块,用于根据边缘节点反馈的调度信息,对执行待处理任务的负载对象进行资源调度,所述调度信息包括针对待处理任务,由边缘节点、云数据中心和终端设备三方中的任意一方对其处理,或者三方中的两方协同对其处理,或者三方协同对其进行处理;
数据分类模块,用于对采集的数据进行分类,数据类别包括防篡改数据和普通数据;
信息认证模块,用于对所述防篡改数据的资质信息进行认证;
区块链模块,用于对通过认证的所述防篡改数据进行数据处理,并将处理后的防篡改数据在区块链的节点中存储。


2.根据权利要求1所述的基于云边端架构的大数据处理终端设备,其特征在于,所述数据分类模块包括:
第一分类模型,用于根据数据类型进行分类,所述数据类型包括音频数据和文本数据;
第二分类模型,用于根据数据内容进行分类;
所述第一分类模型的输出端与第二分类模型的输入端连接,所述第二分类模型根据所述第一分类模型的数据分类结果,进行二次分类,获取二次分类结果,所述二次分类结果包括防篡改数据和普通数据。


3.根据权利要求2所述的基于云边端架构的大数据处理终端设备,其特征在于,还包括数据处理模块,所述待处理任务还包括将所述音频数据和文本数据进行数据分离、将所述音频数据转换为文本数据,以及对文本数据进行关键词提取;所述数据处理模块包括用于将所述音频数据和文本数据进行数据分离的分离单元、用于将所述音频数据转换为文本数据的转换单元,以及用于对文本数据进行关键词提取的提取单元。


4.根据权利要求1所述的基于云边端架构的大数据处理终端设备,其特征在于,所述信息认证模块包括用于通过固定数字证书进行认证的第一认证模块和用于通过动态数字证书对资质信息进行认证的第二认证模块,所述信息认证模块通过智能合约进行有效性验证,将验证有效的防篡改数据写入区块链并同步所有节点。


5.根据权利要求4所述的基于云边端架构的大数据处理终端设备,其特征在于,还包括加密模块,用于对所述防篡改数据进行数据加密。


6.一种基于云边端架构的大数据处理方法,其特征在于,包括:
通过终端设备进行数据采集;
与边缘节点进行数据交互,根据待处理任务生成业务请求信息,并将所述业务请求信息发送至边缘节点,所述待处理任务包括对采集的数据进行分类...

【专利技术属性】
技术研发人员:姚娟娟钟南山樊代明
申请(专利权)人:明品云北京数据科技有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1