一种基于计算机大数据信息采集系统技术方案

技术编号:39500160 阅读:14 留言:0更新日期:2023-11-24 11:30
本发明专利技术涉及数据采集与处理技术领域,具体为一种基于计算机大数据信息采集系统,基于计算机大数据信息采集系统是由数据融合模块

【技术实现步骤摘要】
一种基于计算机大数据信息采集系统


[0001]本专利技术涉及数据采集与处理
,尤其涉及一种基于计算机大数据信息采集系统


技术介绍

[0002]数据采集与处理技术是计算机科学和信息
的一个重要分支,旨在收集

存储

处理和分析大规模数据,以从中提取有价值的信息和见解

这个领域广泛应用于各种行业,包括企业管理

科学研究

市场营销

医疗保健等

其核心目标是通过有效的数据采集

处理和分析,帮助人们做出明智的决策

优化业务流程和发现隐藏在数据中的模式和趋势

[0003]其中,基于计算机大数据信息采集系统是一种专门设计用于采集和处理大规模数据的计算机系统

其目的是从多个数据源中搜集信息,并将其整合到一个集中的数据仓库中,以便后续分析和应用

这种系统的效果在于提供了实时

高效

准确的数据采集和处理,以支持数据驱动的决策制定和业务优化

[0004]在现有基于计算机大数据信息采集系统中,存在以下不足

首先,数据处理过程的效率和准确性被限制,漏洞与噪声数据无法被有效过滤,这会对最终的数据分析造成影响

其次,缺乏有效的数据压缩和优化算法,数据传输和存储过程中需要消耗大量资源

再次,数据采样率通常被设定为固定值,没有考虑到在不同场景和时间下,数据的重要性和有效性是可变的

此外,数据的安全性和可追溯性也是一个问题,缺乏有效的防护措施,数据易被篡改或被非法获取

最后,对于时空数据的融合与建模通常是单一固定的,没有考虑到各种数据之间的复杂关系,这使得数据分析的结果往往略显粗糙


技术实现思路

[0005]本专利技术的目的是解决现有技术中存在的缺点,而提出的一种基于计算机大数据信息采集系统

[0006]为了实现上述目的,本专利技术采用了如下技术方案:一种基于计算机大数据信息采集系统是由数据融合模块

低功耗处理模块

自适应采样模块

感知计算模块

自主感知网络模块

时空融合模块

主动数据采集模块

多模态整合模块组成;
[0007]所述数据融合模块采用随机森林算法,进行数据清洗和融合处理,生成融合数据信息;
[0008]所述低功耗处理模块基于融合数据信息,采用哈夫曼编码压缩算法,降维处理,生成压缩后的数据流;
[0009]所述自适应采样模块基于压缩后的数据流,采用
Q

learning
算法进行深度强化学习,优化数据采样率,生成优化后的数据流;
[0010]所述感知计算模块基于优化后的数据流,采用神经网络计算机视觉方法,进行环境感知分析,生成感知数据结果;
[0011]所述自主感知网络模块基于感知数据结果,利用区块链技术,构建自主感知网络,生成感知网络数据;
[0012]所述时空融合模块基于感知网络数据,应用深度卷积神经网络进行时空数据融合与建模,生成时空预测数据;
[0013]所述主动数据采集模块基于时空预测数据,采用强化学习策略梯度算法,进行自主数据采集,生成主动采集数据;
[0014]所述多模态整合模块基于主动采集数据,利用卷积神经网络方法进行图像处理与整合,生成综合分析结果

[0015]作为本专利技术的进一步方案:所述数据融合模块包括数据清洗子模块

时序分析子模块

机器学习子模块;
[0016]所述低功耗处理模块包括硬件加速子模块

数据压缩子模块

边缘计算子模块;
[0017]所述自适应采样模块包括第一深度学习子模块

资源分配子模块

数据采样子模块;
[0018]所述感知计算模块包括传感器网络子模块

计算机视觉子模块

自然语言处理子模块;
[0019]所述自主感知网络模块包括传感器部署子模块

数据传输子模块

区块链保护子模块;
[0020]所述时空融合模块包括第二深度学习子模块

时空建模子模块

地理信息子模块;
[0021]所述主动数据采集模块包括第三深度学习子模块

策略规划子模块

数据采集子模块;
[0022]所述多模态整合模块包括结构化数据子模块

非结构化数据子模块

多媒体分析子模块

[0023]作为本专利技术的进一步方案:所述数据清洗子模块采用随机森林算法,对原始数据进行异常值检测和纠正,生成清洗后的数据集;
[0024]所述时序分析子模块基于清洗后的数据集,采用时间序列分析,挖掘其中的趋势和周期性特点,生成时序分析结果;
[0025]所述机器学习子模块基于时序分析结果,运用支持向量机,精细化数据融合处理,生成融合数据信息

[0026]作为本专利技术的进一步方案:所述硬件加速子模块基于融合数据信息,运用硬件并行计算,加速数据处理,生成硬件加速处理结果;
[0027]所述数据压缩子模块基于硬件加速处理结果,采用哈夫曼编码,实现数据压缩降维,生成压缩后的数据流;
[0028]所述边缘计算子模块基于压缩后的数据流,运用边缘计算策略,在数据源近端实现高效计算,生成处理后的数据流

[0029]作为本专利技术的进一步方案:所述第一深度学习子模块运用卷积神经网络,对数据进行特征提取,生成深度学习特征结果;
[0030]所述资源分配子模块基于深度学习特征结果,应用遗传算法,进行优化资源分配,生成资源优化结果;
[0031]所述数据采样子模块基于资源优化结果,采用
Q

learning
算法,优化数据采样策
略,生成优化后的数据流

[0032]作为本专利技术的进一步方案:所述传感器网络子模块利用无线传感器网络技术,对环境进行实时监测,生成传感器采集数据;
[0033]所述计算机视觉子模块基于传感器采集数据,运用神经网络计算机视觉技术,实现对环境的可视化解析,生成初步感知数据;
[0034]所述自然语言处理子模块基于初步感知数据,应用长短时记忆网络,进行语境感知分析,生成感知数据结果

[0035]作为本专利技术的进一步方案:所述传感器部署子本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.
一种基于计算机大数据信息采集系统,其特征在于:所述基于计算机大数据信息采集系统是由数据融合模块

低功耗处理模块

自适应采样模块

感知计算模块

自主感知网络模块

时空融合模块

主动数据采集模块

多模态整合模块组成;所述数据融合模块采用随机森林算法,进行数据清洗和融合处理,生成融合数据信息;所述低功耗处理模块基于融合数据信息,采用哈夫曼编码压缩算法,降维处理,生成压缩后的数据流;所述自适应采样模块基于压缩后的数据流,采用
Q

learning
算法进行深度强化学习,优化数据采样率,生成优化后的数据流;所述感知计算模块基于优化后的数据流,采用神经网络计算机视觉方法,进行环境感知分析,生成感知数据结果;所述自主感知网络模块基于感知数据结果,利用区块链技术,构建自主感知网络,生成感知网络数据;所述时空融合模块基于感知网络数据,应用深度卷积神经网络进行时空数据融合与建模,生成时空预测数据;所述主动数据采集模块基于时空预测数据,采用强化学习策略梯度算法,进行自主数据采集,生成主动采集数据;所述多模态整合模块基于主动采集数据,利用卷积神经网络方法进行图像处理与整合,生成综合分析结果
。2.
根据权利要求1所述的基于计算机大数据信息采集系统,其特征在于:所述数据融合模块包括数据清洗子模块

时序分析子模块

机器学习子模块;所述低功耗处理模块包括硬件加速子模块

数据压缩子模块

边缘计算子模块;所述自适应采样模块包括第一深度学习子模块

资源分配子模块

数据采样子模块;所述感知计算模块包括传感器网络子模块

计算机视觉子模块

自然语言处理子模块;所述自主感知网络模块包括传感器部署子模块

数据传输子模块

区块链保护子模块;所述时空融合模块包括第二深度学习子模块

时空建模子模块

地理信息子模块;所述主动数据采集模块包括第三深度学习子模块

策略规划子模块

数据采集子模块;所述多模态整合模块包括结构化数据子模块

非结构化数据子模块

多媒体分析子模块
。3.
根据权利要求2所述的基于计算机大数据信息采集系统,其特征在于:所述数据清洗子模块采用随机森林算法,对原始数据进行异常值检测和纠正,生成清洗后的数据集;所述时序分析子模块基于清洗后的数据集,采用时间序列分析,挖掘其中的趋势和周期性特点,生成时序分析结果;所述机器学习子模块基于时序分析结果,运用支持向量机,精细化数据融合处理,生成融合数据信息
。4.
根据权利要求2...

【专利技术属性】
技术研发人员:王艳丽王静婷王锦高美琪
申请(专利权)人:西安翻译学院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1