System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及超声波流量计领域,具体涉及一种基于物联网的超声波流量计数据清洗方法、系统及装置。
技术介绍
1、将超声波流量计与物联网连接,可实现对计量业务场景的全方位控制,通常为了便于传输,超声波流量计会将采集的流量、流速、气压等多源数据进行打包上传,物联网平台对数据包进行数据清洗后就没有其他处理手段,清洗后数据完全展开呈现,既不便于再传输,又打乱了上传数据中真实数据的分布状态,导致后处理分析的水平降低。
技术实现思路
1、本申请的主要目的在于提供一种基于物联网的超声波流量计数据清洗方法、系统及装置,旨在解决现有技术中由于数据清洗手段的不完善,导致了后处理分析的水平降低的问题。
2、为实现上述目的,本申请的实施例采用的技术方案如下:
3、第一方面,本申请实施例提供一种基于物联网的超声波流量计数据清洗方法,应用于物联网系统,物联网系统包括:依次交互的用户平台、服务平台、管理平台、传感网络平台以及对象平台,对象平台用于接入超声波流量计,基于物联网的超声波流量计数据清洗方法包括以下步骤:
4、对超声波流量计上传的原始数据包进行拆分,获得多个分类数据集;
5、根据多个分类数据集的数据特征,确定每个分类数据集的清洗规则;
6、根据清洗规则,对每个分类数据集分别进行数据清洗,获得清洗数据集;
7、根据原始数据包中的数据分布信息,对清洗数据集进行整合,获得目标数据包。
8、在第一方面的一种可能实现方式中,根据原始数据
9、根据原始数据包中的数据分布信息,获得清洗数据集的第一数据分布信息以及每个清洗数据集中数据的第二数据分布信息;
10、根据第一数据分布信息,对清洗数据集进行一次整合,获得整合数据;
11、根据第二数据分布信息,对整合数据进行二次整合,获得目标数据包。
12、在第一方面的一种可能实现方式中,根据第二数据分布信息,对整合数据进行二次整合,获得目标数据包,包括:
13、根据第二数据分布信息,获得每个清洗数据集中数据的时间序列排布;
14、根据时间序列排布对清洗数据集中数据进行二次整合,以使整合数据中各清洗数据集的序列长度的比值等于各分类数据集的序列长度的比值,获得目标数据包。
15、在第一方面的一种可能实现方式中,根据时间序列排布对清洗数据集中数据进行二次整合,以使整合数据中各清洗数据集的序列长度的比值等于各分类数据集的序列长度的比值,获得目标数据包之后,方法还包括:
16、判断目标数据包和原始数据包中数据的相似度是否小于相似度阈值;
17、响应于相似度小于相似度阈值,返回对超声波流量计上传的原始数据包进行拆分,获得分类数据集的步骤,循环至相似度不小于相似度阈值。
18、在第一方面的一种可能实现方式中,判断目标数据包和原始数据包中数据的相似度是否小于相似度阈值之前,方法还包括:
19、根据目标数据包和原始数据包,分别获得目标数据包和原始数据包中数据的分布相似度以及目标数据包和原始数据包中数据的序列相似度;
20、向分布相似度和序列相似度分配不同权重占比,获得目标数据包和原始数据包中数据的相似度。
21、在第一方面的一种可能实现方式中,根据多个分类数据集的数据特征,确定每个分类数据集的清洗规则,包括:
22、根据多个分类数据集的数据特征,获得清洗数据类型、清洗手段以及清洗顺序;
23、根据清洗数据类型、清洗手段以及清洗顺序,确定每个分类数据集的清洗规则。
24、在第一方面的一种可能实现方式中,对超声波流量计上传的原始数据包进行拆分,获得多个分类数据集,包括:
25、对超声波流量计上传的原始数据包进行拆解,获得多源数据;
26、对多源数据进行分类,获得多个分类数据集。
27、第二方面,本申请实施例提供一种基于物联网的超声波流量计数据清洗系统,应用于物联网系统,物联网系统包括:依次交互的用户平台、服务平台、管理平台、传感网络平台以及对象平台,对象平台用于接入超声波流量计,管理平台包括:
28、拆分模块,拆分模块用于对超声波流量计上传的原始数据包进行拆分,获得多个分类数据集;
29、确定模块,确定模块用于根据多个分类数据集的数据特征,确定每个分类数据集的清洗规则;
30、清洗模块,清洗模块用于根据清洗规则,对每个分类数据集分别进行数据清洗,获得清洗数据集;
31、整合模块,整合模块用于根据原始数据包中的数据分布信息,对清洗数据集进行整合,获得目标数据包。
32、第三方面,本申请实施例提供一种计算机可读存储介质,储存有计算机程序,计算机程序被处理器加载执行时,实现如上述第一方面中任一项提供的基于物联网的超声波流量计数据清洗方法。
33、第四方面,本申请实施例提供一种基于物联网的超声波流量计数据清洗装置,包括处理器及存储器,其中,
34、存储器用于存储计算机程序;
35、处理器用于加载执行计算机程序,以使基于物联网的超声波流量计数据清洗装置执行如上述第一方面中任一项提供的基于物联网的超声波流量计数据清洗方法。
36、与现有技术相比,本申请的有益效果是:
37、本申请实施例提出的一种基于物联网的超声波流量计数据清洗方法、系统及装置,该方法包括:对超声波流量计上传的原始数据包进行拆分,获得多个分类数据集;根据多个分类数据集的数据特征,确定每个分类数据集的清洗规则;根据清洗规则,对每个分类数据集分别进行数据清洗,获得清洗数据集;根据原始数据包中的数据分布信息,对清洗数据集进行整合,获得目标数据包。本申请通过对象平台将超声波流量计接入物联网系统,实现对超声波流量计所采集的多源数据的处理,首先将超声波流量计上传的数据包进行拆分,得到其中多源数据的类别,并将其分类得到分类数据集,然后根据分类数据集的数据特征,也即多源数据的数据特征,分别制定适合不同类别数据的清洗规则,分别进行数据清洗后,采集数据的质量得到提升,最后根据原始数据包中的数据分布信息,将清洗后的数据集整合为数据包,以便于再传输的质量,并且整合依据原始数据包中的数据分布信息,在目标数据包中还原真实数据的分布状态,能为后处理分析提供质量更好的数据,有效提升后处理分析的水平。
本文档来自技高网...【技术保护点】
1.一种基于物联网的超声波流量计数据清洗方法,其特征在于,应用于物联网系统,所述物联网系统包括:依次交互的用户平台、服务平台、管理平台、传感网络平台以及对象平台,所述对象平台用于接入超声波流量计,所述基于物联网的超声波流量计数据清洗方法包括以下步骤:
2.根据权利要求1所述的基于物联网的超声波流量计数据清洗方法,其特征在于,所述根据所述原始数据包中的数据分布信息,对所述清洗数据集进行整合,获得目标数据包,包括:
3.根据权利要求2所述的基于物联网的超声波流量计数据清洗方法,其特征在于,所述根据所述第二数据分布信息,对所述整合数据进行二次整合,获得目标数据包,包括:
4.根据权利要求3所述的基于物联网的超声波流量计数据清洗方法,其特征在于,所述根据所述时间序列排布对所述清洗数据集中数据进行二次整合,以使所述整合数据中各所述清洗数据集的序列长度的比值等于各所述分类数据集的序列长度的比值,获得目标数据包之后,所述方法还包括:
5.根据权利要求4所述的基于物联网的超声波流量计数据清洗方法,其特征在于,所述判断所述目标数据包和所述原始数据包中
6.根据权利要求1所述的基于物联网的超声波流量计数据清洗方法,其特征在于,所述根据多个所述分类数据集的数据特征,确定每个所述分类数据集的清洗规则,包括:
7.根据权利要求1所述的基于物联网的超声波流量计数据清洗方法,其特征在于,所述对所述超声波流量计上传的原始数据包进行拆分,获得多个分类数据集,包括:
8.一种基于物联网的超声波流量计数据清洗系统,其特征在于,应用于物联网系统,所述物联网系统包括:依次交互的用户平台、服务平台、管理平台、传感网络平台以及对象平台,所述对象平台用于接入超声波流量计,所述管理平台包括:
9.一种计算机可读存储介质,储存有计算机程序,其特征在于,所述计算机程序被处理器加载执行时,实现如权利要求1-7中任一项所述的基于物联网的超声波流量计数据清洗方法。
10.一种基于物联网的超声波流量计数据清洗装置,其特征在于,包括处理器及存储器,其中,
...【技术特征摘要】
1.一种基于物联网的超声波流量计数据清洗方法,其特征在于,应用于物联网系统,所述物联网系统包括:依次交互的用户平台、服务平台、管理平台、传感网络平台以及对象平台,所述对象平台用于接入超声波流量计,所述基于物联网的超声波流量计数据清洗方法包括以下步骤:
2.根据权利要求1所述的基于物联网的超声波流量计数据清洗方法,其特征在于,所述根据所述原始数据包中的数据分布信息,对所述清洗数据集进行整合,获得目标数据包,包括:
3.根据权利要求2所述的基于物联网的超声波流量计数据清洗方法,其特征在于,所述根据所述第二数据分布信息,对所述整合数据进行二次整合,获得目标数据包,包括:
4.根据权利要求3所述的基于物联网的超声波流量计数据清洗方法,其特征在于,所述根据所述时间序列排布对所述清洗数据集中数据进行二次整合,以使所述整合数据中各所述清洗数据集的序列长度的比值等于各所述分类数据集的序列长度的比值,获得目标数据包之后,所述方法还包括:
5.根据权利要求4所述的基于物联网的超声波流量计数据清洗方法...
【专利技术属性】
技术研发人员:邵泽华,李勇,吴岳飞,王峰,
申请(专利权)人:成都秦川物联网科技股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。