设备运行实时数据采集及时序的数据处理方法技术

技术编号:28035200 阅读:34 留言:0更新日期:2021-04-09 23:17
本发明专利技术公开了一种设备运行实时数据采集及时序的数据处理方法,该方法为:能源站端将设备抽象为对象模型,通过模型概念将设备运行的指标数据做为设备基本属性进行全站唯一编号,根据不同的工业协议实时采集设备的时序数据并携带时标组成数据对象进行内存保存,确定所述时序数据为突变数据后,将带有时标的时序数据发送至数据中心,所述数据中心对该带有时标的时序数据进行处理。本发明专利技术能够提高大数据读写性能和提高磁盘存储使用率,为企业降低运营成本。

【技术实现步骤摘要】
设备运行实时数据采集及时序的数据处理方法
本专利技术属于工业互联网
,具体涉及一种设备运行实时数据采集及时序的数据处理方法。
技术介绍
伴随着工业互联网的普遍应用,开启了万物互联的数字化新时代,企业在生产运营过程中,为了实现实时监测设备运行状态、对异常运行设备及时告警、利用历史设备运行数据完善现有服务的目的,需要对设备运行数据进行实时采集并进行分析处理,这对数据的实时性、真实性和完整性有更高的要求。目前针对大量时序数据的处理大都采用微软、阿里等商业架构平台或者开源技术平台,商业架构平台对于一般企业收费太高,所以利用开源技术构建大数据处理平台是一个最优的选择。在现有开源技术环境下,通常选择非关系型数据库存储时序数据,但是在传统的算法处理中,对设备运行数据进行周期采样的方式已不能满足大数据的完整性要求,毫秒级的变化数据存储随着数据量TB级的增加,数据磁盘读写性能又出现不同程度的读写等性能问题,并且磁盘存储消耗巨大,那么在使用开源技术框架下解决大数据读写性能和提高磁盘存储使用率就能为企业降低运营成本。
技术实现思路
本文档来自技高网
...

【技术保护点】
1.一种设备运行实时数据采集及时序的数据处理方法,其特征在于,该方法为:能源站端将设备抽象为对象模型,通过模型概念将设备运行的指标数据做为设备基本属性进行全站唯一编号,根据不同的工业协议实时采集设备的时序数据并携带时标组成数据对象进行内存保存,确定所述时序数据为突变数据后,将带有时标的时序数据发送至数据中心,所述数据中心对该带有时标的时序数据进行处理。/n

【技术特征摘要】
1.一种设备运行实时数据采集及时序的数据处理方法,其特征在于,该方法为:能源站端将设备抽象为对象模型,通过模型概念将设备运行的指标数据做为设备基本属性进行全站唯一编号,根据不同的工业协议实时采集设备的时序数据并携带时标组成数据对象进行内存保存,确定所述时序数据为突变数据后,将带有时标的时序数据发送至数据中心,所述数据中心对该带有时标的时序数据进行处理。


2.根据权利要求1所述的设备运行实时数据采集及时序的数据处理方法,其特征在于,所述确定所述时序数据为突变数据,具体为:能源站端同时启动数据上送转发服务线程实时根据数据精度对比时序数据是否发生变化,如果发生变化则生成突变数据,如果没有发生变化则直接进行下一个时序数据判断。


3.根据权利要求1或2所述的设备运行实时数据采集及时序的数据处理方法,其特征在于,所述将带有时标的时序数据发送至数据中心,具体为:将带有时标的时序数据排队至待上送队列等待上送即可,当无网络情况下将准备上送的时序数据进行本地缓存,网络恢复后进行断点续传;所述能源站端还根据定时周期将全站数据全部上送到数据中心。


4.根据权利要求3所述的设备运行实时数据采集及时序的数据处理方法,其特征在于,所述数据中心接收各能源站端上送的所有数据,能源站端和数据中心之间通过报文流进行交互,具体为:数据流首先通过nginx代理将数据请求分发负载到各接收数据服务应用,每个应用服务依据Netty框架搭建数据接收端,当有上送的数据时自动触发数据处理机制,处理时将报文流按照指定格式进行解析,解析过程中得到电站编号、测点编号、时间戳、值4个核心数据,再根据提前初始化的配置数据进行上下限、数据类型、倍率、偏移的初级数据过滤和计算,将最终得到的数据生成...

【专利技术属性】
技术研发人员:熊玉屈展
申请(专利权)人:国华卫星数据科技有限公司
类型:发明
国别省市:甘肃;62

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1