一种数据处理装置及方法制造方法及图纸

技术编号:8532919 阅读:232 留言:0更新日期:2013-04-04 15:56
本发明专利技术公开了一种数据处理装置,所述装置包括:数据抓取模块,用于根据预先配置的抓取规则,进行数据抓取;数据处理模块,用于根据预先配置的数据转换规则,对所述数据抓取模块所抓取的数据进行处理,得到符合所述数据转换规则的标准数据。本发明专利技术还公开了一种数据处理方法,不需要人工进行数据筛选和处理,大大节省了人工筛选数据的时间成本,提高了工作效率,节省了人力物力,并且还能够提高数据处理的准确率。

【技术实现步骤摘要】

本专利技术涉及数据处理技术,尤其涉及。
技术介绍
由于网络的广泛应用,常常需要通过网络向用户推送数据,尤其在电子商务网站。 而通过网络向用户推送数据时,一般都是人工通过访问数据源网站,对数据源网站中推送 的大量数据进行筛选、分类等处理之后,再将数据进行编辑后推送给用户,如此,不仅造成 了人力物力的浪费,而且数据处理效率低下,且常会由于人为失误造成数据处理的准确率 不高,从而导致数据推送的效率和准确率也受到影响,并降低了用户体验。
技术实现思路
有鉴于此,本专利技术的主要目的在于提供,以解决数据推 送中数据处理效率低、浪费人力物力、以及准确率不高的问题。为达到上述目的,本专利技术的技术方案是这样实现的本专利技术提供了一种数据处理装置,所述装置包括数据抓取模块,用于根据预先配置的抓取规则,进行数据抓取;数据处理模块,用于根据预先配置的数据转换规则,对所述数据抓取模块所抓取 的数据进行处理,得到符合所述数据转换规则的标准数据。在上述方案中,所述数据抓取模块包括配置单元和抓取单元,其中,配置单元,用于配置包含有数据源信息和类型信息的抓取规则;抓取单元,用于根据所述配置单元配置的数据源信息,找到本文档来自技高网...

【技术保护点】
一种数据处理装置,其特征在于,所述装置包括:数据抓取模块,用于根据预先配置的抓取规则,进行数据抓取;数据处理模块,用于根据预先配置的数据转换规则,对所述数据抓取模块所抓取的数据进行处理,得到符合所述数据转换规则的标准数据。

【技术特征摘要】
1.一种数据处理装置,其特征在于,所述装置包括数据抓取模块,用于根据预先配置的抓取规则,进行数据抓取;数据处理模块,用于根据预先配置的数据转换规则,对所述数据抓取模块所抓取的数据进行处理,得到符合所述数据转换规则的标准数据。2.根据权利要求1所述的数据处理装置,其特征在于,所述数据抓取模块包括配置单元和抓取单元,其中,配置单元,用于配置包含有数据源信息和类型信息的抓取规则;抓取单元,用于根据所述配置单元配置的数据源信息,找到数据源,并从所述数据源中抓取、类型信息与配置单元所配置的类型信息相一致的数据。3.根据权利要求2所述的数据处理装置,其特征在于,所述配置单元包含有用于配置抓取规则的配置文件;所述配置单元,具体用于通过在所述配置文件中写入需抓取数据的数据源信息和类型信息并保存,完成抓取规则的配置;抓取单元,还用于读取所述配置单元中的配置文件,根据所述配置文件中数据源信息, 找到数据源,从所述数据源中抓取类型信息与所述配置文件中的类型信息相一致的数据。4.根据权利要求2或3所述的数据处理装置,其特征在于,所述数据源信息为数据源网站的URL ;和/或,所述类型信息为数据的品类名称。5.根据权利要求3所述的数据处理方法,其特征在于,所述配置文件为xml格式的文件。6.根据权利要求1至3任一项所述的数...

【专利技术属性】
技术研发人员:谭耀华阮威邓教武
申请(专利权)人:腾讯科技深圳有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1