System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 网络数据保存方法及其装置、设备、介质制造方法及图纸_技高网

网络数据保存方法及其装置、设备、介质制造方法及图纸

技术编号:40093388 阅读:4 留言:0更新日期:2024-01-23 16:33
本申请公开一种网络数据保存方法及其装置、设备、介质,所述方法包括:获取一个或多个分隔符分隔数据保存模板的目标保存数据类型,检测出分隔符分隔数据保存模板的动态自定义文件名作为数据保存文件名;获取不具有动态自定义文件名的分隔符分隔数据保存模板的预先配置文件名作为数据保存文件名;为各分隔符分隔数据保存模板生成数据导出器,将各数据导出器存储至导出器池中;获取从目标网站中搜索下载的网络数据实体,使用导出器池中的数据导出器,将网络数据实体中的网络数据导出至对应的分隔符分隔数据保存文件。本申请自动将从互联网搜索下载的网络数据以分隔符分隔的数据保存格式,分类保存至对应文件中,为平台优化网络数据的保存管理流程。

【技术实现步骤摘要】

本申请涉及网络数据提取领域,尤其涉及一种网络数据保存方法,此外还涉及该方法相应的装置、设备、非易失性存储介质。


技术介绍

1、现有的互联网平台通常具有其为平台用户提供各类型网络服务的平台网站,平台用户所处的用户端可打开平台网站,在平台网站对应的网页中使用平台所提供的各类型的网络服务,平台网站中各类型的网络服务一般由各类型的网络数据作为网页元素所构成,以形成平台网站所对应的网页,例如,对于互联网电商平台而言,其平台网站一般为供平台用户进行电商购物与电商销售的电商平台网站,电商平台网站的网页中具有由商品标题、商品图片或商品详细信息等电商网络数据作为网页元素所构成的电商网络服务,如电商商品浏览网络服务、电商商品详细页网络服务或电商订单网络服务等,平台通常会搜索下载自身的平台网站中的网络数据,以分析各类网络数据在平台网站的网页中所对应的页面元素进行页面优化,但在网络数据搜索下载系统在存储方面存在无法集中分类存储的问题,搜索下载的网络数据通常仅能以网站为其所定义的网站页面元素进行粗分类,平台的开发人员若想以自身的开发需求进行分类保存,仅能由开发人员自行在巨量的网络数据中进行人工筛选,这将消耗开发人员大量的时间。

2、鉴于现有的网络数据搜索下载的数据保存方面所存在的问题,本申请人出于解决该问题的考虑作出相应的探索。


技术实现思路

1、本申请的目的在于满足用户需求而提供一种网络数据保存方法,此外还涉及该方法相应的装置、设备、非易失性存储介质以及计算机程序产品。

2、为实现本申请的目的,采用如下技术方案:

3、获取一个或多个分隔符分隔数据保存模板的目标保存数据类型,检测出具有动态自定义文件名的分隔符分隔数据保存模板,将所述动态自定义文件名作为该分隔符分类数据保存模板的数据保存文件名;

4、获取不具有所述动态自定义文件名的分隔符分隔数据保存模板的预先配置文件名,将所述预先配置文件名作为该分隔符分隔数据保存模板的数据保存文件名;

5、为各所述分隔符分隔数据保存模板生成以其所述目标保存数据类型及所述数据保存文件名分别作为导出数据类型与数据保存路径的数据导出器,并将各所述数据导出器与其对应的所述数据保存文件名映射存储至导出器池中;

6、获取从目标网站中搜索下载的一个或多个网络数据实体,使用所述导出器池中的各所述数据导出器,将各所述网络数据实体中各所述分隔符分隔数据保存模板的目标保存数据类型对应的网络数据,导出至对应数据保存文件名的分隔符分隔数据保存文件中。

7、进一步的实施例中,获取一个或多个分隔符分隔数据保存模板的目标保存数据类型,检测出具有动态自定义文件名的分隔符分隔数据保存模板,将所述动态自定义文件名作为该分隔符分类数据保存模板的数据保存文件名的步骤中,包括:

8、响应动态自定义文件名编辑事件,确定所述动态自定义文件名编辑事件的目标分隔符分隔数据保存模板;

9、获取所述动态自定义文件名编辑事件的动态自定义文件名,将所述动态自定义文件名存储至所述目标分隔符分隔数据保存模板中。

10、进一步的实施例中,为各所述分隔符分隔数据保存模板生成以其所述目标保存数据类型及所述数据保存文件名分别作为导出数据类型与数据保存路径的数据导出器,并将各所述数据导出器与其对应的所述数据保存文件名映射存储至导出器池中的步骤中,包括:

11、获取分隔符分隔数据保存模板的一个或多个目标保存数据类型及数据保存文件名;

12、调用分隔符分隔数据导出器生成接口,将各所述目标保存数据类型作为导出数据类型,将所述数据保存文件名作为数据保存路径,生成作用于所述分隔符分隔数据保存模板的数据导出器;

13、生成由所述数据导出器与所述数据保存文件名组成的映射关系数据,将所述映射关系数据存储至导出器池中。

14、进一步的实施例中,获取从目标网站中搜索下载的一个或多个网络数据实体的步骤中,包括:

15、从预设的目标网站链接对应的目标网站中下载网络数据;

16、根据预设的一个或多个网络数据实体模板,从各所述网络数据中提取出各所述网络数据实体模板中预设的一个或多个目标数据类型对应的目标网络数据;

17、为各所述网络数据实体模板生成由其所述目标网络数据所组成的一个或多个网络数据实体。

18、进一步的实施例中,获取从目标网站中搜索下载的一个或多个网络数据实体,使用所述导出器池中的各所述数据导出器,将各所述网络数据实体中各所述分隔符分隔数据保存模板的目标保存数据类型对应的网络数据,导出至对应数据保存文件名的分隔符分隔数据保存文件中的步骤中,包括:

19、获取网络数据实体,确定该网络数据实体对应的分隔符分隔数据保存模板;

20、获取所述分隔符分隔数据保存模板的动态自定义文件名或预先配置文件名,在导出器池中查询出所述动态自定义文件名或所述预先配置文件名映射存储的数据导出器;

21、确定所述数据导出器对应的一个或多个导出数据类型与数据保存路径,从所述网络数据实体中获取各所述导出数据类型对应的网络数据,将各所述网络数据保存至所述数据保存路径对应的分隔符分隔数据保存文件中。

22、进一步的实施例中,将各所述网络数据实体中各所述分隔符分隔数据保存模板的目标保存数据类型对应的网络数据,导出至对应数据保存文件名的分隔符分隔数据保存文件中的步骤之后,包括:

23、响应作用于分隔符分隔数据保存文件的数据入表指令,获取所述数据入表指令对应的一个或多个入表网络数据类型匹配规则;

24、根据各所述入表网络数据类型匹配规则,从所述分隔符分隔数据保存文件中,匹配出各所述入表网络数据类型匹配规则的目标入表数据类型对应的网络数据;

25、确定所述数据入表指令对应的网络数据存储表,根据各所述入表网络数据类型匹配规则对应的目标存储列名,将各所述网络数据存储至所述网络数据存储表中对应所述目标存储列名的存储列位置。

26、进一步的实施例中,将各所述网络数据实体中各所述分隔符分隔数据保存模板的目标保存数据类型对应的网络数据,导出至对应数据保存文件名的分隔符分隔数据保存文件中的步骤之后,包括:

27、响应管理端推送的数据保存文件获取指令,获取所述数据保存文件获取指令包含的一个或多个数据保存文件名;

28、从分隔符分隔数据保存文件库中查询出所述数据保存文件名对应的目标分隔符分隔数据保存文件;

29、将各所述分隔符分隔数据保存文件封装为数据保存文件集,将所述数据保存文件集推送至所述管理端中。

30、适应本申请的目的而提出的一种网络数据保存装置,其包括:

31、动态文件名获取模块,用于获取一个或多个分隔符分隔数据保存模板的目标保存数据类型,检测出具有动态自定义文件名的分隔符分隔数据保存模板,将所述动态自定义文件名作为该分隔符分类数据保存模板的数据保存文件名;

32本文档来自技高网...

【技术保护点】

1.一种网络数据保存方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的网络数据保存方法,其特征在于,获取一个或多个分隔符分隔数据保存模板的目标保存数据类型,检测出具有动态自定义文件名的分隔符分隔数据保存模板,将所述动态自定义文件名作为该分隔符分类数据保存模板的数据保存文件名的步骤中,包括:

3.根据权利要求1所述的网络数据保存方法,其特征在于,为各所述分隔符分隔数据保存模板生成以其所述目标保存数据类型及所述数据保存文件名分别作为导出数据类型与数据保存路径的数据导出器,并将各所述数据导出器与其对应的所述数据保存文件名映射存储至导出器池中的步骤中,包括:

4.根据权利要求1所述的网络数据保存方法,其特征在于,获取从目标网站中搜索下载的一个或多个网络数据实体的步骤中,包括:

5.根据权利要求1所述的网络数据保存方法,其特征在于,获取从目标网站中搜索下载的一个或多个网络数据实体,使用所述导出器池中的各所述数据导出器,将各所述网络数据实体中各所述分隔符分隔数据保存模板的目标保存数据类型对应的网络数据,导出至对应数据保存文件名的分隔符分隔数据保存文件中的步骤中,包括:

6.根据权利要求1所述的网络数据保存方法,其特征在于,将各所述网络数据实体中各所述分隔符分隔数据保存模板的目标保存数据类型对应的网络数据,导出至对应数据保存文件名的分隔符分隔数据保存文件中的步骤之后,包括:

7.根据权利要求1所述的网络数据保存方法,其特征在于,将各所述网络数据实体中各所述分隔符分隔数据保存模板的目标保存数据类型对应的网络数据,导出至对应数据保存文件名的分隔符分隔数据保存文件中的步骤之后,包括:

8.一种网络数据保存装置,其特征在于,包括:

9.一种网络数据保存设备,包括中央处理器和存储器,其特征在于,所述中央处理器用于调用运行存储于所述存储器中的计算机程序以执行如权利要求1至7中任意一项所述的方法的步骤。

10.一种计算机可读存储介质,其特征在于,其以计算机可读指令的形式存储有依据权利要求1至7中任意一项所述的方法所实现的计算机程序,该计算机程序被计算机调用运行时,执行相应的方法所包括的步骤。

...

【技术特征摘要】

1.一种网络数据保存方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的网络数据保存方法,其特征在于,获取一个或多个分隔符分隔数据保存模板的目标保存数据类型,检测出具有动态自定义文件名的分隔符分隔数据保存模板,将所述动态自定义文件名作为该分隔符分类数据保存模板的数据保存文件名的步骤中,包括:

3.根据权利要求1所述的网络数据保存方法,其特征在于,为各所述分隔符分隔数据保存模板生成以其所述目标保存数据类型及所述数据保存文件名分别作为导出数据类型与数据保存路径的数据导出器,并将各所述数据导出器与其对应的所述数据保存文件名映射存储至导出器池中的步骤中,包括:

4.根据权利要求1所述的网络数据保存方法,其特征在于,获取从目标网站中搜索下载的一个或多个网络数据实体的步骤中,包括:

5.根据权利要求1所述的网络数据保存方法,其特征在于,获取从目标网站中搜索下载的一个或多个网络数据实体,使用所述导出器池中的各所述数据导出器,将各所述网络数据实体中各所述分隔符分隔数据保存模板的目标保存数据类型对应的网络数...

【专利技术属性】
技术研发人员:刘思兰
申请(专利权)人:广州商研网络科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1