一种移动端数据采集方法技术

技术编号:24863098 阅读:25 留言:0更新日期:2020-07-10 19:13
本发明专利技术涉及数据处理技术领域,具体涉及一种移动端数据采集方法,包括获取指定的区域位置、选择对应的平台类型、选择对应的浏览器类型,通过移动端验证码完成登录,并设置浏览器的位置信息、向不同的移动端应用平台发送请求、解析Performance Log数据,获取响应数据、获取响应,针对不同的平台解析响应数据。本发明专利技术的有益效果:基于浏览器来完成与移动应用的交互,根据对应的应用平台类型来,通过与浏览器的交互,完成手机验证登录,通过Performance Log获取浏览器请求不同平台的操作日志,解析Performance Log解析应用响应数据,完成数据采集,减少人为干预,能很好的完成对应平台的数据采集,能做到所见即所得的采集效果,性能及稳定性好。

【技术实现步骤摘要】
一种移动端数据采集方法
本专利技术涉及数据处理
,具体涉及一种移动端数据采集方法。
技术介绍
随着移动互联网产品的快速发展,移动用户数据已经超过桌面互联网用户数量,在传统的桌面互联网环境中,已经存在数据采集方案来实现针对一个站点的所有数据或不同站点的相关数据的采集,但是在移动互联网环境下,由于自身的特点,传统的数据采集方案不能直接使用,基于以上特点,移动端数据采集软件在桌面互联网数据采集的基础上,通过移动端数据请求分析,模拟移动端APP,安全、稳定、高效的采集移动端平台(饿了么、美团、拼多多和微信)数据,为相关应用提供数据支撑服务。目前,现有互联网的数据采集软件主要是将互联网上的网页下载到本地形成一个互联网内容的镜像备份,按照一定的规则,采集数据。然而伴随智能手机的普及,应用软件(APP)取代网页,传统的互联网数据采集已经不能满足大数据应用需求,传统的数据采集针对HTML进行解析,无法做到与应用交互,基于以上,移动端数据采集软件针对手机移动端应用进行数据采集和交互,指定采集的平台类型,按照特定的地理位置采集区域内可用的数据并存储。
技术实现思路
本专利技术的目的在于克服现有技术中存在的问题,提供一种移动端数据采集方法,它可以实现至少一定程度上解决现有技术中的问题。为实现上述技术目的,达到上述技术效果,本专利技术是通过以下技术方案实现的:一种移动端数据采集方法,包括如下步骤:步骤1)获取指定的区域位置;步骤2)选择对应的平台类型;步骤3)选择对应的浏览器类型,通过移动端验证码完成登录,并设置浏览器的位置信息;步骤4)向不同的移动端应用平台发送请求;步骤5)解析PerformanceLog数据,获取响应数据;步骤6)获取响应,针对不同的平台解析响应数据。进一步地,所述区域位置为当前移动端所处位置。进一步地,所述浏览器类型包括chrome、IE、firefox。本专利技术的有益效果:基于浏览器来完成与移动应用的交互,根据对应的应用平台类型来,通过与浏览器的交互,完成手机验证登录,通过PerformanceLog获取浏览器请求不同平台的操作日志,解析PerformanceLog解析应用响应数据,完成数据采集,减少人为干预,能很好的完成对应平台的数据采集,能做到所见即所得的采集效果,性能及稳定性好。附图说明为了更清楚地说明本专利技术实施例的技术方案,下面将对实施例描述所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。图1为本专利技术较佳实施例的方法流程示意图。具体实施方式为了使本专利技术实现的技术手段、创作特征、达成目的与功效易于明白了解,下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本专利技术一部分实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本专利技术保护的范围。请参阅图1,图1示出了一种移动端数据采集方法,包括如下步骤:步骤1)获取指定的区域位置(如安徽省合肥市);步骤2)选择对应的平台类型(如饿了么、美团、拼多多和微信);步骤3)选择对应的浏览器类型(chrome\IE\firefox),通过移动端验证码完成登录,并设置浏览器的位置信息;步骤4)向不同的移动端应用平台发送请求;步骤5)解析PerformanceLog数据,获取响应数据;步骤6)获取响应,针对不同的平台解析响应数据(JSON)。以上公开的本专利技术优选实施例只是用于帮助阐述本专利技术。优选实施例并没有详尽叙述所有的细节,也不限制该专利技术仅为所述的具体实施方式。显然,根据本说明书的内容,可作很多的修改和变化。本说明书选取并具体描述这些实施例,是为了更好地解释本专利技术的原理和实际应用,从而使所属
技术人员能很好地理解和利用本专利技术。本专利技术仅受权利要求书及其全部范围和等效物的限制。本文档来自技高网
...

【技术保护点】
1.一种移动端数据采集方法,其特征在于,包括如下步骤:/n步骤1)获取指定的区域位置;/n步骤2)选择对应的平台类型;/n步骤3)选择对应的浏览器类型,通过移动端验证码完成登录,并设置浏览器的位置信息;/n步骤4)向不同的移动端应用平台发送请求;/n步骤5)解析Performance Log数据,获取响应数据;/n步骤6)获取响应,针对不同的平台解析响应数据。/n

【技术特征摘要】
1.一种移动端数据采集方法,其特征在于,包括如下步骤:
步骤1)获取指定的区域位置;
步骤2)选择对应的平台类型;
步骤3)选择对应的浏览器类型,通过移动端验证码完成登录,并设置浏览器的位置信息;
步骤4)向不同的移动端应用平台发送请求;
步骤5)解析PerformanceLog数据,获取...

【专利技术属性】
技术研发人员:周先东朱静轩束义志
申请(专利权)人:中新网络信息安全股份有限公司
类型:发明
国别省市:安徽;34

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1