一种网页数据同步方法、装置、电子设备及存储介质制造方法及图纸

本发明专利技术实施例公开了一种网页数据同步方法、装置、电子设备及存储介质。该方法包括：获取网页变化消息，基于网页变化消息，确定变化网页数据的定位信息；调用预先构建的爬虫执行器，将定位信息输入至爬虫执行器中，并获取爬虫执行器输出的与定位信息对应的变化网页数据；确定与变化网页数据对应的索引信息，将索引信息发送至待同步引擎中，以在待同步引擎中对索引信息进行同步更新。本发明专利技术实施例的技术方案，可以提高网页数据同步过程中的效率，降低网页数据同步延迟。低网页数据同步延迟。低网页数据同步延迟。

【技术实现步骤摘要】
一种网页数据同步方法、装置、电子设备及存储介质


[0001]本专利技术实施例涉及互联网
，尤其涉及一种网页数据同步方法、装置、电子设备及存储介质。

技术介绍

[0002]Elasticsearch(es)是一个分布式、高扩展、高实时的搜索与数据分析引擎。它能很方便的使大量数据具有搜索、分析和探索的能力。由于在各种业务搜索场景下，要求源数据变动后，可以及时、精准的在es中检索到，即将变动的源数据快速同步至es，以便进行检索。
[0003]但是，当源数据为网页数据时，仍未提出一种能够低延迟的网页数据同步方法，导致影响对变动后的网页数据的检索。

技术实现思路

[0004]本专利技术实施例提供了一种网页数据同步方法、装置、电子设备及存储介质，以实现提高网页数据同步过程中的效率，降低网页数据同步延迟的目的。
[0005]根据本专利技术的一方面，提供了网页数据同步方法，包括：
[0006]获取网页变化消息，基于所述网页变化消息，确定变化网页数据的定位信息；
[0007]调用预先构建的爬虫执行器，将所述定位信息输入至所述爬虫执行器中，并获取所述爬虫执行器输出的与所述定位信息对应的变化网页数据；
[0008]确定与所述变化网页数据对应的索引信息，将所述索引信息发送至待同步引擎中，以在所述待同步引擎中对所述索引信息进行同步更新。
[0009]根据本专利技术的另一方面，提供了一种网页数据同步装置，该装置包括：
[0010]网页变化消息获取模块，用于获取网页变化消息，基于所述网页变化消息，确定变化网页数据的定位信息；
[0011]定位信息输入模块，用于调用预先构建的爬虫执行器，将所述定位信息输入至所述爬虫执行器中，并获取所述爬虫执行器输出的与所述定位信息对应的变化网页数据；
[0012]索引信息确定模块，用于确定与所述变化网页数据对应的索引信息，将所述索引信息发送至待同步引擎中，以在所述待同步引擎中对所述索引信息进行同步更新。
[0013]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0014]至少一个处理器；以及
[0015]与所述至少一个处理器通信连接的存储器；其中，
[0016]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的网页数据同步方法。
[0017]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述
的网页数据同步方法。
[0018]本专利技术实施例的技术方案，通过获取网页变化消息，基于网页变化消息，确定变化网页数据的定位信息；调用预先构建的爬虫执行器，将定位信息输入至爬虫执行器中，并获取爬虫执行器输出的与定位信息对应的变化网页数据；确定与变化网页数据对应的索引信息，将索引信息发送至待同步引擎中，以在待同步引擎中对索引信息进行同步更新，能够在数据分析引擎中同步网页数据，实现提高网页数据同步过程中的效率，降低网页数据同步延迟的作用。
[0019]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0020]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0021]图1是根据本专利技术实施例提供的一种网页数据同步方法的流程图；
[0022]图2是实现本专利技术实施例的网页数据同步过程的场景图；
[0023]图3是根据本专利技术实施例提供的一种网页数据同步装置的结构示意图；
[0024]图4是实现本专利技术实施例的网页数据同步方法的电子设备的结构示意图。
具体实施方式
[0025]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0026]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“等”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0027]图1是根据本专利技术实施例提供的一种网页数据同步方法的流程图。该方法可以由网页数据同步装置来执行，该网页数据同步装置可以采用硬件和/或软件的形式实现。
[0028]如图1所示，本实施例的方法具体可包括：
[0029]S110、获取网页变化消息，基于网页变化消息，确定变化网页数据的定位信息。
[0030]其中，网页变化消息包括当检测到存储网页数据的网页数据库中的数据发生变化后，产生的消息。存储网页数据的网页数据库可包括PostgreSQL数据库，mysql(关系型数据
库管理系统)数据库和cassandra(开源分布式NoSQL数据库系统)数据库中的至少一项。网页变化消息可包括网页添加消息、网页删除消息和网页更新消息中的至少一种消息，通过网页变化消息，可确定出变化的网页的标识、内容等信息。定位信息可包括网页的统一资源定位符。
[0031]在具体实施中，获取网页变化消息，包括：接收发布订阅消息系统发送的网页变化消息；其中，发布订阅消息系统用于检测网页数据库中的日志文件，以基于日志文件生成网页变化消息。
[0032]具体的，发布订阅消息系统可为Debezium分布式平台中的Apache Kafka系统。发布订阅消息系统对存储网页数据的网页数据库进行检测，当确定出网页数据库中存在数据变更时，则可生成网页变化消息。示例性的，数据变更可包括数据添加、数据删除和数据更新中的至少一种。发布订阅消息系统将生成的网页变化消息发生至服务器中，以提示服务器当前存在网页数据变更的情况。在具体实施中，发布订阅消息系统可通过检测网页数据库中的日志文件，如binlog文件。通过检测binlog文件中记录内容的变化，确定网页数据库中的数据是否发生变化，当检测到发生变化时，则确定变化的网页数据的网页标识和/或网页内容等信息，基于网页标识和/或网页内本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种网页数据同步方法，其特征在于，包括：获取网页变化消息，基于所述网页变化消息，确定变化网页数据的定位信息；调用预先构建的爬虫执行器，将所述定位信息输入至所述爬虫执行器中，并获取所述爬虫执行器输出的与所述定位信息对应的变化网页数据；确定与所述变化网页数据对应的索引信息，将所述索引信息发送至待同步引擎中，以在所述待同步引擎中对所述索引信息进行同步更新。2.根据权利要求1所述的方法，其特征在于，所述获取网页变化消息，包括：接收发布订阅消息系统发送的网页变化消息；其中，所述发布订阅消息系统用于检测网页数据库中的日志文件，以基于所述日志文件生成所述网页变化消息。3.根据权利要求2所述的方法，其特征在于，在所述将所述定位信息输入至所述爬虫执行器中之后，还包括：若接收到所述待同步引擎反馈的同步成功信息，则生成与所述同步成功信息对应的消费信息发送至所述发布订阅消息系统。4.根据权利要求2所述的方法，其特征在于，所述接收发布订阅消息系统发送的网页变化消息，包括：接收所述发布订阅消息系统发送的网页添加消息、网页删除消息和网页更新消息中的至少一种消息。5.根据权利要求1所述的方法，其特征在于，所述定位信息包括统一资源定位符；所述基于所述网页变化消息，确定变化网页数据的定位信息，包括：基于所述网页变化消息，确定所述变化网页数据对应的网页标识；基于预先建立的网页标识与所述统一资源定位符之间的对应关系，确定所述变化网页数据的统一资源定位符。6.根据权利要求1所述的方法，其特征在于，在所述将所述索引信息存储至待同步引擎中...

【专利技术属性】
技术研发人员：周云，李江平，袁佰煜，吴迪，
申请(专利权)人：联仁健康医疗大数据科技股份有限公司，
类型：发明
国别省市：