【技术实现步骤摘要】
数据的存储方法及装置
本专利技术涉及数据处理
,特别是涉及一种数据的存储方法及装置。
技术介绍
随着互联网技术的日益发展,海量数据时代已经来临。在海量数据时代下,如何存储和快速查询海量数据成为了大型互联网企业新的关注点。MSSQL数据库作为一款分布式数据库,由于其具有成本低、使用方便、相关软件集成程度高等优点,而受到广大互联网企业的欢迎。专利技术人在实现本专利技术的过程中,发现现有技术中存在以下技术问题,在MSSQL数据库中,数据均是以数据表形式存储的,由于,不同实体类型的实体对象包含的关键字段不同,因此,MSSQL数据库需要将不同实体类型的实体对象对应的数据内容存储至不同类型的数据表中,从而当MSSQL数据库需要对新爬取到的实体对象进行存储操作时,首先,需要在该实体对象中提取该实体对象对应的数据内容;然后,根据该实体对象对应的实体类型获取该实体对象对应的数据表;最后,将该实体对象对应的数据内容存储至该数据表中。由于,MSSQL数据库需要为不同实体类型的实体对象创建对应的数据表,因此,当MSSQL数据库涉及越来 ...
【技术保护点】
1.一种数据的存储方法,其特征在于,包括:/n对待存储实体对象进行序列化处理,以生成所述待存储实体对象对应的待存储JSON数据;/n获取所述待存储实体对象对应的唯一标识,以及获取所述待存储实体对象对应的实体类型;/n判断第一数据表中是否存储有唯一标识和实体类型与所述待存储实体对象对应的唯一标识和实体类型相匹配的已存储JSON数据,其中,所述第一数据表中存储有不同实体类型的实体对象对应的JSON数据;/n若否,则将所述待存储JSON数据存储至所述第一数据表中。/n
【技术特征摘要】
1.一种数据的存储方法,其特征在于,包括:
对待存储实体对象进行序列化处理,以生成所述待存储实体对象对应的待存储JSON数据;
获取所述待存储实体对象对应的唯一标识,以及获取所述待存储实体对象对应的实体类型;
判断第一数据表中是否存储有唯一标识和实体类型与所述待存储实体对象对应的唯一标识和实体类型相匹配的已存储JSON数据,其中,所述第一数据表中存储有不同实体类型的实体对象对应的JSON数据;
若否,则将所述待存储JSON数据存储至所述第一数据表中。
2.根据权利要求1所述的方法,其特征在于,所述获取所述待存储实体对象对应的唯一标识,包括:
判断是否存在所述待存储实体对象对应的唯一标识;
若是,则获取所述待存储实体对象对应的唯一标识;
若否,则获取所述待存储实体对象对应的实体名称;
对所述实体名称进行哈希计算,以生成所述实体名称对应的哈希值;
将所述哈希值确定为所述待存储实体对象对应的唯一标识。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
若所述第一数据表中存储有唯一标识和实体类型与所述待存储实体对象对应的唯一标识和实体类型相匹配的已存储JSON数据,则使用所述待存储JSON数据替换所述已存储JSON数据。
4.根据权利要求3所述的方法,其特征在于,所述第一数据表中还存储有所述已存储JSON数据对应的爬取时间;所述使用所述待存储JSON数据替换所述已存储JSON数据,包括:
获取所述待存储实体对象对应的爬取时间;
在所述第一数据表中使用所述待存储JSON数据替换所述已存储JSON数据,以及使用所述待存储实体对象对应的爬取时间替换所述已存储JSON数据对应的爬取时间。
5.根据权利要求1所述的方法,其特征在于,所述将所述待存储JSON数据存储至所述第一数据表中,包括:
获取所述待存储实体对象对应的爬取时间;
将所述待存...
【专利技术属性】
技术研发人员:李强,
申请(专利权)人:北京国双科技有限公司,
类型:发明
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。