文件存储处理方法、服务器、电子设备及存储介质技术

技术编号:23890434 阅读:45 留言:0更新日期:2020-04-22 06:14
本申请公开了文件存储处理方法、服务器、电子设备及存储介质,涉及文件存储技术领域,可用于自动驾驶。具体实现方案为:接收客户端发送的数据存储请求,所述数据存储请求中携带待存储的文件对应的索引标识信息;基于所述索引标识信息、当前时间戳和配置的随机校验数,生成存储所述文件的全局唯一路径;向所述客户端返回所述全局唯一路径,以供所述客户端根据所述全局唯一路径上传对应的所述文件。本申请通过采用上述技术方案,可以支持多用户同一时间操作同一个文件,不同的用户同写同一个文件时,会生成不同的全局唯一路径,从而可以保证文件内容不会错误,能够有效地保证文件的正确性。

【技术实现步骤摘要】
文件存储处理方法、服务器、电子设备及存储介质
本申请涉及数据处理
,尤其涉及文件存储技术,具体涉及一种文件存储处理方法、服务器、电子设备及存储介质,可用于自动驾驶。
技术介绍
现有技术中存储平台存储的数据通常可以包括两部分:索引数据和文件数据。例如,自动驾驶领域中的非实时数据,在自动驾驶车辆返回后,也需要将自动驾驶车辆上的硬盘中的数据导出至存储平台中。同理,存储数据的时候也会包含索引数据和文件数据两部分数据。其中,索引数据主要是存储描述文件的相关的属性,其中文件数据包含一大类,为需要存储至分布式文件系统(HadoopDistributedFileS4stem;HDFS)的数据。为了提高文件的存储效率,现有的存储机制中都设置文件可以并发上传并存储。其中现有技术在采用的一种上传方式为:文件上传不采用任何保护机制,可以多人同时对一个文件进行写操作。但是这种方案完全无法支持同一时间操作同一条记录,不同的用户同写同一个文件会导致文件内容错乱,正确性无法得到保证。
技术实现思路
为了解决上述技术问题,本申请提供一种文件存储处理方法、服务器、电子设备及存储介质,用于支持同一时间多个用户对同一文件的操作,且保证文件的正确性。一方面,本申请提供一种文件存储处理方法,包括:接收客户端发送的数据存储请求,所述数据存储请求中携带待存储的文件对应的索引标识信息;基于所述索引标识信息、当前时间戳和配置的随机校验数,生成存储所述文件的全局唯一路径;向所述客户端返回所述全局唯一路径,以供所述客户端根据所述全局唯一路径上传对应的所述文件。进一步可选地,如上所述的方法中,基于所述索引标识信息、当前时间戳和配置的随机校验数,生成存储所述文件的全局唯一路径,包括:根据所述索引标识信息、所述当前时间戳、所述随机校验数和存储系统的根路径,生成存储所述文件的全局唯一路径。进一步可选地,如上所述的方法中,根据所述索引标识信息、所述当前时间戳、所述随机校验数和存储系统的根路径,生成所述文件的全局唯一路径之后,所述方法还包括:在所述全局唯一路径中增加当前时间片段信息。进一步可选地,如上所述的方法中,向所述客户端返回所述全局唯一路径之后,所述方法还包括:将所述全局唯一路径存储在所述索引标识信息对应的数据索引表中;在所述数据索引表中记录所述全局唯一路径的状态为初始化状态。进一步可选地,如上所述的方法中,向所述客户端返回所述全局唯一路径之后,所述方法还包括:在所述客户端上传所述文件成功后,接收所述客户端发送的携带所述索引标识信息和所述全局唯一路径的响应消息;根据所述响应消息确定所述客户端已成功向所述全局唯一路径上传所述文件;将所述索引标识信息对应的所述数据索引表中记录的所述全局唯一路径的状态修改为文件上传成功状态。进一步可选地,如上所述的方法中,将所述索引标识信息对应的所述数据索引表中记录的所述全局唯一路径的状态修改为文件上传成功状态之后,所述方法还包括:检测所述数据索引表中是否存在同一个所述索引标识信息对应的有效数据;若存在,将同一个所述索引标识信息的其他全局唯一路径的状态设置为需删除状态。进一步可选地,如上所述的方法中,将同一个所述索引标识信息的其他全局唯一路径设置为需删除状态之后,所述方法还包括:定期对所述数据索引表中的需删除状态的所述全局唯一路径下的文件进行删除;和/或,定期检测所述数据索引表中初始化状态的设置时刻与当前时刻的时间差是否大于预设时间阈值,若是,删除所述初始化状态对应的所述全局唯一路径下的文件;将所述数据索引表中删除的文件对应的所述全局唯一路径的状态修改为已删除。另一方面,本申请还提供了一种存储系统的服务器,包括:接收模块,用于接收客户端发送的数据存储请求,所述数据存储请求中携带待存储的文件对应的索引标识信息;生成模块,用于基于所述索引标识信息、当前时间戳和配置的随机校验数,生成存储所述文件的全局唯一路径;发送模块,用于向所述客户端返回所述全局唯一路径,以供所述客户端根据所述全局唯一路径上传对应的所述文件。再一方面,本申请还提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上任一项所述的方法。又一方面,本申请还提供一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上任一项所述的方法。上述申请中的一个实施例具有如下优点或有益效果:通过接收客户端发送的数据存储请求,该数据存储请求中携带待存储的文件对应的索引标识信息;基于索引标识信息、当前时间戳和配置的随机校验数,生成存储该文件的全局唯一路径;向客户端返回全局唯一路径,以供客户端根据全局唯一路径上传文件。本申请的技术方案,可以支持多用户同一时间操作同一个文件,不同的用户同写同一个文件时,会生成不同的全局唯一路径,从而可以保证文件内容不会错误,能够有效地保证文件的正确性。根据本申请的技术方案,还能够参考存储系统的根路径以及当前时间片段信息,生成全局唯一路径,使得生成的全局唯一路径更加清晰地表明文件存储的位置。根据本申请例的技术方案,还能够在不同的状态下对全局唯一路径的状态进行修改,并及时基于全局唯一路径对冗余数据进行删除,有效地节省存储系统的空间。上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。附图说明附图用于更好地理解本方案,不构成对本申请的限定。其中:图1是根据本申请第一实施例的示意图;图2是根据本申请第二实施例的示意图;图3是根据本申请第三实施例的示意图;图4是用来实现本申请实施例的文件存储处理方法的电子设备的框图。具体实施方式以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。图1为本申请提供的文件存储处理方法实施例的流程图。如图1所示,本实施例的文件存储处理方法,具体可以包括如下步骤:S101、接收客户端发送的数据存储请求,该数据存储请求中携带待存储的文件对应的索引标识信息;S102、基于索引标识信息、当前时间戳和配置的随机校验数,生成存储该文件的全局唯一路径;S103、向客户端返回全局唯一路径,以供客户端根据全局唯一路径上传文件。本实施例的文件存储处理方法的执行主体为存储系统的服务器。具体地,在文件并发存储时,用户可以访问存储系统的客户端,将需要上传至存储系统的硬盘等存储本文档来自技高网...

【技术保护点】
1.一种文件存储处理方法,其特征在于,包括:/n接收客户端发送的数据存储请求,所述数据存储请求中携带待存储的文件对应的索引标识信息;/n基于所述索引标识信息、当前时间戳和配置的随机校验数,生成存储所述文件的全局唯一路径;/n向所述客户端返回所述全局唯一路径,以供所述客户端根据所述全局唯一路径上传对应的所述文件。/n

【技术特征摘要】
1.一种文件存储处理方法,其特征在于,包括:
接收客户端发送的数据存储请求,所述数据存储请求中携带待存储的文件对应的索引标识信息;
基于所述索引标识信息、当前时间戳和配置的随机校验数,生成存储所述文件的全局唯一路径;
向所述客户端返回所述全局唯一路径,以供所述客户端根据所述全局唯一路径上传对应的所述文件。


2.根据权利要求1所述的方法,其特征在于,基于所述索引标识信息、当前时间戳和配置的随机校验数,生成存储所述文件的全局唯一路径,包括:
根据所述索引标识信息、所述当前时间戳、所述随机校验数和存储系统的根路径,生成存储所述文件的全局唯一路径。


3.根据权利要求2所述的方法,其特征在于,根据所述索引标识信息、所述当前时间戳、所述随机校验数和存储系统的根路径,生成存储所述文件的全局唯一路径之后,所述方法还包括:
在所述全局唯一路径中增加当前时间片段信息。


4.根据权利要求1-3任一所述的方法,其特征在于,向所述客户端返回所述全局唯一路径之后,所述方法还包括:
将所述全局唯一路径存储在所述索引标识信息对应的数据索引表中;
在所述数据索引表中记录所述全局唯一路径的状态为初始化状态。


5.根据权利要求1-3任一所述的方法,其特征在于,向所述客户端返回所述全局唯一路径之后,所述方法还包括:
在所述客户端上传所述文件成功后,接收所述客户端发送的携带所述索引标识信息和所述全局唯一路径的响应消息;
根据所述响应消息确定所述客户端已成功向所述全局唯一路径上传所述文件;
将所述索引标识信息对应的所述数据索引表中记录的所述全局唯一路径的状态修改为文件上传成功状态。


6.根据权利要求5所述的方法,其特征在于,将所述索引标识信息对应的所述数据索引表中记录的所述全局唯一路径的状态修改为文件上传成功状态之后,所述方法还包括:
检测所述数据索引表中是否存在同一个所述索引标识信息对应的有效数据;
若存在,将同一个所述索引标识信息的其他全局唯一路径的状态设置为需删除状态。


7.根据权利要求6所述的方法,其特征在于,将同一个所述索引标识信息的其他全局唯一路径设置为需删除状态之后,所述方法还包括:
定期对所述数据索引表中的需删除状态的所述全局唯一路径下的文件进行删除;和/或,定期检测所述数据索引表中初始化状态的设置时刻与当前时刻的时间差是否大于预设时间阈值,若是,删除所述初始化状态对应的所述全局唯一路径下的文件;
将所述数据索引表中删除的文件对应的所述全局唯一路径的状态修改为已删除。


8.一种存储系统的服务器,其特征在于,包括:
接收模块,用于接收客户端发送的数据存储请求,所述数据存储请求中携带待存储的文件对应的索引标识信息...

【专利技术属性】
技术研发人员:周静宋国
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1