System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种远程分区处理文件方法技术_技高网

一种远程分区处理文件方法技术

技术编号:40010706 阅读:10 留言:0更新日期:2024-01-16 15:13
本发明专利技术涉及一种远程分区处理文件方法,步骤如下:S1:调整待处理文件的格式;S2:对待处理文件进行分区,S21:每个分区记录条数=总记录条数/分区个数+1;S22:拆分后每个子文件大小=每个分区记录条数*明细记录字节大小;S23:子文件命名的后缀采用part拼接序列号;S3:根据子文件命名的后缀形成各子文件的调用指令KEY;S4:为各子文件生成分区执行器,各分区执行器根据各子文件封装请求消息,将请求消息发送至MQ远程分区队列,轮询各子文件查询分区是否完成;S5:远程节点监听MQ远程分区队列消息,当接收到消息后,远程节点通过调用指令KEY读取各子文件,并进行批量处理。本发明专利技术可以对文件进行远程分区处理,降低了任务耗时,提高了文件处理效率。

【技术实现步骤摘要】

本专利技术涉及文件处理,特别涉及一种远程分区处理文件方法


技术介绍

1、企业中文件处理步骤随处可见,各个系统之间一般通过文件交互来核对日间联机数据的准确性,但随着交易量的上升,文件越来越大,处理任务耗费时间也更久。

2、因此有必要提供一种远程分区处理文件方法,以对文件进行远程分区处理,降低了任务耗时,提高了文件处理效率。


技术实现思路

1、本专利技术的目的在于提供一种远程分区处理文件方法,以对文件进行远程分区处理,降低了任务耗时,提高了文件处理效率。

2、为了解决现有技术中存在的问题,本专利技术提供了一种远程分区处理文件方法,包括以下步骤:

3、s1:调整待处理文件的格式;

4、s2:对所述待处理文件进行分区,分区方式如下:

5、s21:每个分区记录条数=总记录条数/分区个数+1;

6、s22:拆分后每个子文件大小=每个分区记录条数*明细记录字节大小;

7、s23:子文件命名的后缀采用part拼接序列号;

8、s3:根据子文件命名的后缀形成各子文件的调用指令key;

9、s4:为各子文件生成对应的分区执行器,各分区执行器根据各子文件封装请求消息,将所述请求消息发送至mq远程分区队列,轮询各子文件查询分区是否完成;

10、s5:远程节点监听mq远程分区队列消息,当接收到消息后,所述远程节点通过调用指令key读取各子文件,并进行批量处理。

11、可选的,在所述远程分区处理文件方法中,所述待处理文件的格式为:

12、首行为50位定长文件名+固定长度6位+10位文件记录条数;所述固定长度6位用于表示文件每行记录的字节大小;

13、第二行至第n行格式相同,每行代表一条记录,均为开始设置定长文件接口,长度根据首行文件头中记录的字节设定,n为所述待处理文件中记录条数的总数。

14、可选的,在所述远程分区处理文件方法中,s1之后,s2之前,还包括以下步骤:

15、计算总记录条数,总记录条数=(输入文件总大小-首行文件头长度大小)/首行中明细记录字节大小;

16、比较总记录条数与文件首行中文件记录条数,以校验的文件完整性。

17、可选的,在所述远程分区处理文件方法中,调用指令key为step名+key,所述part拼接序列号作为返回map中对应上下文的key。

18、可选的,在所述远程分区处理文件方法中,s4之后,s5之前,还包括以下步骤:远程节点进行部署,使之与所述待处理文件所在节点相同。

19、可选的,在所述远程分区处理文件方法中,远程的节点和所述待处理文件所在节点挂载相同文件目录,并有读写权限。

20、在本专利技术所提供的远程分区处理文件方法中,采用带有记录标识长度的文件格式,并以此为基础对文件进行拆分,基于springbatch进行远程分区处理,采用分治思想,可以大大减少文件处理耗费时间,提高了文件处理效率。

本文档来自技高网...

【技术保护点】

1.一种远程分区处理文件方法,其特征在于,包括以下步骤:

2.如权利要求1所述的远程分区处理文件方法,其特征在于,所述待处理文件的格式为:

3.如权利要求1所述的远程分区处理文件方法,其特征在于,S1之后,S2之前,还包括以下步骤:

4.如权利要求1所述的远程分区处理文件方法,其特征在于,调用指令KEY为step名+key,所述part拼接序列号作为返回Map中对应上下文的key。

5.如权利要求1所述的远程分区处理文件方法,其特征在于,S4之后,S5之前,还包括以下步骤:远程节点进行部署,使之与所述待处理文件所在节点相同。

6.如权利要求1所述的远程分区处理文件方法,其特征在于,远程的节点和所述待处理文件所在节点挂载相同文件目录,并有读写权限。

【技术特征摘要】

1.一种远程分区处理文件方法,其特征在于,包括以下步骤:

2.如权利要求1所述的远程分区处理文件方法,其特征在于,所述待处理文件的格式为:

3.如权利要求1所述的远程分区处理文件方法,其特征在于,s1之后,s2之前,还包括以下步骤:

4.如权利要求1所述的远程分区处理文件方法,其特征在于,调用指令key为step名+ke...

【专利技术属性】
技术研发人员:吕娇龙
申请(专利权)人:上海通联金融服务有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1