System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 分布式系统的高性能日志处理方法、设备及介质技术方案_技高网

分布式系统的高性能日志处理方法、设备及介质技术方案

技术编号:40240977 阅读:7 留言:0更新日期:2024-02-02 22:39
本申请涉及仿真技术领域,公开了一种分布式系统的高性能日志处理方法、设备及介质,应用于分布式仿真系统中的客户端,仿真系统中部署有仿真软件,方法包括:响应于用户在客户端上的操作请求,得到日志数据和用于处理操作请求的操作线程;将日志数据缓存到对应操作线程的线程缓冲区中;客户端包含至少两个不同操作线程的线程缓冲区;线程缓冲区根据操作线程类型建立;将每个线程缓冲区中的日志数据均发送到IO缓冲区;根据时序将IO缓冲区中的日志数据写入磁盘存储;根据时序将IO缓冲区中的日志数据发送到服务器端存储。本申请通过建立日志数据存储的二级缓冲区,避免了IO缓冲区频繁的向磁盘读写操作,提高了存储效率。

【技术实现步骤摘要】

本申请涉及仿真,尤其涉及一种分布式系统的高性能日志处理方法、设备及介质


技术介绍

1、面向cae(computer aided engineering,工程设计中的计算机辅助工程)领域的高性能数值计算引擎,是一个大规模复杂的数值计算系统,包括:基础框架、并行基础库、并行区域管理、cpu共享内存并行管理、cpu分布式并行管理、gpu并行管理、异构并行管理、线性代数基础库、直接求解法、迭代求解法、求解预处理器、特征值求解法、非线性求解法、时间积分器等核心组件。可以部署到单机,也可以部署到复杂的计算机集群,同时为cae各个学科(结构、流体、电磁、多体动力学等)求解器提供高效、稳定、可靠的计算求解服务。

2、相关技术中高性能数值计算引擎应用于分布式系统,为多个客户端提供计算功能,该引擎需要处理大规模和超大规模稀疏矩阵求解,求解过程复杂,在实际求解计算过程中,需要实时了解计算引擎运行状态(关键操作,关键求解步骤和关键参数),另外由于各种各样的原因(计算资源不足、网络故障、内存故障、硬盘故障、矩阵奇异、参数错误、选项设置不合理、迭代发散、精度不够、被零除、设计缺陷、实现缺陷等原因)造成求解失败等状况,都需要日志框架(系统)进行完整的记录,以实现对高性能数值计算引擎求解过程状态的监控,同时在求解失败时能够给出足够的过程信息和诊断信息的日志数据来帮助分析问题,以辅助用户修正模型与求解策略来进行高效求解,提高计算引擎的可靠性与可用性。相关技术中进行cae求解的过程涉及大量的计算和对应的日志数据,使得计算和日志存储耗时很长,影响研发人员的下一步操作。


技术实现思路

1、为解决或部分解决相关技术中存在的问题,本申请提供一种分布式系统的高性能日志处理方法、设备及介质,能够提高日志数据存储效率。

2、本申请第一方面提供一种分布式系统的高性能日志处理方法,应用于分布式仿真系统中的客户端,所述仿真系统中部署有仿真软件,方法包括:

3、响应于用户在所述客户端上的操作请求,得到日志数据和用于处理所述操作请求的操作线程;

4、将所述日志数据缓存到对应所述操作线程的线程缓冲区中;所述客户端包含至少两个不同所述操作线程的所述线程缓冲区;所述线程缓冲区根据所述操作线程类型建立;

5、将每个所述线程缓冲区中的所述日志数据均发送到io缓冲区;

6、根据时序将所述io缓冲区中的所述日志数据写入磁盘存储;

7、根据时序将所述io缓冲区中的所述日志数据发送到所述服务器端存储。

8、本申请第二方面提供一种分布式系统的高性能日志处理方法,所述将所述日志数据缓存到对应所述客户端的节点缓冲区,包括:

9、若所述客户端为历史客户端,则将所述日志数据缓存到相应所述历史客户端的所述节点缓冲区中;所述历史客户端为所述服务端历史记录的所述客户端;

10、若所述客户端的类型为非历史客户端,则创建相应所述非历史客户端的所述节点缓冲区;将所述日志数据缓存到相应所述非历史客户端的所述节点缓冲区,并将所述非历史客户端记录为历史客户端;所述非历史客户端为所述服务端历史记录中不存在的所述客户端。

11、本申请第三方面提供一种电子设备,包括:

12、处理器;以及

13、存储器,其上存储有可执行代码,当所述可执行代码被所述处理器执行时,使所述处理器执行如上任一所述的日志处理方法。

14、本申请第四方面提供一种计算机可读存储介质,其上存储有可执行代码,当所述可执行代码被电子设备的处理器执行时,使所述处理器执行如上任一所述的日志处理方法。

15、本申请提供的技术方案可以包括以下有益效果:

16、与现有技术相比较,本申请通过建立日志数据存储的二级缓冲区,降低线程直接向io缓冲区缓存的等待,避免了io缓冲区频繁的向磁盘读写操作,提高了存储效率。

17、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。

本文档来自技高网...

【技术保护点】

1.一种分布式系统的高性能日志处理方法,其特征在于,应用于分布式仿真系统中的客户端,所述仿真系统中部署有仿真软件,方法包括:

2.根据权利要求1所述的日志处理方法,其特征在于,所述将所述日志数据缓存到对应所述操作线程的相应线程缓冲区中包括:

3.根据权利要求2所述的日志处理方法,其特征在于,若所述操作线程的类型为历史类型,还包括:

4.根据权利要求1所述的日志处理方法,其特征在于,还包括:

5.一种分布式系统的高性能日志处理方法,其特征在于,应用于分布式仿真系统中的服务端,所述仿真系统中部署有仿真软件,方法包括:

6.根据权利要求5所述的日志存储方法,其特征在于,所述将所述日志数据缓存到对应所述客户端的节点缓冲区,包括:

7.根据权利要求6所述的日志存储方法,其特征在于,若所述客户端为历史客户端,还包括:

8.根据权利要求5所述的日志存储方法,其特征在于,所述根据时序将所述合并缓冲区中的所述日志数据写入磁盘存储包括:

9.一种电子设备,其特征在于,包括:

10.一种计算机可读存储介质,其特征在于,其上存储有可执行代码,当所述可执行代码被电子设备的处理器执行时,使所述处理器执行如权利要求1-4或权利要求5-8中任一项所述的日志处理方法。

...

【技术特征摘要】

1.一种分布式系统的高性能日志处理方法,其特征在于,应用于分布式仿真系统中的客户端,所述仿真系统中部署有仿真软件,方法包括:

2.根据权利要求1所述的日志处理方法,其特征在于,所述将所述日志数据缓存到对应所述操作线程的相应线程缓冲区中包括:

3.根据权利要求2所述的日志处理方法,其特征在于,若所述操作线程的类型为历史类型,还包括:

4.根据权利要求1所述的日志处理方法,其特征在于,还包括:

5.一种分布式系统的高性能日志处理方法,其特征在于,应用于分布式仿真系统中的服务端,所述仿真系统中部署有仿真软件,方法包括:

...

【专利技术属性】
技术研发人员:郑建国张鸿广刘晓包刚强
申请(专利权)人:安世亚太科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1