一种分布式的智能终端GPU算力提升方法以及系统技术方案

技术编号:41521703 阅读:21 留言:0更新日期:2024-05-30 14:56
本发明专利技术公开了一种分布式的智能终端GPU算力提升方法以及系统,具体包括如下步骤:步骤一:确定目标的智能终端设备需要提高的GPU算力,分析目前设备的GPU性能和需求、以及未来需要提升的性能进行估计;步骤二:根据目标的提高范围,对数据传输进行优化,使用高效的数据传输协议和技术,并在数据传输过程中加入安全机制;数据传输优化,使用更高效的数据传输协议和技术,如ZeroCopy和RDMA,以减少数据传输延迟;安全性提升:在分布式系统中加入安全机制,如加密、身份验证和访问控制,以保护数据安全;协作与同步改进:使用更高效的同步机制,如硬件支持的原子性内存操作,以减少协作和同步的开销。

【技术实现步骤摘要】

本专利技术属于智能算力,具体涉及一种分布式的智能终端gpu算力提升方法以及系统。


技术介绍

1、当前,随着人工智能在产业数字化进程中从“单点突破”迈向“泛在智能”,一个以数字化、网络化、智能化为特征的智慧社会正加速到来。智能算力作为人工智能的基石,是算力网络构建多要素融合新型信息基础设施的关键领域,已成为数字经济高质量发展的核心引擎,智能算力基础设施建设也迎来了高潮。智算中心作为集约化建设的算力基础设施,随着智能计算广泛融合到生产、生活的各个方面,以gpu、ai芯片为主要算力资源的智算中心正逐步取代通用数据中心成为算力发展的主流形态,以gpu、ai芯片等智能算力为核心,提供软硬件全栈环境,主要承载模型训练、推理、多媒体渲染等业务,支撑千行百业数智化转型升级。

2、目前传统智算中心的智算资源利用率较低,资源分布相对碎片化,不利于整体效能的提升,通常使用算力池化实现聚合各类型算力、实现敏捷化资源管理的平台,使能资源可以被极致利用,算力池化基于传统云计算技术(如kubernetes、openstack,智算中心以kubernetes为主)有针对性地增本文档来自技高网...

【技术保护点】

1.一种分布式的智能终端GPU算力提升方法,其特征在于:具体包括如下步骤:

2.根据权利要求1所述的一种分布式的智能终端GPU算力提升方法,其特征在于:所述步骤一中的具体操作步骤如下:

3.根据权利要求1所述的一种分布式的智能终端GPU算力提升方法,其特征在于:所述步骤二中,高效的数据传输协议和技术包括:

4.根据权利要求1所述的一种分布式的智能终端GPU算力提升方法,其特征在于:所述步骤四中的性能评估工具包括性能测试框架、代码分析工具、调试工具、性能数据分析工具。

5.根据权利要求1所述的一种分布式的智能终端GPU算力提升方法,其特征在于...

【技术特征摘要】

1.一种分布式的智能终端gpu算力提升方法,其特征在于:具体包括如下步骤:

2.根据权利要求1所述的一种分布式的智能终端gpu算力提升方法,其特征在于:所述步骤一中的具体操作步骤如下:

3.根据权利要求1所述的一种分布式的智能终端gpu算力提升方法,其特征在于:所述步骤二中,高效的数据传输协议和技术包括:

4.根据权利要求1所述的一种分布式的智能终端gpu算力提升方法,其特征在于:所述步骤四中的性能评估工具包括性能测试框架、代码分析工具、调试工具、性能数据分析工具。

5.根据权利要求1所述的一种分布式的智能终端gpu算力提升方法,其特征在于:所述步骤四中的性能评估工具包括性能优化工具、性能监控工具、性能报告生成工具、版本控制系统。

6.根据权利要求1所述的一种分布...

【专利技术属性】
技术研发人员:王刚张瑾袁功斌方沛宇耿彪
申请(专利权)人:北软数智科技浙江有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1