一种加速计算系统技术方案

技术编号:32119762 阅读:31 留言:0更新日期:2022-01-29 19:05
本申请公开了一种加速计算系统。本申请使用机载加速器和FPGA集群的控制端就可以实现对FPGA集群的启动等控制操作,机载加速器的网络加速功能还可以提高控制效率。同时,让FPGA集群的控制端直接将相关数据传输给FPGA集群,从而可以节省传输时间,提高数据传输效率,数据安全也能得到保障。再者,本申请提供的FPGA集群支持算子层面的数据处理,能够对机器学习模型中更细粒度的操作进行单独处理,因此加速计算系统的通用性更好。计算系统的通用性更好。计算系统的通用性更好。

【技术实现步骤摘要】
一种加速计算系统


[0001]本申请涉及计算机
,特别涉及一种加速计算系统。

技术介绍

[0002]目前,可以使用FPGA(Field Programmable Gate Array,现场可编程逻辑门阵列)集群对机器学习模型进行加速,但在现有加速系统中,需要在服务器中针对FPGA集群设计FPGA设备工厂类、驱动等,才能将计算任务交给FPGA集群。并且,机器学习模型涉及的相关待处理数据需要通过服务器上的机载FPGA发给FPGA集群,导致数据传输效率慢,数据安全也得不到保障。其中,针对FPGA集群的FPGA设备工厂类、驱动等,用于实现对FPGA集群的启动等操作。
[0003]因此,如何提高机器学习模型的加速系统的效率和安全性,是本领域技术人员需要解决的问题。

技术实现思路

[0004]有鉴于此,本申请的目的在于提供一种加速计算系统,以提高机器学习模型的加速系统的效率和安全性。其具体方案如下:
[0005]第一方面,本申请提供了一种加速计算系统,包括:服务器和FPGA集群,所述服务器中设有机载加速器、Tensor本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种加速计算系统,其特征在于,包括:服务器和FPGA集群,所述服务器中设有机载加速器、TensorFlow架构端和所述FPGA集群的控制端;所述FPGA集群中设有多个集群加速器,其中:所述TensorFlow架构端,用于获取任意机器学习模型中的目标算子涉及的待处理数据;所述控制端,用于从所述TensorFlow架构端获取所述待处理数据,并在所述FPGA集群中确定用于处理所述待处理数据的集群加速器名单,将所述集群加速器名单传输至所述TensorFlow架构端,以使所述TensorFlow架构端将所述集群加速器名单传输至所述机载加速器;所述机载加速器,用于启动所述集群加速器名单中的集群加速器,以使所述集群加速器名单中的集群加速器从所述控制端获取所述待处理数据进行处理,并将处理得到的处理结果返回至所述机载加速器;所述机载加速器,还用于将所述处理结果传输至所述TensorFlow架构端。2.根据权利要求1所述的加速计算系统,其特征在于,所述TensorFlow架构端具体用于:将所述待处理数据存储至自身内存,并向所述控制端开放自身内存的访问权限;相应地,所述控制端具体用于:从所述TensorFlow架构端的内存复制所述待处理数据至自身内存。3.根据权利要求2所述的加速计算系统,其特征在于,所述集群加速器名单中的集群加速器从所述控制端的内存读取所述待处理数据进行处理。4.根据权利要求3所述的加速计算系统,其特征在于,所述集群加速器名单中的集群加速器通过RDMA协议从所述控制端的内存读取所述待处理数据进行处理。5.根据权利要求1所述的加速计算系统,其特征在于,所述控制端具体用...

【专利技术属性】
技术研发人员:宿栋栋阚宏伟沈艳梅王彦伟
申请(专利权)人:浪潮电子信息产业股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1