FPGA板卡、数据处理方法及算法加速系统技术方案

技术编号:40436698 阅读:25 留言:0更新日期:2024-02-22 23:01
本申请公开了一种FPGA板卡、数据处理方法及算法加速系统。FPGA板卡包括:数据缓存模块,用于存储输入数据和数据运算结果;XDMA,包括用于与上位机进行数据传输的通信接口,XDMA用于将上位机提供的输入数据存储至数据缓存模块,以及,将数据缓存模块存储的数据运算结果发送至上位机;处理单元模块,用于根据计算逻辑顺序对输入数据进行计算处理,得到数据运算结果;DMA,用于将输入数据转移至处理单元模块,以及,将数据运算结果转移至数据缓存模块;XDMA,还用于根据上位机发送的配置指令配置处理单元模块的计算逻辑顺序。根据本申请实施例,能够将算法中的矩阵运算过程转移到FPGA板卡进行处理,缩短运算时间,提升算法运行效率,实现算法加速功能。

【技术实现步骤摘要】

本申请涉及fpga,尤其涉及一种fpga板卡、数据处理方法及算法加速系统。


技术介绍

1、随着神经网络技术的不断发展,深度学习领域逐渐由传统神经网络中的cnn(convolutional neural network,卷积神经网络)和rnn(recurrent neural network,循环神经网络)算法转变为了transformer算法等。

2、以transformer算法为例,transformer网络结构是由attention机制组成,主要用于nlp领域生成训练语言模型,例如机器翻译等。在transformer算法中包含有大量矩阵向量的乘法计算和加法计算等,若直接通过上位机的cpu(central processing unit,中央处理器)来进行矩阵计算将会非常缓慢,从而影响算法效率。


技术实现思路

1、本申请实施例提供了一种fpga板卡、数据处理方法及算法加速系统,能够解决上位机实现矩阵计算较为缓慢,影响算法效率的技术问题。

2、第一方面,本申请实施例提供一种fpga板卡本文档来自技高网...

【技术保护点】

1.一种FPGA板卡,其特征在于,所述FPGA板卡包括:

2.根据权利要求1所述的FPGA板卡,其特征在于,所述处理单元模块包括:

3.根据权利要求2所述的FPGA板卡,其特征在于,所述权重存储单元还用于存储计算ffn算子结果所需的第二权重参数;所述多个功能函数模块包括:

4.根据权利要求1所述的FPGA板卡,其特征在于,所述数据缓存模块还包括内存控制器,所述XDMA与所述内存控制器通信连接。

5.根据权利要求1所述的FPGA板卡,其特征在于,所述通信接口为PCIe。

6.一种数据处理方法,应用于权利要求1-5中任一项所述的FP...

【技术特征摘要】

1.一种fpga板卡,其特征在于,所述fpga板卡包括:

2.根据权利要求1所述的fpga板卡,其特征在于,所述处理单元模块包括:

3.根据权利要求2所述的fpga板卡,其特征在于,所述权重存储单元还用于存储计算ffn算子结果所需的第二权重参数;所述多个功能函数模块包括:

4.根据权利要求1所述的fpga板卡,其特征在于,所述数据缓存模块还包括内存控制器,所述xdma与所述内存控制器通信连接。

5.根据权利要求1所述的fpga板卡,其特征在于,所述通信接口为pcie。

6.一种数据处理方法,应用于权利要求1-5中任一项所述的fpga板卡,所述方法包括:

7.根据权利要求6所述的数据处理方法,其特征在于,所述根据所述计算逻辑顺序对所述...

【专利技术属性】
技术研发人员:吴文渊
申请(专利权)人:苏州华太电子技术股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1