【技术实现步骤摘要】
一种多线程异步数据传输系统及方法
[0001]本专利技术涉及计算机
，尤其涉及一种多线程异步数据传输系统与方法。
技术介绍
[0002]数据传输是影响计算机处理器内核内算术逻辑单元(ALU，arithmetic and logic unit)计算效率的重要因素，尤其是外部全局存储器与核内存储单元之间传输数据时，延迟比较长。这种延迟数据的影响，对图形处理器(GPU，graphics processing unit)这种众核处理设备也较为明显。
[0003]在通用数据计算或卷积神经网络应用场景中，通常需要传输图像或网络参数数据进入核内算术逻辑单元(ALU)进行计算，原来在数据加载与存储单元(Load and Store，LS)通过通用数据加载指令逐步进行加载，或写出指令进行写出数据的传输操作，这里使用LS来进行数据全局存储器地址计算，并通过缓存管理模块来缓存数据。然而卷积操作本身需要大量数据进行相同的乘加等运算操作，同时在卷积时所需的数据之间也具有相关性，所以数据均放置于共享存储器空间中进行存储，如图1所示。
【技术保护点】
【技术特征摘要】
1.一种多线程异步数据传输系统，其特征在于，包括线程调度器、指令发射单元、数据加载与存储单元、缓存控制存储管理单元、异步数据变换处理单元、共享存储器和共享存储器访问处理单元，所述线程调度器，用于调度异步数据加载线程和异步数据执行线程；所述指令发射单元，用于异步数据加载线程向数据加载与存储单元发射异步数据加载指令，以及异步数据执行线程向共享存储器访问处理单元发射执行指令；所述数据加载与存储单元，用于接收并解析异步数据加载指令，向异步数据变换处理单元发送异步处理记录分配请求；拆分获得异步数据加载请求并将所述异步数据加载请求发送至缓存控制存储管理单元；所述缓存控制存储管理单元，用于接收异步数据加载请求，当存在待加载的异步数据时，向数据加载与存储单元返回读取数据响应；数据加载与存储单元读取数据并发送至异步数据变换处理单元；所述异步数据变换处理单元，用于接收异步处理记录分配请求，完成异步处理记录分配，以及接收数据加载与存储单元发送的数据，将数据存储至共享存储器；所述共享存储器，用于存储数据；所述共享存储器访问处理单元，用于接收异步数据执行指令，向异步数据变换处理单元发送数据请求，若请求的数据准备就绪，则从共享存储器读取数据进行执行操作，否则将异步数据执行线程置为待唤醒状态，直到请求的数据准备就绪唤醒异步数据执行线程。2.一种多线程异步数据传输方法，其特征在于，包括以下步骤：步骤1，数据加载与存储单元接收并解析异步数据加载指令，向异步数据变换处理单元发送异步处理记录分配请求；步骤2，异步数据变换处理单元接收异步处理记录分配请求，完成异步处理记录分配，并向数据加载与存储单元发送异步处理记录分配响应；步骤3，数据加载与存储单元接收异步处理记录分配响应，拆分获得异步数据加载请求并将所述异步数据加载请求发送至缓存控制存储管理单元；步骤4，缓存控制存储管理单元接收异步数据加载请求，当存在待加载的异步数据时，向数据加载与存储单元返回读取数据响应；数据加载与存储单元读取数据并发送至异步数据变换处理单元；步骤5，异步数据变换处理单元接收数据加载与存储单元发送的数据，更新异步处理记录，将数据存储至共享存储器；步骤6，共享存储器访问处理单元接收异步数据执行指令，向异步数据变换处理单元发送数据请求，若请求的数据准备就绪，则从共享存储器读取数据进行执行操作，否则将异步数据执行线程置为待唤醒状态，直到请求的数据准备就绪唤醒异步数据执行线程。3.根据权利要求2所述的一种多线程异步数据传输方法，其特征在于，所述步骤1包括：根据异步数据加载指令携带的地址信息、访问高度与宽度信息，计算需要拆分出的异步加载数据块请求数量N，为每个异步加载数据块添加异步处理标识并分配异步处理编号；向异步数据变换处理单元发送异步处理记录分配请求，所述异步处理记录分配请求中包括线程工作组编号、异步加载数据块请求数量N、每个异步加载数据块的异步处理标识和异步处理编号。
4.根据权利要求3所述的一种多线程异步数据传输方法，其特征在于，所述步骤2包括：步骤2.1，在异步数据变换处理单元设计一组处理工作组内部异步处理信号的编号标识记录存储区域，所述编号标识记录存储区域用于存储异步处理记录表，所述异步处理记录表用于记录每个异步待返回数据块的操作；步骤2.2，异步数据变换处理单元接收异步处理记录分配请求，进行异步处理记录分配，更新异步处理记录表；步骤2.3，完成所有异步处理记录分配，并向数据加载与存储单元发送异步处理记录分配响应。5.根据权利要求4...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。