一种数据处理单元中控制信息管理系统技术方案

本发明专利技术提出一种数据处理单元中控制信息管理系统，包括数据处理单元和与之相连的资源实体，且该数据处理单元包括通过片上互连网络进行互连的控制信息管理模块、网络协议处理模块、近数据计算模块和配置模块；该控制信息管理模块包括存储资源，用于为该网络协议处理模块和该近数据计算模块提供高速数据存储访问服务，以完成通信或者在网计算任务；且在替换存储资源内的数据时，该控制信息管理模块主动发起对该存储资源的访问，进行控制信息的更新和替换。本发明专利技术可以在大规模互联网络环境中，为数据处理单元中的其他模块提供高效、可靠的数据控制信息访问功能。数据控制信息访问功能。数据控制信息访问功能。

【技术实现步骤摘要】
一种数据处理单元中控制信息管理系统


[0001]本专利技术涉及计算机体系结构、计算机网络、数据处理单元和智能网卡
，并特别涉及一种数据处理单元中控制信息管理系统。

技术介绍

[0002]近十年，在网络通信速度的指数级增长和CPU处理频率趋于极限的大背景下，数据处理单元(Data Processing Unit，DPU)作为一种专用于卸载网络处理、加速应用性能的处理单元在各大数据中心网络崭露头角，DPU可以将CPU从繁重的网络处理任务中释放出来，并且在存储、安全、虚拟化等场景下提供加速服务，是诸如微软、亚马逊、华为、阿里巴巴等云服务厂商不可或缺的重要处理单元。
[0003]在网络规模巨大、网络协议复杂、计算任务多样化的现代数据中心网络环境中，各种网络通信数据的控制信息同样变得复杂、冗长。为DPU设计高效、可靠的数据控制信息管理机制，是保证DPU提供高性能网络服务的关键。目前数据处理单元的数据控制信息管理方法相对简单，多是对相对单一的控制信息进行简单的缓存管理，缺乏统一、高效的管理方法。
[0004]目前数据处理单元的数据控制信息管理方法相对单一，不利于数据处理单元在大规模组网的情况下进行高效的数据处理。主要表现在以下三个方面：
[0005](1)控制信息类型相对单一。多数网络通信接口中数据处理单元的数据控制信息内容相对单一，比如RDMA网络通信接口管理的控制信息主要为队列上下文信息，进行哈希计算任务卸载的控制信息主要为哈希表。当多种网络协议与计算任务并存的情况下，相对单一的控制信息管理方法难以提供高效的访问需求。
[0006](2)控制信息缓存策略相对单一。目前部分网络处理器不使用控制信息的缓存机制，部分数据处理单元的控制信息缓存采用简单的最近最少使用(Least Recently Used，LRU)策略或者随机策略，在多种控制信息并存、访问模式多样化、控制信息数据量巨大的情况下，简单的缓存策略难以保障的缓存的命中效果，需要更加细粒度的缓存策略。
[0007](3)控制信息存储位置相对单一。目前多数数据处理单元的控制信息存储在数据处理单元的片上缓存、DRAM，或者完全存储在主机端内存，在以网络为中心的大规模解耦合架构下，使用大量的片上存储资源存储数据量巨大的数据控制信息，一方面会与其他通信机制争用片上有限的缓存空间，另一个方面会增加数据处理单元的成本。因此，数据控制信息需要更合理的存储划分。

技术实现思路

[0008]在网络规模巨大、网络协议复杂、计算任务多样化的现代数据中心网络中，数据处理单元在进行数据处理过程中，需要对大量、冗长的计算、通信控制信息进行高效的读写，本专利技术的目的在于提供一种数据处理单元中高效、可靠的数据控制信息的管理方法及系统。
[0009]具体来说，本专利技术提出一种数据处理单元中控制信息管理系统，其中包括数据处理单元和与之相连的资源实体，且该数据处理单元包括通过片上互连网络进行互连的控制信息管理模块、网络协议处理模块、近数据计算模块和配置模块；
[0010]其中该配置模块，用于配置管理该控制信息管理模块；
[0011]该网络协议处理模块，用于处理网络协议，网络协议包括：TCP/IP协议、RDMA协议和上层应用通过软件配置的私有协议；
[0012]该近数据处理模块，用于对数据负载进行计算任务的卸载；
[0013]该控制信息管理模块包括存储资源，用于为该网络协议处理模块和该近数据计算模块提供高速数据存储访问服务，以完成通信或者在网计算任务；且在替换存储资源内的数据时，该控制信息管理模块主动发起对该存储资源的访问，进行控制信息的更新和替换。
[0014]所述的数据处理单元中控制信息管理系统，其中该控制信息管理模块包括片上网络接口、缓存管理单元；该存储资源包括一级缓存和二级缓存；
[0015]该片上网络接口，用于接收数据处理单元片上除控制信息管理模块以外的模块发来的控制信息；
[0016]该缓存管理单元，用于管理该存储资源，并将控制信息划分为网络协议上下文、近数据计算上下文，并根据该配置模块下发的需求对该存储资源的空间进行划分，以及对缓存策略进行调整；
[0017]该一级存储为该数据处理单元中访问速度最快的存储介质，该缓存管理单元对该一级存储进行查询，若一级存储缺失，则会发起对该二级存储的查询，否则返回查询到的控制信息；
[0018]该二级存储为该数据处理单元中访问速度低于该一级存储但存储空间大于一级存储的存储介质。
[0019]所述的数据处理单元中控制信息管理系统，其中该资源实体中包含三级存储资源，当该数据处理单元的控制信息在该控制信息管理模块中查询缺失时，根据三级存储的选择位置，通过该数据处理单元的资源实体接口A获取该三级存储资源中的控制信息。
[0020]所述的数据处理单元中控制信息管理系统，其中该资源实体中包含三级存储资源，当该数据处理单元的控制信息在该控制信息管理模块中查询缺失时，根据三级存储的选择位置，通过数据处理单元之间的互联网络，经另一数据处理单元获取该三级存储中的控制信息。
[0021]所述的数据处理单元中控制信息管理系统，其中该一级存储和该二级存储均包括通讯协议上下文缓存和近数据计算上下文缓存；
[0022]通讯协议上下文缓存，存储控制信息中用于网络协议处理的通讯协议上下文；
[0023]近数据计算上下文缓存，存储控制信息中用于近数据计算的通讯协议上下文。
[0024]所述的数据处理单元中控制信息管理系统，其中该一级存储中通讯协议上下文缓存包括连接上下文缓存和数据包上下文缓存；
[0025]该连接上下文缓存，用于存储连接粒度的通信上下文控制信息，其在新消息到达或者传输结束后被读写，并且不会被同一个消息的后续数据包访问；
[0026]该数据包上下文缓存，用于存储数据包粒度的通信上下文控制信息，其在数据包到达或传输完成或丢失时会被访问。
[0027]所述的数据处理单元中控制信息管理系统，其中该连接粒度的通信上下文控制信息包括网络数据进行节点间互联以及节点内通信使用的网络协议和连接信息；
[0028]该数据包粒度的通信上下文控制信息包括：包序列号、数据帧号和连接状态。
[0029]所述的数据处理单元中控制信息管理系统，其中该一级存储中近数据计算上下文缓存包括LRU上下文缓存、随机替换上下文缓存和软件支配上下文缓存；
[0030]该LRU上下文缓存，用于存储在进行近数据计算过程中存在时间局部性或者空间局部性关系的近数据计算上下文控制信息；对于LRU上下文缓存中控制信息，采用LRU替换策略，以提高缓存的命中率；
[0031]该随机替换上下文缓存，用于存储无局部性关系的近数据计算上下文控制信息；对于随机替换上下文缓存中控制信息，采用随机替换策略，以减少数据处理单元的逻辑资源开销；
[0032]该软件支配上下文缓存，用于存储上层软件干预缓存策略的近数据计算上下文控制信息；对于软件支配上下文本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理单元中控制信息管理系统，其特征在于，包括数据处理单元和与之相连的资源实体，且该数据处理单元包括通过片上互连网络进行互连的控制信息管理模块、网络协议处理模块、近数据计算模块和配置模块；其中该配置模块，用于配置管理该控制信息管理模块；该网络协议处理模块，用于处理网络协议，网络协议包括：TCP/IP协议、RDMA协议和上层应用通过软件配置的私有协议；该近数据处理模块，用于对数据负载进行计算任务的卸载；该控制信息管理模块包括存储资源，用于为该网络协议处理模块和该近数据计算模块提供高速数据存储访问服务，以完成通信或者在网计算任务；且在替换存储资源内的数据时，该控制信息管理模块主动发起对该存储资源的访问，进行控制信息的更新和替换。2.如权利要求1所述的数据处理单元中控制信息管理系统，其特征在于，该控制信息管理模块包括片上网络接口、缓存管理单元；该存储资源包括一级缓存和二级缓存；该片上网络接口，用于接收数据处理单元片上除控制信息管理模块以外的模块发来的控制信息；该缓存管理单元，用于管理该存储资源，并将控制信息划分为网络协议上下文、近数据计算上下文，并根据该配置模块下发的需求对该存储资源的空间进行划分，以及对缓存策略进行调整；该一级存储为该数据处理单元中访问速度最快的存储介质，该缓存管理单元对该一级存储进行查询，若一级存储缺失，则会发起对该二级存储的查询，否则返回查询到的控制信息；该二级存储为该数据处理单元中访问速度低于该一级存储但存储空间大于一级存储的存储介质。3.如权利要求2所述的数据处理单元中控制信息管理系统，其特征在于，该资源实体中包含三级存储资源，当该数据处理单元的控制信息在该控制信息管理模块中查询缺失时，根据三级存储的选择位置，通过该数据处理单元的资源实体接口A获取该三级存储资源中的控制信息。4.如权利要求2所述的数据处理单元中控制信息管理系统，其特征在于，该资源实体中包含三级存储资源，当该数据处理单元的控制信息在该控制信息管理模块中查询缺失时，根据三级存储的选择位置，通过数据处理单元之间的互联网络，经另一数据处理单元获取该三级存储中的控制信息。5.如权利要求2所述的数据处理单元中控制信息管理系统，其特征在于，该一级存储...

【专利技术属性】
技术研发人员：马潇潇，杨帆，王展，元国军，康宁，马振龙，安学军，
申请(专利权)人：中国科学院计算技术研究所，
类型：发明
国别省市：