面向大规模AI数据流处理的集群汇集通信系统技术方案

本发明专利技术涉及一种面向大规模AI数据流处理的集群汇集通信系统，运用统一的流配置和路由机制，屏蔽了应用程序对内网节点、汇集节点、GPU计算节点、外部传感节点的物理地址信息，只需按照功能类别和流的名字编写通信应用，大大地降低了应用的复杂度；基于组确认通信机制，大大减少了通信确认而造成的额外开销，实现了大规模并发数据流的可靠通信，克服了基于连接的可靠通信机制耗费通信资源的弱点，大大提高了并行通信的效率；采用动态配置机制，可灵活分配传感节点、汇集节点、GPU计算节点的网络关系和网络拓扑结构，适应性强；汇集并发AI数据流提交GPU计算，充分发挥了GPU计算的SPMD优势；汇集并发数据流，充分利用DMA通信机制，大大提高了通信效率。

【技术实现步骤摘要】
面向大规模AI数据流处理的集群汇集通信系统
本专利技术涉及一种数据处理技术，特别涉及一种面向大规模AI数据流处理的集群汇集通信系统。
技术介绍
随着物联网技术和人工智能技术的飞速发展，相应的复合应用已经在各个领域展开，特别是基于视频和传感数据流的实时分析技术应用已经成为热点。例如，大规模视频监控用于公交系统拥挤度实时分析、用于大社区范围的养老照护、工业自动化分拣应用等。对于这些基于视频传感的大规模应用面临诸多问题需要解决：1)传感信息的实时处理对前端传感设备的成本提出了挑战；2)视频数据的实时传输对通讯网络产生了压力；3)视频数据的存储和传输对隐私保护问题带来了应用难点(如居家养老照护隐私问题)。这些都为边缘计算技术的应用带来了机会。其关键是构建高性能价格比的边缘计算架构、数据流汇集模型和应用支撑模式。基于GPU集群协同深度学习(DeepLearning-DL)边缘计算系统通过分解深度学习任务为2部分，一部分在前端智能传感器执行，另一部分在后端GPU集群并发执行。数以千计的前端智能传感器通过执行部分深度学习任务形成了AI数据流，并且需要把这些A本文档来自技高网...

【技术保护点】
1.一种面向大规模AI数据流处理的集群汇集通信系统，其特征在于，系统包括数千个智能传感器节点组成的传感器系统、任务配置系统、数个汇集节点组成的汇集集群网络、GPU集群中计算节点组成的计算集群网络；调用任务配置系统中调配，把数千个AI传感特征并发传输到汇集集群网络中各个汇集节点，再根据GPU计算节点的计算任务和计算能力的特性将并发的数据流单元传输到GPU集群中的各个计算节点，并按照SPMD模式统一并行实时处理。/n

【技术特征摘要】
1.一种面向大规模AI数据流处理的集群汇集通信系统，其特征在于，系统包括数千个智能传感器节点组成的传感器系统、任务配置系统、数个汇集节点组成的汇集集群网络、GPU集群中计算节点组成的计算集群网络；调用任务配置系统中调配，把数千个AI传感特征并发传输到汇集集群网络中各个汇集节点，再根据GPU计算节点的计算任务和计算能力的特性将并发的数据流单元传输到GPU集群中的各个计算节点，并按照SPMD模式统一并行实时处理。


2.根据权利要求1所述面向大规模AI数据流处理的集群汇集通信系统，其特征在于，系统数据结构：
1)AI数据流为AIDS，包括DSid,AIframeS,Pt,其中DSid为数据流标识符；AIframeS为构成该数据流的AI帧的集合，其按照时间形成序列；Pt为该AI帧的处理的时间，包括感知、汇集、计算处理，即该AIframe必须在Pt内处理完毕；AI数据流通常由智能传感节点发起，经汇集节点汇集到边缘计算集群的计算节点；
2)AI帧为Aiframe，包括DSid，frameno，AIDSUS，Pt，其中DSid为该AI帧所隶属的数据流标识符；frameno为该AI帧自然序号；AIDSUS为构成该AI帧的AI数据流单元的集合；Pt为该AI帧的处理的时间；
3)AI数据流单元为AIDSU，包括DSid，frameno,uno，Timestamp，Data，DSUsta，其中DSid为该单元所隶属的数据流标识符；uno为该AI数据流单元在frameno帧内的序号；TimeStamp为该数据流单元的生成时间戳；Data为数据流单元的数据部分，Data可以是某通信协议下的数据、控制命令；DSUsta为该数据单元的状态，当DSUsta为END时，表示为该帧的最后数据流单元；一个AIDSU可通过一个物理通信包内传输；
4)处理周期生成器为PCM，包括PCid，PCtime，其中PCid为处理周期id，PCtime为该处理周期所用的时间；PCM以PCtime为间隔生成时间序列Pt0,Pt1,Pt2,……；
5)并发AI数据流为PAIDS，为同一汇集节点汇集到的相同处理周期的数据流的集合，这个汇集节点可以是针对大规模传感节点的汇集节点，也可以是嵌套在计算节点上的汇集来自多个汇集节点的PAIDS进而形成更大规模的PAIDS；PAIDS包括PDSid，DSS，CN，Pnum，Pctime，PDSid为PAIDS的标识符，DSS为构成该PAIDS的数据流；CN为汇集该PAIDS的汇集节点，Pnum为组成该PAIDS的数据流的个数；PCtime为该并发数据流的数据流单元处理周期，即PAIDS上的所有数据流的当前处理周期的Pnum个DSU以SPMD处理方式提交给GPU节点并行处理；
6)节点地址配置表NAC为NAC，包括id，Nname，IPa，Type，Pcp，Psuc，其中id为节点标识符；Nname为节点名称；IPa为节点的IP地址；Type为节点的类型，Type为0表示该节点为传感节点，Type为1表示该节点为汇集节点，Type为2表示该节点为计算节点，Pcp为该节点的通信处理能力，Psuc为该节点通信处理成功累计平均率；
7)流配置表为DSC，包括DSid，SNid，DNid，其中DSid为数据流标识符，来自AI数据流表；SNid为该AI数据流单元的源节点，来自节点地址配置表；DNid为该AI数据流单元的目标节点，来自节点地址配置表；
8)并发流配置表为PDSC，包括PDSid，SNid，DNid，DSS，其中PDSid为该并发AI数据流标识符，来自并发AI数据流表；PSNid为该并发AI数据流的源节点，来自节点地址配置表；PDNid为该并发AI数据流的目标节点，来自节点地址配置表；DSS为该并发AI数据流所包含的数据流的集合；
9)循环AI帧缓冲区对象表为CAIBT，包括Nid,AIframe[PL][AIBL],AIBL，rl，rbl，其中Nid为该表项所对应的汇集节点编号，AIframe[][]为PL个AI帧缓冲循环队列，每一行存放一个数据流的帧，一共有PL行，代表PL个AI数据流；AIBL为...

【专利技术属性】
技术研发人员：陈庆奎，那丽春，涂聪，姜海粟，王季喜，梁荣欣，吴明杰，龚慧林，庄松林，
申请(专利权)人：上海理工大学，
类型：发明
国别省市：上海;31